Sammen med sin seneste batch af nye mellemstore smartphone-mobile platforme, har Qualcomm givet en endnu større meddelelse på AI-dagen i San Francisco. Mobilchipgiganten spiller endnu et spil for servere efter at have forladt sit Centriq-sortiment tilbage i 2018. Denne gang udnytter virksomheden sine teknologier inden for AI for at få sin fod i sky computerdøren. Den første chip os døbt Qualcomm Cloud AI 100-platformen.
Cloud AI 100-platformen er ikke en mobil chip-pakke, det er et grundlæggende 7nm-design til AI-inferensopgaver snarere end træning. Det betyder, at chippen vil knuse antallet, der passerer gennem neurale netværk, i stedet for at blive brugt til at træne dem. Dette ser ud til at sætte Qualcomm i direkte konkurrence med Nvidias Tesla T4-serie og Google Edge TPU-inferenceschips designet til servere og cloud computing. Ligesom sine konkurrenter har Qualcomm indset, at den mest effektive AI-behandling ikke udføres på CPU'er, GPU'er og FGPA'er, men kræver en dedikeret AI-accelerator.
Med hensyn til ydeevne estimerer Qualcomm en højere end 50x høj AI-ydeevneforøgelse over kapaciteterne i dens Snapdragon 855. Snapdragon 855 tilbyder omkring 7TOPS ydelse, hvilket antyder, at Cloud AI 100 ligger i området 350TOPS. Det vil helt sikkert give Nvidias T4 et løb for sine penge. Qualcomm mener, at det også har kanten på ydelse pr. Watt og kan prale af en forbedring på 10 gange sammenlignet med branchens mest avancerede AI-inferensløsninger, der er implementeret i dag. Når du knuser store tal, kan energieffektivitet spare virksomheder enorme summer i strømregninger. Derudover ønsker Qualcomm at udnytte sin ekspertise inden for signalbehandling og 5G, så dens skyplatform kan arbejde i udkanten i fremtidens netværk med meget lav latens.
På spørgsmålet ville Qualcomm ikke kommentere, om den arkitektur, der blev brugt i Cloud AI 100, var ejendomsret eller licenseret andetsteds. Jeg spekulerer på, om dette er det første udseende af Arm's Trillium AI-arkitektur, som også er designet specifikt til inferensmængder på et lavt strømbudget. Men nok spekulation, siger Qualcomm, at den vil dele mere information om sin AI-arkitektur i fremtiden.
Endelig fungerer Qualcomms Cloud AI 100 til at støtte udviklere med de fleste, hvis ikke alle, af de branchens førende softwarestacks. Der er understøttelse af rammerne Caffe, Keras, mxnet, TensorFlow, PaddlePaddle og Cognitive Toolkit sammen med driftstider fra Glow, OnnX og XLA.
Qualcomm Cloud AI 100 forventes at begynde sampling til kunder i
