Apple Intelligence: Google-alapú felhős modellek

Az Apple Intelligence eszközközi és felhőalapú modellekkel érkezik, köztük a Google Gemini technológiájára épülő AFM 3 Pro megoldással.

Az Apple Intelligence rendszere on-device és felhőalapú modellek kombinációjára épül. A felhőben futó AFM 3 Pro modellt a Google 1,2 billió paraméteres Gemini modelljéből desztillálták, az elő- és utótanítást pedig az Apple végezte saját felhőjében. Míg az AFM 3 Cloud Pro NVIDIA GPU-kon fut a Google Cloudban, a többi modell, mint az AFM 3 Cloud és az ADM 3 Cloud Image, az Apple saját szerverein és Apple siliconon üzemel. Az eszközökön futó AFM 3 Core Advanced 20 milliárd paraméterrel rendelkezik, amiből egyszerre 1-4 milliárd aktív, futtatásához pedig A19 Pro chip szükséges az iPhone-okon. A kisebb AFM 3 Core 3 milliárd paraméteres. Az összes modellt TPU-kon tanították. A felhasználói kéréseket egy helyi orkesztrátor dolgozza fel, amely nyers adatok helyett strukturált promptokat küld a felhőbe.