Új alternatívák, nagyobb adatközpontok

1. Az AMD megközelítése az AI-gyorsítás terén
2. A Microsoft és az OpenAI saját AI-processzorai
3. Kínai innováció az AI-hardverek terén

Az AMD megközelítése az AI-gyorsítás terén

Saját gyorsítók fejlesztésére elsősorban az AMD törekszik, amely APU (Accelerated Processing Unit) architektúrán alapuló AI-gyorsítókat kínál, amelyek hagyományos processzorokat kombinálnak tenzoros egységekkel. Az AMD Instinct MI 300 gyorsítócsaládról van szó, amely két változatban érhető el: az Instinct MI 300A a mesterséges intelligencia modellek hatékony futtatására, az Instinct MI 300X pedig a gépi tanulásra készült.

Az AMD Instinct MI 300A processzorok nagy teljesítményű és skálázható számítóközpontok építésére készültek, és minden processzor 128 GB saját gyors, integrált memóriával rendelkezik. 912 mátrixszámítási egységet, 24 Zen 4 architektúrán alapuló magot, valamint Infinity Architecture-t tartalmaz a hasonló processzorok teljes hálózatával való nagysebességű kommunikációhoz.

Az AMD Instinct MI 300X processzorok gépi tanulásra és generatív AI-ra vannak optimalizálva, és saját 192 GB memóriát használnak 5,3 TB/s extrém átviteli sebességgel. 1216 mátrixszámítási egységet és nyolc AMD CDNA 3 chipletet tartalmaznak – ezek lényegében módosított grafikus chipegységek, amelyek 304 számítási egységet és 19 456 stream processzort foglalnak magukban amivel rendkívül gyorsan képesek párhuzamos műveleteket végrehajtani hatalmas mennyiségű adaton.

Az AMD tulajdonképpen évek tapasztalatát kamatoztatja mind a chiplet-architektúra terén (nagyszámú különálló szilíciumchip egyetlen tokba integrálása), mind a grafikus kártyák tervezésében, amelyek számítási egységeikkel és megosztott memória-hozzáférésükkel lehetővé teszik a számítások masszív párhuzamosítását.

Az AMD Instinct MI 300 processzorcsalád technológiailag és filozófiailag is az AMD legjobb eredményeit ötvözi – mégpedig egy könnyen skálázható megoldás formájában, így ezekből a chipekből akkora adatközpontok építhetők, amekkora szükséges akár nagy modellek betanításához, akár azok hatékony üzemeltetéséhez.

A Microsoft és az OpenAI saját AI processzorok fejlesztése

Saját AI processzorokra törekszik az OpenAI és a Microsoft is, mivel a saját processzorok révén függetlenedhetnek a harmadik féltől származó szállítmányoktól, és ez csökkentheti a nagy adatközpontok építésének költségeit is. Az OpenAI és a Microsoft nemrégiben bejelentette, hogy akár 115 milliárd dollárt is hajlandó befektetni egy mesterséges intelligencia szuperszámítógép építésébe, amelynek „Stargate" lenne a neve, és amerikai területen épülne meg.

Nem sok részlet ismert – például az, hogy az Nvidia megoldásait kívánják-e felhasználni, vagy hogy az ár tartalmazza-e a saját chipek fejlesztését is. Annyi viszont kiszivárgott, hogy ennél a szuperszámítógépnél akár több gigawattos energiafogyasztással számolnak, és saját, esetleg nukleáris energiaforrás építését is fontolgatják a tápellátásához.

A Microsoft maga is dolgozik saját architektúrákon, mint a Microsoft Azure Maia 100 és a Microsoft Azure Cobalt 100. A Cobalt egy rendkívül hatékony adatközponti processzor a Microsoft Azure szolgáltatásaihoz, amely egy 128 magos, ARM Neoverse N2 architektúrán alapuló chipre épül, és tizenkét csatornás memóriavezérlővel rendelkezik. Elsősorban virtuális gépek felhőalapú üzemeltetésére készült, hatékony és energiatakarékos működést biztosítva.

A Microsoft Azure Maia 100 egy specializált mesterséges intelligencia gyorsító. 105 milliárd tranzisztort tartalmaz, és csúcskategóriás 5 nm-es gyártási eljárást alkalmaz. Az architektúrájáról nem ismertek részletek; a Microsoft tájékoztatása szerint ezt a chipet az OpenAI-jal együttműködésben fejlesztik, amelynek széleskörű tapasztalata van a GPT modelljeivel – így elképzelhető, hogy egy kifejezetten az ő igényeikre szabott chipről van szó.

Kínai innováció az AI hardverek terén

Nem utolsósorban Kínáról sem szabad megfeledkeznünk, amely bár kereskedelmi háborúban áll az USA-val, nem szándékozik lemaradni a mesterséges intelligencia fejlesztésében. A kínai gyártó, az Intellifusion bejelentette, hogy piacra dobja a DeepEdge 10 jelölésű AI chipet, amely saját fejlesztésű NNP400T neurogyorsító architektúrájukra épül, és 48 TOPS (tera művelet másodpercenként) teljesítményt kínál mindössze 1000 jüanért (140 USD). A chip 14 nm-es gyártási eljáráson alapul, ami elmarad a nyugati csúcstechnológiáktól, és a teljesítménye is alacsonyabb, ezt viszont az árával kompenzálja, ami jelentősen alacsonyabb a csúcskategóriás AI gyorsítókénál.

A kínai gyártó célja, hogy „a konkurenciánál 90%-kal olcsóbb chippel a felhasználási esetek 90%-át lefedje", ami határozottan érdekes célkitűzés. Ez a chip megfelel a Microsoft AI PC specifikációjának, amely legalább 40 TOPS neurogyorsító teljesítményt követel meg. Meg kell azonban jegyezni, hogy hasonló teljesítményt várnak például a Snapdragon X Elite-től is, így hasonló teljesítmény ultraportable PC-kben, táblagépekben és csúcskategóriás telefonokban is elérhető lesz.