Nvidia, az AI szupersztárja

1. Extrém kereslet
2. Innovatív megoldások adatközpontok számára

Extrém kereslet

Jelenleg a mesterséges intelligencia tanítása terén szó szerint az Nvidia uralkodik az Nvidia H100 Tensor Core GPU Hopper chipjeivel. Többféle változatban kaphatók: egyesek túlméretezett videokártyáknak tűnnek PCIe csatlakozóval, mások az SXM interfészhez készültek, amelyet adatközpontokba való integrálásra terveztek. A hivatalos forgalmazók ezt a kártyát rendelésre kínálják 360 000Ft-os kártyánkénti ártól, de jelenleg a kereslet messze meghaladja a kínálatot, így az eBay-en teljesen megszokott, hogy ezeket a 80 GB RAM kapacitású memóriával rendelkező kártyákat 45 000 USD-ért (több mint 12 millió forintért) adják el.

Ez azonban korántsem az NVIDIA utolsó szava az AI-gyorsítók terén. 2024. március 19-én Jensen Huang bemutatta az Nvidia H200 Blackwell AI-gyorsítók új generációját, amelyek jelentősen megnövelik a teljesítményt, miközben ugyanazt a szoftvert és infrastruktúrát használják, így viszonylag egyszerűen lehet H100-ról H200-ra frissíteni.

Az új H200 két fizikai chip összekapcsolásával jött létre úgy, hogy egyetlen egészet alkot, amelyet az alkalmazások monolitikusként érzékelnek. 208 milliárd tranzisztort tartalmaz (2,5-szer többet, mint a Hopper) csúcskategóriás 5 nm-es litográfiával, és összesen 16896 magot kínál. Minden chip 5120 bit széles memóriabusszal rendelkezik, és akár 141 GB RAM-ot képes megcímezni. Az egyes chipek NVLink busszal köthetők össze, 900 GB/s-os kétirányú átviteli sebességgel, ami lehetővé teszi akár 576 ilyen processzor egyetlen egységbe történő összekapcsolását.

Innovatív megoldások adatközpontok számára

Az Nvidia kész megoldást kínál adatközpontok számára, amely egyetlen lapon két H200 processzort tartalmaz, kiegészítve egy Nvidia Grace vezérlőprocesszorral, amelyben 72 ARM Neoverse V2 mag található, és amely mindkét H200 chip munkájának irányítását és koordinálását végzi. Ennek az egész egységnek a megadott teljesítményfelvétele 2700 watt, ezért szerverszintű tápellátást és hűtést igényel.

Az Nvidia nemcsak rendkívül nagy teljesítményű chipeket kínál, hanem komplett, kész megoldásokat is, beleértve a szoftveres oldalt, így jelenleg csak nagyon csekély versenytárssal rendelkezik. A mesterséges intelligencia iránti érdeklődés nem csekély nyereséget hoz a cégnek – és rendkívül valószínű, hogy a jövőben is megpróbálja fenntartani dominanciáját.

Az Nvidia megerősíti pozícióját az AI-gyorsítók piacának vezető szereplőjeként az Nvidia H100 Tensor Core GPU és az újabb generációs H200 Blackwell chipek bemutatásával. Ezek a termékek hihetetlen számítási kapacitást és memóriát kínálnak, és az adatközpontok magas igényeire, valamint fejlett AI-alkalmazásokra tervezték őket. Bár az ár és az elérhetőség az extrém keresletet tükrözi, az Nvidia innovatív megoldásokat is hoz a hatékonyabb és teljesítményesebb AI-munkavégzéshez, beleértve az adatközpontok számára készült integrált rendszereket. Az Nvidia dominanciája az AI-piacon nyilvánvaló, termékei és innovációi pedig új lehetőségeket nyitnak a mesterséges intelligencia fejlesztése és alkalmazása terén.