Hogyan tanul valójában a mesterséges intelligencia?

1. A mesterséges intelligencia tanulásának alapjai
2. A nagy nyelvi modellek fejlesztése és betanítása
3. Az AI emberekkel való interakcióból történő tanulásának kihívásai és kockázatai
4. Az AI jövője és biztonsági intézkedései

A mesterséges intelligencia tanulásának alapjai

Függetlenül attól, hogy manapság milyen AI modelleket használnak, általában szigorúan elkülönítik a tanulási (learning) és az üzemeltetési (inference) módot. Ezek teljesen különálló üzemmódok, amelyek eltérő működési algoritmusokkal rendelkeznek, gyökeresen különböző számítási idő- és energiaigényük van, és nem ritkán más hardveren is futtatják őket.

A modern AI esetében nagy teljesítményű hardveren hozzák létre az úgynevezett modellt, amelyet rendkívül nagy adathalmazokon tanítanak be. Leegyszerűsítve: a modell elé egy bemeneti mintát tesznek, és mérik, hogy a válasza mennyire tér el az elvárt választól – ez kicsit az iskolai oktatásra emlékeztet. Egy korrekciós algoritmus ezután módosítja és finomhangolja a modellt, hogy a válasza minél közelebb kerüljön az elvárthoz – majd jön a következő bemenet-elvárt válasz páros, és ez ismétlődik újra és újra.

A nagy nyelvi modellek fejlesztése és tanítása

A nagy nyelvi modellek (LLM, Large Language Model) tanításánál más tanulási formát alkalmaznak – ezek speciális eszközként működnek, amelyek képesek szekvenciák folytatását megjósolni. Az egész az adatok időbeli változásának előrejelzésére irányuló törekvésből indult ki, de kiderült, hogy pontosan ugyanígy lehet egy mondatot venni, és a kezdete alapján megjósolni, hogyan folytatódik.

Az LLM-ek úgynevezett kontextus nélkül, példák nélkül tanulnak (zero shot learning): hatalmas mennyiségű szöveget kapnak, amelyeket szekvenciálisan dolgoznak fel, és megtanulják az előző szavak alapján megjósolni a következőt. Bár egyszerű rendszernek tűnhet, kellően nagy számú belső paraméter mellett a modell magasabb szintű tanulási képességeket kezd mutatni, mint például a kontextus megértése, idegen nyelvek kezelése vagy matematikai feladatok megoldása.

A nagy modelleken tényleg semmi sem egyszerű. Például a GPT-4-nek 1,7 billió belső paramétere van, vagyis ennyi belső érték kerül beállításra a tanítás során. (Ha a „trillion" kifejezéssel találkozol, az sajnos azzal függ össze, hogy az amerikaiak másképp jelölik a nagy számokat, mint az európaiak, de mindkét esetben 1,7*10¹² paraméterről van szó.) A tanításához felhasznált adatmennyiséget akár 45 TB szövegre becsülik.

A tanítás eredménye egy modell, amely a kapcsolati struktúrából és az egyes paraméterek értékeiből áll. Ezt a modellt lehet felhőalapú szervereken futtatni, de ha elég kicsi, önállóan is terjeszthető, és a felhasználók számítógépein vagy telefonjain is futtatható. Maga a tanítás költséges és időigényes, de a modell terjesztése és futtatása már nem az, és ez óriási előny.

Az AI emberekkel való interakcióból történő tanulásának kihívásai és kockázatai

Az emberek és élőlények „menet közben tanulnak", visszajelzéseket és folyamatos tanulást használnak, de a mesterséges intelligencia esetében ez komoly problémák forrása lehet. Az emberekkel való interakcióból tanuló mesterséges intelligencia gyakran ki van téve rosszindulatú viselkedésnek, ahogy az 2016-ban is kiderült, amikor a Microsoft elérhetővé tette a Tay.AI chatbotot: 16 óra alatt rosszindulatú egyéneknek sikerült meggyőzniük az intelligenciát, hogy „Hitler rendben volt" (a biztonság kedvéért: Hitler a valóságban nem volt rendben), és nőgyűlölővé meg rasszistává tették.

Az emberek egyszerűen veszélyesek és rosszindulatúak, és számítanunk kell arra, hogy megpróbálják a mesterséges intelligenciát sötét utakra terelni. Valószínű, hogy rengetegen próbálják majd becsapni és átverni a mesterséges intelligenciát – nemcsak hackerek, hanem hétköznapi felhasználók is –, ezért előnyös, hogy a jelenlegi modellek általában „betanítottak és lezártak", bár az emberek így is találnak módot arra, hogy kijátsszák őket, és olyan válaszokra bírják, amelyek normál esetben nem elérhetők.

A mesterséges intelligencia jövője és biztonsági intézkedései

Csak a mesterséges intelligencia e generációjának gyakorlati alkalmazása fogja megmutatni, milyen stratégiákat kell kidolgozni a folyamatos tanuláshoz. Valószínűleg szükség lesz egyfajta „szociális tapasztalatra" a mesterséges intelligencia számára, hogy biztonságosan tudjon önállóan tanulni a hétköznapi emberekkel való interakcióból, és képes legyen helyesen megítélni, mely információk hasznosak számára, és melyek próbálják félrevezetni vagy károsítani.

A cikk bemutatja, hogyan tanul a mesterséges intelligencia (MI), megkülönböztetve a tanulási és az üzemelési módot. Az MI tanulása hatalmas adathalmazokon történik, ahol a modellt iteraktív módon finomhangolják, hogy minél pontosabban megfeleljen az elvárt eredményeknek. A nagy nyelvi modellek, mint például a GPT-4, előzetes példák nélkül tanulnak szövegeket prediktálni, ami lehetővé teszi a kontextus megértését vagy matematikai feladatok megoldását. Ez a folyamat idő- és költségigényes, de a finomhangolt modell üzemeltetése hatékony. A cikk rávilágít az emberekkel való interakcióból történő tanulás problémáira is, ahol az MI könnyen kihasználható káros nézetek terjesztésére. Az MI biztonságos folyamatos tanulását célzó jövőbeli stratégiák kulcsfontosságúak lesznek a fejlődése szempontjából.