A mesterséges intelligencia problémái és vitái

1. Az MI és az emberi viselkedés kölcsönhatása
2. Az MI etikai és technikai problémái
3. Generatív MI és szerzői jogok
4. Az MI-válaszok pontosságának javítása

Az MI és az emberi viselkedés kölcsönhatása

Bár a mesterséges intelligencia éles bevetésével még inkább csak a kezdeteknél tartunk, máris számos vitába ütköztünk. Talán a legjelentősebb probléma az MI és az emberek közötti interakció, hiszen az emberek gyakran hajlamosak visszaélni a mesterséges intelligenciával, vagy nevetségessé tenni azt – ahogy az a Microsoft Tay.AI chatbotjával is történt (2016). Alig tizenhat órával a chatbot nyilvános indítása után az emberek hatására rasszista üzeneteket kezdett közzétenni – és bár a Microsoft megpróbálta orvosolni a problémát, a második nekifutásra sem sikerült, így a projektet le kellett állítani.

Az AI etikai és technikai problémái

Ellenkező problémával küzd a Google Gemini mesterséges intelligenciája. Ezt kifejezetten úgy tervezték, hogy kiküszöbölje a faji és nemi sztereotípiákat, ami viszont nagyon hamar visszaütött. Kiderült, hogy amikor az intelligencia náci katonák képeinek generálását kapta feladatul, készségesen teljesítette – fekete és ázsiai vonásokkal rendelkező nácikat alkotott, beleértve az „ázsiai náci nőket" is, ami az egész dolgot teljesen a feje tetejére állította, és a Google-nek el kellett ismernie, hogy ez nem sikerült.

A „fekete nácik" nem az egyetlen probléma volt a Google Geminivel – a kimenetek között megjelent egy „latin-amerikai származású női pápa" és más képtelen eredmények is. Az intelligenciájuk egyáltalán nem vette figyelembe a történelmi kontextust, és teljesen a valóságtól függetlenül generált fiktív történelmi képeket, így az eredmények inkább paródiának tűntek. A kritikusok rámutattak, hogy a Google a „történelmi igazságtalanságok orvoslására tett kísérletével teljesen átírja a történelmet", ami szintén nem helyénvaló.

Generatív AI és szerzői jogok

A generatív mesterséges intelligencia az alkotók kritikájának célpontjává vált, akik úgy érezték, hogy „ez a történelem legnagyobb szerzői jogi lopása". Ez természetesen nem igaz – a szerzői jog koncepciója viszonylag új keletű, míg a tudás- és kultúracsere történelmileg nagyon régi hagyományokra tekint vissza. Ennek ellenére több per is indult, amelyekben főként az OpenAI-t perelik azért, mert engedély nélkül használtak szerzői műveket a modelljeik tanításához, vagy azzal érvelnek, hogy a kimeneteik „pusztán más művek kollázsai".

Ez természetesen nem igaz, legalábbis technikai szempontból semmiképp. A modell hasonlóan tanulja meg felismerni az egyes témákat, mint ahogy egy ember nézi őket – és szó szerint zajból, vagyis saját belső képzetéből generálja azokat. A kollázskészítés folyamata teljesen más, de a művészek dühösek, és így érthető, hogy nem érdeklik őket a technikai részletek.

A helyzet odáig fajult, hogy hackerek létrehozták a Nightshade nevű eszközt, amely egyfajta „mérgezett pirula" (poisoned pill) szerepét tölti be. Ez úgy működik, hogy a képeket hibásan írja le, vagy normál körülmények között láthatatlan tartalmat ad hozzájuk, ami a képek helytelen osztályozását okozza, és ezzel megrontja a tanuló modellt.

Az ilyen eszközökről szóló hírek széles körben elérhetők, a tényleges hatékonyságukról vagy arról, hogy léteznek-e már az ilyen manipulációt felismerő eszközök, viszont kevés információ áll rendelkezésre. Az „adatmérgezési" technikák általános jellegűek, a hackerek által okozott nagy kockázatok egyikének számítanak, és mivel negatív hatással lehetnek a modellek tanulására, nagyon valószínű, hogy az ilyen módszerek felismerése az adatelőkészítés valamelyik fázisába be lesz építve.

Az AI-válaszok pontosságának javítása

Közismert probléma, hogy az LLM-ek hallucinálnak, vagyis szó szerint kitalálják a válaszokat. A jelenlegi modellek egy zárt mintahalmazon tanultak – és ha nem tudnak egyértelmű választ levezetni, „kiegészítik" azt egy „megfelelőnek tűnő válasszal". Szó szerint és betű szerint kitalálnak egy hitelesnek látszó képtelenséget – és ez egy olyan probléma, amelyet nem lehet teljesen kiküszöbölni.

A hallucinációs problémák skálája széles: a modell ellentmondásokat produkálhat (az ellenkezőjét állítja annak, amit az imént mondott), a kérdés kontextusától eltérő válaszokat generálhat, vagy egyszerűen valótlanságokat állíthat. A hallucinációk okai lehetnek a tanítási adatok gyenge minőségében, a válaszgenerálás módszerében (például abban, hogy a modell az általánosabb választ részesíti előnyben a specifikusabbal szemben), vagy abban, hogy a modellt megzavarja a felhasználó kérdése vagy annak kontextusa. A kontextus befolyásolja a válaszokat – ha például megkérdezed a modelltől, hogy tudnak-e beszélni az állatok, a helyes válasz az lenne, hogy nem, de mondjuk egy mesélős kontextusban az állatok természetesen tudnak beszélni.

A hallucinációs problémák többsége abból fakad, hogy a modell nem képes megkülönböztetni, hogy egy információt valóban tud-e, vagy csak kitalálta, rosszul értelmezi a kérdés kontextusát (hogy tényeket kérdezünk-e vagy kreatív választ kérünk), esetleg a felhasználó úgy fogalmazza meg a kérdést, hogy abból a modell tévesen következtet a kontextusra.

Ilyen esetben alkalmazható a többlépéses promptolás (multi shot prompt) technikája, vagy átfogalmazható a kérdés olyan formába, amelyre nagyobb eséllyel érkezik helyes válasz – ezzel a prompt engineering, vagyis a prompttervezés szakterülete foglalkozik. A prompt engineering különösen fontos a mesterséges intelligenciát szolgáltatásként használó alkalmazások fejlesztésénél: arról van szó, hogy a mesterséges intelligenciát lekérdező alkalmazásnak úgy kell megfogalmaznia a kérdést, hogy a helytelen válasz esélye a lehető legkisebb legyen.

Hogy mi lesz az emberekkel, akik gyakran képesek olyan zavaros kérdéseket feltenni, amelyek még más embereket is meglepnek, az persze kérdéses. Ez viszont nem megy a technológia éles bevetése és a populáción végzett tesztelés nélkül, ahol majd kiderül, mik a kérdezés korlátai, és mit kell tenni ahhoz, hogy a mesterséges intelligencia válaszai pontosabbak legyenek.