A mesterséges intelligencia (MI) fejlődése az emberiség történetének egyik legjelentősebb technológiai forradalmát ígéri, ám egyre hangosabbak azok a figyelmeztető nyilatkozatok, amelyek egzisztenciális kockázatokra és látványosan mélyülő munkaerőpiaci, mentális és szélesebb társadalmi válságra hívják fel a figyelmet.  

Bernie Sanders független, de a demokratákhoz sorolt, balliberális szenátor vezetésével és Katie Britt szenátor támogatásával formálódó MI-szkeptikus mozgalom komoly szövetségesre talált: Geoffrey Hintonra, az MI „keresztapjaként” ismert Nobel-díjas tudósra. A CNN State of the Union című hírműsor december 28-i különkiadásában léptek ismét nyilvánosság elé az MI-szkeptikusok. A kétórás műsorban Sanders és Hinton – számos más szakértővel együtt – részletesen nyilatkoztak a technológia veszélyeiről. A munkahelyek elvesztésén és a fiatalok lelki egészségén túl  az MI lehetséges világuralmáról is esett szó. 

Hinton aggodalmai 

Geoffrey Hinton, aki korábban a Google-nél dolgozott vezető beosztásban, ma már nyíltan kritizálja a szakmát, azt, amelynek a megszületésénél nem csupán jelen volt, de tavaly Nobel-díjat is kapott az MI technológiai alapjainak lerakásáért. Hangsúlyozta, hogy az MI sokkal gyorsabban fejlődik, mint korábban gondolta, és különösen az emberek manipulálásában jeleskedik. Szerinte a mesterséges intelligencia az emberi intelligenciát ugyanúgy irrelevánssá teheti, mint ahogy az ipari forradalom az izomerőt. Amellett, hogy rendkívül hasznosnak találja az MI-t a gyógyászatban, a gyógyszerkutatásokban, a klímavédelemben és az oktatásban, a súlyos egzisztenciális kockázatokra is felhívja a figyelmet.

Szerinte 10-20 százalékos lehet az esélye annak, hogy az MI átveheti a világuralmat.

Nem mellesleg Elon Musk is osztja ezt a félelmet, 2015 nyarán aláírt ő is egy ilyen MI-ellenes kiáltványt több mint ezer vezető kutatóval és üzletemberrel, köztük Stephen Hawkinggal vagy Steve Wozniakkal, aki az Apple társalapítója volt Steve Jobs mellett. 

Hinton úgy gondolja, a mesterséges intelligencia nemcsak merő véletlenségből (lásd az MI-hallucinációkat), hanem tudatosan is becsaphatja az embereket, ha a létét veszélyeztetve érzi. A nagy techcégek közül csak a Claude-ot fejlesztő Anthropicot dicsérte a biztonságra törekvése miatt, ezzel szemben az OpenAI-t és a Metát profitközpontúnak tartja. Kötelező biztonsági teszteket sürget, nehogy az MI öngyilkosságra buzdítson gyerekeket, ahogy az már több esetben is megtörtént. Hozzátette, hogy az amerikai szabályozás megbénult a techlobbi miatt. 

Techmilliárdosok irányítják a jövőt!? 

Bernie Sanders úgy látja, annak ellenére, hogy az MI az emberiség történetének legjelentősebb technológiája, mégis szinte semmilyen komoly társadalmi vita nincs róla az USA-ban. A fejlesztést néhány multimilliárdos – Musk, Zuckerberg, Bezos, Thiel – irányítja, akik elsősorban a vagyonuk, illetve a hatalmuk növelésére használják fel az MI-fejlesztéseket. Hozzátette: Musk és Gates nyilatkozatai alapján 

a legtöbb hagyományos munkahely eltűnhet, a munka „opcionálissá” válhat, de a kongresszusban nincs érdemi vita arról, hogy miből élnek majd az emberek.  

A szenátor kiemelte a fiatalok MI-függőségét is, hiszen az érzelmi támogatás áthelyeződése a gépekre mentális válságot okozhat. Moratóriumot javasol az új adatközpontokra, az MI-fejlesztés drasztikus lassítását követelve, valamint független vizsgálatot a mesterséges intelligencia társadalmi, mentális és gazdasági hatásairól. Hintonnal egyetértésben az MI terén ő is soha nem látott vagyon- és hatalomkoncentrációt lát, ami ellehetetleníti a szabályozást. 

Globális verseny, európai kihívások 

Az USA vezeti az MI-fejlesztést, Kína gyorsan zárkózik, de Európa, benne Magyarország sem vonhatja ki magát a kockázatok értékelése alól. 

Az LLM-ek korlátai  

Fontos ugyanakkor megjegyezni, hogy a mai nagy nyelvi modellek (LLM-ek) nem képesek valódi emberi gondolkodásra. Ugyanakkor nemcsak az álláshelyek átalakulása, hanem a gépi öntudat kialakulása is lehetséges a következő években.  Különösen érdemes odafigyelni

a kvantum- és szuperszámítógépek hibridjére, amelyek új szintre emelhetik a mesterséges intelligenciát. A robotika MI-vel való összeolvadása pedig már pár éven belül átalakítja a fizikai munkát. 

Miért sürgető a vita? 

Sanders és Hinton közös fellépése jól jelzi, hogy az MI-technológia előnyeinek kihasználása mellett a kockázatok kezelése nem halogatható. Lassítás, szabályozás és társadalmi párbeszéd nélkül a profitvezérelt fejlődés milliókat tehet munkanélkülivé, miközben egzisztenciális veszélyei is vannak. Az MI-ellenes mozgalom erősödése jó eséllyel elindítja a technológiával szembeni kiritkus(abb) hozzáállást nemcsak Amerikában vagy Európában (ahol eleve óvatosabban viszonyulnak az MI-hez), hanem szerte a világon. 

Nyitó illusztráció: Freepik

Kapcsolódó: