A mesterséges intelligencia (MI) egyik szakértője, Yoshua Bengio „elveszettnek” érzi magát, mióta ilyen ütemben fejlődik a technológia. Sőt, azt mondja, hogy az informatikusoknak etikai képzésre van szükségük. Emellett egy korábbi Google dolgozó elmondta, megbánta, hogy részt vett az MI fejlesztésében, és fél a következményektől.

A három mesterséges intelligencia „keresztapa” egyikeként ismert professzor – aki Geoffrey Hinton és Yann LeCun mellett azután érdemelte ki ezt a nevet, hogy 2018-ban elnyert egy rangos informatikai díjat a gépi tanulással kapcsolatos áttörésekért – a BBC-nek elmondta, hogy „elveszettnek” érzi magát életműve miatt, sőt azt is hozzátette, hogy 

ha előre tudta volna, hogy ilyen ütemben fog fejlődni a technológia, akkor a biztonságot előnyben részesítette volna a hasznossággal szemben.

Pórázon kellene tartani a fejlett chatbotokat?

Korábban is voltak aggályok, ám a ChatGPT tavaly novemberi nyilvános megjelenése óta elszaporodtak a mesterséges intelligenciával kapcsolatos aggodalmak, mivel sokak szerint az közelebb áll az emberi szintű intelligencia eléréséhez, mint azt korábban gondolták. Sam Altman, az OpenAI vezérigazgatója a hónap elején egy kongresszuson elmondta, hogy szerinte egy kormányzati ügynökséget kellene létrehozni a mesterséges intelligencia felügyeletére és ellenőrzésére.

Bengio a BBC-nek azt is elmondta, hogy szabályozni kellene az MI-vállalkozásokat és laborokat. „A kormányoknak nyomon kell követniük, hogy mit csinálnak” – mondta. „Ez a minimum, amit bármely más ágazatban, például a repülőgépek, az autók vagy a gyógyszerek gyártásánál is megteszünk”.

A professzor továbbá „etikai képzést” javasol, amelyben – elmondása szerint – az informatikusoknak nemigen van része.

Kedden aláírta a Center for AI Safety által kiadott nyilatkozatot, amely arra figyelmeztet, hogy 

a technológia az atomháborúhoz hasonló „kihalási” kockázatot jelent az emberiségre.

A nyilatkozatot olyan vezető MI-laborok vezérigazgatói is aláírták, mint Altman és a Google DeepMind nevű MI vállalatnál dolgozó  Demis Hassabis, valamint az említett Geoffrey Hinton.

Hinton a minap fel is mondott a Google-nél, és a hónap elején arról beszélt a The New York Timesnak: megbánta, hogy az MI úttörőjeként dolgozott. Továbbá azt is elmondta, aggódik amiatt, hogy az MI terjedése elősegíti a hamis információk terjedését, és tömegesen szüntetheti meg a munkahelyeket – írja az Insider.

Azonban LeCun – a harmadik „keresztapa” – többször is arról tweetelt a közelmúltban, hogy szerinte az ilyen vélekedések túlzóak.

Az ő véleménye szerint: „Amíg nincs meg az alaptervezés még egy „kutya szintű” mesterséges intelligenciához sem (nemhogy az emberi szinthez), addig korai lenne arról vitatkozni, hogyan tegyük azt kellően biztonságossá”.