A washingtoni hadsereg legfelsőbb katonai mesterséges intelligenciával foglalkozó tisztviselői a héten ipari vezetőkkel találkoznak, hogy megvitassák a nagy nyelvi modellek és más újonnan megjelenő technológiák védelmi alkalmazási lehetőségeit. Bár nagy előnyhöz juttathatja őket a fejlesztés, a mesterséges intelligencia kockázatairól továbbra sem érdemes megfeledkezni. 

Bár a ChatGPT-hez hasonló technológiák megjelenésük óta nagy népszerűségre tettek szert, a különböző kormányzati tisztviselők aggódni kezdtek, hiszen megvan az esélye, hogy rossz kezekbe kerül a technológia. Többek között az EU, Kína és az USA is elkezdte szabályozni ezt a területet, azonban ebben a kezdetleges stádiumban – ahol még rengeteg felhasználási terület kiaknázatlan – csak a felszínt kapargatják mind jogi, mind technológiai értelemben. Azonban hatalmas előnyhöz juthat az, aki képes minél biztonságosabban beépíteni a fejlett MI-rendszereket a hadiiparba, hiszen azok a nagy mennyiségű adathalmazokat gyorsabban és feltehetően pontosabban képesek elemezni. 

Nemrégiben a Pentagon megbeszéléseket folytatott a technológiai ipar vezetőivel annak érdekében, hogy felgyorsítsák a leghasznosabb katonai alkalmazások felderítését és megvalósítását. Azonban intenzív tesztelésre lesz szükség ahhoz, hogy a technológiát a lehető legbiztonságosabban kezeljék és minél kevésbé legyen sebezhető.   

Craig Martell, a Pentagon Digitális és Mesterséges Intelligencia Hivatalának (Chief Digital and Artificial Intelligence Office, CDAO) a vezetője a washingtoni Hilton báltermében elmondta, hogy csapata igyekszik egyensúlyt teremteni a gyorsaság és az óvatosság között a legmodernebb mesterségesintelligencia-technológiák bevezetése során – állítja a The Washington Post írása. 

A szimpózium keretein belül M. Xavier Lugo, az amerikai haditengerészet kapitánya megerősítette, hogy nagy segítséget jelent egy ilyen rendszer bevezetése, hiszen hatalmas mennyiségű adattal dolgoznak, az MI pedig segíthet ezek elemzésében és kezelésében. A kutatók szerint  

a nagy nyelvi modellek egyéb lehetséges katonai felhasználási területei közé tartozhat a tisztek kiképzése kifinomult háborús játékokon keresztül, sőt akár a valós idejű döntéshozatalban is segítséget nyújthat az MI. 

Paul Scharre, a Védelmi Minisztérium egykori tisztviselője szerint – aki jelenleg a Center for a New American Security ügyvezető alelnöke – bár vannak már ötletek, a nagy nyelvi modellek legjelentősebb felhasználási területeit még nem fedezték fel. Hozzátette, a jelenlegi technológia azért is jobb, mint a korábbi verziók, mert univerzális. Nem csupán egy feladatra – például képfelismerésre – specializálódnak, hanem széles körű, komplexebb feladatok megoldására is képesek. Lugo szerint azonban nagy probléma, hogy a mesterséges intelligencia nem tévedhetetlen. Sőt, azt is hozzátette, nem biztos abban, hogy ez orvosolható. 

Kockázatos, de lehet, hogy megéri 

A CDAO augusztusban hozta létre  

a Task Force Lima nevezetű, generatív mesterséges intelligenciát (LLM) tanulmányozó kezdeményezést, amelyben a tagok megoldásokat javasolhatnak a technológia Pentagonon belüli alkalmazására.  

A kutatók szerint még hosszú út áll az LLM-ek előtt, mire annyira megbízhatók lesznek, hogy a fontosabb területeken is hasznukat vehessék. Shannon Gallagher, a Carnegie Mellon egyik kutatója a konferencián elmondta, hogy a Nemzeti Hírszerzés Igazgatójának Hivatala a csapatát kérte fel arra, hogy vizsgálja meg, hogyan használhatják az LLM-eket a hírszerző ügynökségek. Gallagher elmondta, hogy az elkészült tanulmányban arra kérték a generatív mesterségesintelligencia-rendszereket, hogy írják le, mi történt a tavalyi kínai megfigyelőléggömb-incidens során. A válaszok vegyesek voltak, némelyik hasznos információval szolgált, azonban elfogultságot is tapasztaltak a szakértők. 

Ennél is aggasztóbb kockázat, hogy egy ellenséges hacker feltörheti a katonai LLM-et, és arra utasíthatja, hogy ossza meg vele a Pentagon birtokában lévő adatokat. A kutatók novemberben be is bizonyították, hogy ez lehetséges: rá tudták venni a népszerű ChatGPT-t, hogy ossza meg a képzési adatait. Bár azóta javítottak rajta, más, hasonló alternatívák is létezhetnek. Nathan VanHoudnos, a Carnegie Mellon egy másik tudósa hozzátette, hogy az ellenfél úgy is okozhat kárt, hogy rossz dolgokra tanítja a rendszert.  

Igyekszik fenntartani az előnyt 

Az amerikai tisztviselők a mesterséges intelligencia bevezetésének sürgőssége mellett Kína helyzetéről is beszéltek. Az ázsiai ország ugyanis 2017-ben kijelentette, hogy 2030-ra világelső akar lenni a mesterséges intelligencia terén. Azonban Scharre becslése szerint  

a kínai MI-modellek jelenleg 18–24 hónapos technológiai lemaradásban vannak az amerikaiakhoz képest.  

Valahol ez nem meglepő, hiszen az USA 2022 nyara óta korlátozza bizonyos típusú grafikus feldolgozóegységek értékesítését kínai állami hivatalok és cégek számára.  

Emellett az Egyesült Államok védelmi minisztériuma 2018-ban bejelentette, hogy 2 milliárd dollárt fektet be az MI-technológiákba, hogy megőrizzék az eddig megszerzett fölényt. 

Gallagher szerint Kína még mindig előnyben lehet az LLM-ek adatcímkézése terén, ami munkaigényes, de kulcsfontosságú feladat a modellek képzésében. Amellett sem mehetünk el, hogy a munkaerőköltségek továbbra is jelentősen alacsonyabbak az ázsiai országban, mint az Egyesült Államokban.