Az amerikai tengerészgyalogság elsőként tesztelt harci körülmények között egy hírszerzésre specializált generatív MI-t, amely sokkal gyorsabbnak bizonyult a korábbi manuális elemzési módszereknél. Azonban nem szabad elfelejteni: az MI gyakran téved.
Napjainkban már nem kérdés, hogy a mesterséges intelligencia kulcsfontosságú szerepet játszik a modern hadviselésben. Nem véletlen, hogy a Pentagon is jelentős összegeket fordít a generatív MI fejlesztésére, 2023 decemberében például bejelentették, hogy két év alatt 100 millió dollárt költenek kifejezetten ilyen célú projektekre.
A Vannevar Labs védelmi technológiai vállalat, amelyet 2019-ben alapítottak a CIA és az amerikai hírszerző ügynökségek korábbi dolgozói, a Pentagon egyik fő partnere lett ezen a területen. A céget 2023 novemberében egy 99 millió dolláros szerződéssel bízta meg a Pentagon innovációs részlege, hogy a hírszerzési technológiáját több katonai egység számára is elérhetővé tegye.
A 15. tengerészgyalogos expedíciós egység tapasztalatai
Tavaly az amerikai 15. tengerészgyalogos expedíciós egység mintegy 2500 katonája három hajóval a Csendes-óceánon cirkált, és különböző gyakorlatokon vett részt Dél-Korea, a Fülöp-szigetek, India és Indonézia partjainál. A bevetés során a hírszerzésért felelős egység először használt generatív mesterséges intelligenciát a feladatai elvégzésére.
Kristin Enzenauer százados elmondta, hogy a manuális helyett nagy nyelvi modelleket használt külföldi hírforrások fordítására és összefoglalására, azt keresve, hogy valamelyikben említették-e az egységüket. Will Lowdon százados pedig a napi és heti hírszerzési jelentések írásában vette hasznát a technológiának, és hozzátette, hogy bár továbbra is ellenőrizniük kell az MI munkáját, még így is hatékonyabbnak találták azt a korábbi megoldásoknál.
„Annak idején kutatással, fordítással, kódolással és az adatok elemzésével kellett megoldanom a munkámat, ami sokkal időigényesebb volt, mint így” – fűzte hozzá Enzenauer.
A Vannevar Labs technológiája mögött
A Vannevar Labs meglévő nagy nyelvi modelleket alkalmaz, köztük az OpenAI-ét és a Microsoftét, valamint saját fejlesztésű rendszereket. A vállalat 2021 óta gyűjt nyílt forrású hírszerzési adatokat, naponta több terabájtnyi információt 80 különböző nyelven, 180 országból.
A cég állítása szerint képes elemezni a közösségimédia-profilokat és áttörni az olyan országok tűzfalait, mint Kína, hogy hozzáférjen az egyébként nehezen elérhető információkhoz. Emellett a terepen dolgozó ügynökök által gyűjtött adatokat is használ, valamint olyan jelentéseket is feldolgoz, amelyek olyan, a rádióhullámokat titokban figyelő érzékelőktől származnak, amelyek illegális hajózási tevékenységeket jeleznek.
A Vannevar Labs ezután MI-modelleket vesz igénybe az információk fordítására, a fenyegetések észlelésére és a politikai hangulat elemzésére. Az eredményeket pedig egy ChatGPT-hez hasonló chatbotinterfészen keresztül bocsátja a Pentagon rendelkezésére.
Aggályok és kétségek a katonai MI-használatban
Többen is felhívták a figyelmet a generatív MI katonai döntéshozatalba történő gyors integrálásának kockázataira. Heidy Khlaaf, az AI Now Institute vezető MI-tudósa szerint ez a sietség figyelmen kívül hagyja a technológia alapvetőbb hiányosságait.
„Már tudjuk, hogy a nagy nyelvi modellek rendkívül pontatlanok, főleg az olyan, biztonsági szempontból kritikus alkalmazások, amelyek precizitást igényelnek.”
Különösen aggasztónak tartja a hangulatelemzési funkció használatát, mivel az egy „rendkívül szubjektív mutató, amelyet még az emberek is nehezen tudnának megfelelően értékelni pusztán a médiából származó információk alapján”. Ha ugyanis az MI az amerikai erőkkel szembeni ellenségességet észlel ott, ahol egy emberi elemző nem találna ilyet – vagy ha a rendszer nem veszi észre a valóban létező konfliktust –, a hadsereg téves döntést hozhat, vagy szükségtelenül eszkalálhatja a helyzetet.
Chris Mouton, a RAND vezető mérnöke nemrég tesztelte, mennyire alkalmas a generatív MI ilyen feladatokra. Vezető modelleket tesztelt, köztük az OpenAI GPT-4-et, hogy az emberi szakértőkhöz képest mennyire pontosan azonosítják propagandaként a külföldi tartalmakat. Azt találta, hogy az MI nehezen azonosította azok kifinomultabb típusait.
Az MI-hírszerzés jövője
Sean Dynan ezredes, a tengerészgyalogos egység parancsnoka februárban beszélt arról, hogy a generatív mesterséges intelligencia a jövőben egyre nagyobb szerepet kaphat – a mostani kísérlet szerinte csupán „a jéghegy csúcsa” volt.
Valóban ez az az irány, amely felé az egész amerikai hadsereg halad. A Pentagon ugyanis már nemcsak a Vannevar Labsszel működik együtt, hanem a Microsofttal és a Palantirrel is, amelyek közösen dolgoznak olyan MI-modelleken, amelyek minősített adatokat is felhasználnának.
Mouton szerint jelenleg a legnagyobb kérdés az, hogy a generatív MI-technológiák végül csupán egy eszközt jelentenek-e majd a sok közül, amit az elemzők használnak – vagy pedig olyan önálló, szubjektív analíziseket is képesek lesznek készíteni, amelyekre a döntéshozók ténylegesen támaszkodnak és megbíznak bennük.
Abban mindenki egyetért, hogy az MI-modellek könnyen hozzáférhetők – egyszerűen kérdezhetünk tőlük a hírszerzési információk komplex elemeiről és egyszerű nyelven válaszolnak. De még mindig vitatott, hogy a hatékonyság nevében az MI milyen tökéletlenségei lesznek elfogadhatók.
