A mesterséges intelligencia alkalmazása a hadviselésben ezernyi veszélyt rejt. Mind közül a legnagyobb, hogy túlgyorsítja a katonai döntéshozatalt, amikor papíron ugyan az ember diktál, a valóságban viszont a gép reakcióidejével szemben már nem marad ideje mérlegelni, ami nem a legjobb hír a nukleáris csapásmérő rendszerek világában.
A mesterséges intelligenciáról szóló viták többsége ma még a Terminator Skynet-effektusa körül forog, vagyis arra a kérdésre koncentrál, hogy képes lesz-e egy algoritmus egyszer öntudatra ébredve élet vagy halál (inkább utóbbi) kérdésében önállóan dönteni. A talán nem is olyan távoli jövő erre választ ad, van azonban egy olyan probléma, ami már napjainkban felütötte a fejét. Mi történik abban az esetben, ha az ember – elméletileg irányító szerepkörben – még része a gépezetnek, de a döntési ideje az MI sebessége és hatékonysága miatt annyira lerövidül, hogy már a program dolgozik helyette?
Az MI-vel felturbózott modern hadviselés egyik legfontosabb változása ugyanis éppen a döntéshozatal sebességének radikális felgyorsulása. A mesterséges intelligencia képes valós időben összegyúrni a műholdak, drónok, elektronikai felderítő rendszerek és hírszerzési adatbázisok információit, majd ezek alapján tizedmásodperc alatt célpontokat kijelölni. A folyamat, amely korábban megfontolt emberi egyeztetést igényelt, ma szempillantásnyi idő alatt kezdődhet és fejeződhet be.
A hagyományos katonai döntéshozatal nem véletlenül épült több egymást követő és egymást folyamatosan monitorozó ellenőrzési szintre. A célpont azonosítása, az adatok újabb és újabb lecsekkolása, a döntés következményeinek jogi és politikai mérlegelése, majd a végső jóváhagyás időigényes, de végső soron biztonságos folyamat volt. Az MI árnyékában csigalassúnak tűnő rendszer valójában a legfontosabb biztonsági elemként funkcionált:
lehetőséget adott arra, hogy a folyamatban részt vevők észrevegyék, ha hibát követtek el.
Mindez már napjainkban sem pusztán hipotetikus dilemma. A mesterséges intelligencia célkijelölési döntési képessége az iráni háborúban döbbenetes hatékonysággal debütált: az amerikai hadsereg a Palantir és az Anthropic által fejlesztett Project Maven (illetve annak Claude MI-modellel integrált verziója) segítségével már a konfliktus első napján több ezer célpont ellen sikerült azonnali és meglepetésszerű rakétatámadásokat indítani. Példátlan műveleti tempó ez, a gyorsaságot és a kapkodást azonban épp a megfontoltság választja el egymástól, ami pedig az ember sajátossága, nem pedig egy szimplán adatok alapján kalkuláló gépé.
Így következett be máris a háború legelején, az idén február 28-án a katasztrófa: a dél-iráni Minab városában található általános iskolát érte találat, amelyben legalább 120 gyermek és több tucat felnőtt életét vesztette. A későbbi vizsgálatok megerősítették, hogy az MI által célpontként megjelölt épület korábban valóban az Iszlám Forradalmi Gárdához tartozott, de azt már évekkel korábban elhagyták, és – a műholdas felvételek alapján legkésőbb 2016-ban – iskolává alakították át. A végzetes célkijelöléshez az automatizált katonai adatbázisok frissítésének elmaradása és az elavult adatok kritika nélküli gyors feldolgozása vezetett. A fatális hiba a rendszer legveszélyesebb pontjára világított rá: ha a döntési folyamat gyorsabbá válik annál, mint amennyi idő alatt egy ember ellenőrizni tudná az adatokat, akkor valójában semmilyen ellenőrzésről nem beszélhetünk.
Emberi, túlságosan is emberi
A nukleáris elrettentés rendszere 1945 óta arra az alapfeltevésre épül, hogy krízishelyzetben marad elegendő idő a politikai vezetők és parancsnokok számára a mérlegelésre. A kubai rakétaválság egyik legveszélyesebb epizódja klasszikus példája volt annak, amikor a diplomácia és a józan ész időt nyert a lecsupaszított katonai gondolkodással szemben. Egy szovjet B–59-es tengeralattjáró Kuba közelében ólálkodott, amikor az amerikaiak felfedezték, és mélységi bombákkal a felszínre kényszerítették – nem tudva arról, hogy a fedélzeten nukleáris robbanófejjel ellátott torpedók vannak. Az orosz legénység napok óta el volt vágva a moszkvai kommunikációtól, a parancsnok így azt hitte, hogy már kitört a harmadik világháború, és ki akarta lőni az atomfegyvert. A kilövéshez három tiszt egybehangzó beleegyezése kellett: Vaszilij Arhipov volt az egyetlen, aki nemet mondott, mondván, várják ki, amíg tisztázódik a helyzet, feltevések miatt pedig ne robbantsanak ki egy atomháborút. Neki lett igaza.
Hasonló jelentőségű volt 1983-ban Sztanyiszlav Petrov döntése is, aki egy téves rakétariasztást valóban tévesként értékelt, ezzel valószínűleg hozzájárulva egy nukleáris konfliktus elkerüléséhez. A NATO egy Able Archer 83 nevű rendkívül valósághű hadgyakorlatot tartott, amit a szovjet vezetés egy valódi, meglepetésszerű nukleáris támadás előkészületeként értelmezett. A feszült légkörben a szovjet vezetőknek csak napjaik, a téves riasztáskor Petrovnak azonban mindössze percei voltak eldönteni, hogy a kapott információk alapján kitörjön-e a harmadik világháború. Az adatok a hibás hírszerzési technológia miatt mindkét esetben megelőző csapás indításáért kiáltottak. A két ember kritikus hozzáállása azonban felülbírálta a rendelkezésre álló információkat, megelőzve ezzel egy világégést. Ha az automatizált rendszerek azonnal, emberi felülbírálat nélkül indítottak volna ellencsapást, a megtorlás elkerülhetetlen lett volna.
Arhipovnak és Petrovnak rendelkezésére állt valami, amit a mesterséges intelligencia hadrendbe állítása nemigen vesz figyelembe: az idő. Ahogyan az MI mélyen beépül a katonai vezetési és irányítási rendszerekbe,
úgy kezd kevésbé tabutémává válni, hogy a nukleáris parancsnoki struktúrákban is alkalmazzák.
A legnagyobb veszélyt a Skynet-effektus helyett a döntési időkeret MI általi minimálisra csökkentése jelenti, hiszen a gép a valódi, emberi parancsnoknak nem hagy időt arra, hogy megkérdőjelezze az általa kiszámított információkat és következtetéseket.
Valamennyire a nagyhatalmak is igyekeznek ezt szem előtt tartani: az Egyesült Államok például folyamatosan hangsúlyozza, hogy az atomfegyverek alkalmazásáról csak emberek dönthetnek. A 2022-es nukleáris doktrína (Nuclear Posture Review) is megerősítette ezt az elvet, de a Washington és Peking közötti, kifejezetten nukleáris vetületű MI-egyeztetések során is visszatérő téma az emberi kontroll („human in the loop”) nélkülözhetetlensége.
Ezek az elvek azonban csupán egyetlen dolgot feltételeznek: azt, hogy a folyamat végén egy ember nyomja meg a nagy piros gombot. Azt már nem, hogy a mesterséges intelligencia hibás vagy hiányos adatértelmezés mellett nem hagy az embernek elég időt arra, hogy átgondolja és elutasítsa a gép által ajánlott egyetlen választási lehetőséget.
A gondolat önmagában is paradoxon: az MI által generált gyorsabb döntések valóban növelhetik a katonai hatékonyságot, ugyanakkor egyre sérülékenyebbé teszik a rendszert azokkal a hibákkal szemben, amelyeket épp az emberi mérlegelés lenne hivatott kiszűrni. Innentől pedig a gyorsaság kockázati tényezővé válik. Vagyis – elfogadva azt, hogy az MI a jövő háborúinak egyik főszereplője lesz – a legnagyobb kihívást a hadseregek számára a felülbíráláshoz szükséges idő alapból biztosított joga jelenti majd.
***
Kapcsolódó:
Fotó: MI
