Az Egyesült Államok történetében először született olyan átfogó stratégiai dokumentum, amely részletesen meghatározza, miként épül be a mesterséges intelligencia a hadsereg, a hírszerzés és a nemzetbiztonsági apparátus működésébe. Az elnök által aláírt dokumentum egyértelművé teszi: Washington többé nem hajlandó elfogadni a technológiai cégek feltételeit, hogy mire használhatja az állam a termékeiket és mire nem.

Az NSPM–11 nevű új nemzetbiztonsági elnöki memorandum mérföldkő az amerikai biztonságpolitika történetében. Bár az Egyesült Államok korábban is alkalmazott mesterséges intelligenciát katonai és hírszerzési célokra, most először született olyan átfogó stratégia, amely egyszerre foglalkozik a technológia beszerzésével, alkalmazásával, felügyeletével és jövőbeli fejlesztésével.

A dokumentum központi eleme a sebesség: a Trump-kormányzat szerint az MI-fejlesztések üteme olyan gyors, hogy a hagyományos kormányzati beszerzési módok már nem képesek lépést tartani vele. Ezért rendkívül szigorú határidőket szab meg: az érintett szervezeteknek – köztük a Pentagonnak is – négy hónap alatt (vagyis októberig) teljesen át kell alakítaniuk az MI-beszerzési rendszereiket, a lehető legrugalmasabbá téve azt. A gyors döntésekhez persze előzetes hozzáférés is szükséges, ennek értelmében a kormányzat harminc nappal a nyilvános megjelenés előtt hozzájuthat a legfejlettebb MI-modellekhez. Ez alapvető változás, korábban ugyanis az állam jellemzően a piacon már megjelent technológiákhoz férhetett hozzá, most viszont lehetősége nyílik arra, hogy a világ többi szereplőjénél korábban tesztelje a következő generációs modellek képességeit és gyengeségeit, majd ezek alapján döntsön azok alkalmazásáról.

Újdonság és diverzifikációs mesterhúzás az úgynevezett sokbeszállítós modell bevezetése is, hiszen Washington nem akarja, hogy egyetlen vállalat váljon nélkülözhetetlenné a katonai MI-rendszerek működtetésében. A cél az lett, hogy egyszerre több nagy és kisebb fejlesztővel kössön szerződéseket, így egy esetleges belső vállalati zavar vagy technológiai probléma nem béníthatja meg az egész rendszert. Sőt: a kormányzat létrehozna egy szerződés nélküli tartalékrendszert is olyan vállalatokkal, amelyek szükséghelyzetben vagy kapacitásbővítés igénye esetén lennének mozgósíthatók, valóban semmit nem bízva a véletlenre.

Skynet a Fehér Házban

A dokumentumban ugyan nem szerepel az Anthropic neve, mégis jelentős részén érezni lehet az MI-vállalat és a Pentagon közötti konfliktus hatásait. A cég ugyanis korábban két fontos korlátozást kívánt fenntartani a szerződéseiben: az egyik megtiltotta volna a modelljeinek alkalmazását az autonóm halálos fegyverrendszerekben, a másik pedig kizárta, hogy termékét, a Claude-ot tömeges belföldi megfigyelési célokra használják. A Pentagon mindkettőt elfogadhatatlannak tartotta, mivel álláspontja szerint a törvényes felhasználási célok meghatározása nem a terméket előállító vállalat feladata.

A dokumentum ezt szem előtt tartva kimondja, hogy a kormányzat által rendszerbe állított MI-megoldásokat a fejlesztő vállalatok nem állíthatják le, nem korlátozhatják és nem módosíthatják egyoldalúan, ami azt jelenti, hogy

az állam totális kontrollt követel a már telepített rendszerek felett.

Ezzel a konfliktus a morális térbe emelt egy nagyon is anyagias dilemmát: kinek van végső döntési jogköre egy fejlett mesterséges intelligencia felhasználásáról? A technológiai vállalat, amely megalkotta, vagy az állam, amely finanszírozza és alkalmazza? A memorandum egyedül a felelősség kérdésében fogalmaz egyértelműen: az MI felhasználásáért a katonai parancsnokok és a politikai vezetők felelnek, vagyis a felelősségi lánc az elnökön keresztül a hadseregig vezet.

Ami az Anthropic aggályait illeti, a dokumentum trükkösen megfogalmazva a „jogszerűtlen” belföldi tömeges megfigyelést tiltja meg határozottan. Ez első pillantásra megnyugtatónak tűnik, valójában azonban pusztán jogi kiskapuról van szó: hogy mi számít egy adott konfliktusban jogszerűnek, azt ugyanis mindig az adott szituációra adott kormányzati válasz döntötte el a történelem során. A stratégia nem véletlenül nem is foglalkozik bővebben ezzel, és egyáltalán nem ad egyértelmű választ arra, hogy miként értelmezi a „jogszerű” kifejezést.

Algoritmusok háborúja

Az NSPM–11 legalább annyi kérdést hagy nyitva, mint amennyire választ ad. A megfigyelés jogi korlátainak definiálatlansága mellett az autonóm fegyverrendszerek szabályozását például egyszerűen egy későbbi, ám titkosított mellékletre bízza. Nem rendezi azt sem, hogy végső soron ki jogosult meghatározni a mesterséges intelligencia megengedett felhasználási területeit. Miután azonban kongresszusi törvény jelenleg még nincs az MI katonai alkalmazása kapcsán, az valójában eddig és ezután is az aktuális kormányzat politikai akaratától függ.

Aggodalomra inkább az ad okot, hogy a Trump-kormányzat (hasonlóan a második világháború idejéig visszamenő elődjeihez) a mesterséges intelligencia alkalmazására éppúgy birtokolt és uralt nemzetbiztonsági eszközként tekint, mint az előző adminisztrációk az atomenergiára, a rakétatechnológiára vagy akár az internetre. A technológiai magánszektor és az állam közötti határok elmosásának az Anthropic-ügy a legtipikusabb esete. Washington ezen a ponton jelentette ki először egyértelműen, hogy a kormányzat által megfogalmazott nemzetbiztonsági érdek elsőbbséget élvez a vállalati etikai korlátozásokkal szemben. Ez már most is komoly feszültséget okoz a Szilícium-völgy és a Fehér Ház között, amely nem fog csillapodni attól, hogy ezentúl a cégek számára dokumentum is rögzíti a szerződéses előfeltételeket.

***

Kapcsolódó:

Fotó: MI