Az OpenAI és az Anduril közötti új partnerség alapjaiban változtatja meg a mesterséges intelligencia katonai felhasználásának jövőjét. A vezető MI-vállalat mindössze egy év alatt teljes fordulatot vett: a fegyverkezés és a hadviselés teljes tiltásától eljutott a csatatéren felhasználható MI-rendszerek fejlesztéséig.
Korábban az OpenAI szabályai egyértelműen tiltották, hogy bárki fegyverfejlesztésre, katonai vagy hadviselési célokra használja a modelljeit. Ez január 10-én megváltozott: a The Intercept arról számolt be, hogy a cég enyhített ezeken a korlátozásokon, azonban azt továbbra is tiltotta, hogy bárki arra használja a technológiát, hogy „kárt okozzon magának vagy másoknak” fegyverek kifejlesztésével, használatával, mások megsebesítésével vagy tulajdon elpusztításával.
A vállalat nem sokkal később közölte, hogy együttműködik a Pentagonnal a kiberbiztonsági szoftvereken, de a fegyvereken nem. Aztán egy októberben közzétett blogbejegyzésben megosztotta, hogy a nemzetbiztonsági területen dolgozik, azzal érvelve, hogy a megfelelő kezekben az MI „segíthet megvédeni az embereket, elrettenteni az ellenfeleket, és akár meg is előzheti a jövőbeli konfliktusokat”.
A napokban pedig
az OpenAI bejelentette, hogy a technológiáját közvetlenül a harctéren fogják bevetni.
A vállalat elmondta, hogy együttműködik az Anduril védelmi technológiai céggel, az MI-alapú drónok, radarrendszerek és rakéták gyártójával, hogy segítsen az amerikai és a szövetséges erőknek a dróntámadások elleni védekezésben. Emellett segédkezik olyan MI-modellek létrehozásában, amelyek „gyorsan szintetizálják az időérzékeny adatokat, csökkentik az emberi kezelőkre nehezedő terheket és javítják a helyzetfelismerést” az ellenséges drónok hatástalanítása érdekében – áll a cég közleményében.
Konkrétumokat nem hoztak nyilvánosságra, de Liz Bourgeois, az OpenAI szóvivője szerint a program kifejezetten az amerikai személyzet és létesítmények védelmére összpontosít majd. Hozzátette, hogy ez a partnerség összhangban van a politikájukkal, és a technológiájukat továbbra sem lehet mások megkárosítására használni.
Az Anduril szóvivője nem hozta nyilvánosságra azokat a bázisokat, ahol a modelleket be fogják vetni, de azt mondta, hogy a technológia segít a drónok észlelésében, követésében, és a személyzetről igyekszik levenni a munka unalmas részének a terheit is.
Az OpenAI technológiájának katonai felhasználását tiltó irányelvek kevesebb mint egy év alatt megváltoztak. Amikor az év elején enyhített az egykor egyértelmű szabályán, az OpenAI szóvivője szerint ez azt jelentette, hogy korlátozott kontextusban, például a kiberbiztonság, az öngyilkosság-megelőzés és a katasztrófaelhárítás területén működik együtt a hadsereggel.
Most azonban a ChatGPT-t működtető cég nyíltan vállalja a nemzetbiztonsággal kapcsolatos munkáját. Ha a hadseregekkel vagy a védelmi technológiával foglalkozó vállalatokkal való együttműködés segíthet abban, hogy a demokratikus országok uralják a mesterséges intelligencia versenyét – írták –, akkor ez nem mond ellent az OpenAI azon küldetésének, hogy az MI előnyeit széles körben megosszák. Sőt, érvelése szerint ez segíteni fogja ezt a küldetést.
A MIT Technology Review szerint azonban ne tévesszen meg senkit az OpenAI magyarázata, hiszen ezen döntése jelentős változás az egy évvel ezelőtti helyzethez képest.
Ahhoz, hogy megértsük ezt a fordulatot, érdemes megjegyezni, hogy míg a vállalat ódzkódott termékeinek katonai felhasználásától, addig a technológiai szektorban más cégek számára nem voltak ilyetén aggályok. A kockázatitőke-társaságok 2021-ben több mint kétszeresére, 40 milliárd dollárra emelték a védelmi technológiákba történő befektetéseiket, miután az Andurilhoz és a Palantirhez hasonló cégek bebizonyították, hogy némi győzködéssel (és pereskedéssel) a Pentagon bőségesen fizet az új technológiákért. A dolgozók ellenállása a hadviselésben való munkavégzéssel szemben (ami leginkább a 2018-as munkabeszüntetések során volt érezhető a Google-nél) sokaknál enyhült, amikor Oroszország 2022-ben megszállta Ukrajnát.
Tehát bizonyos szempontból az OpenAI ezzel a döntésével csak felzárkózik a többi MI-vállalathoz. A különbség az, hogy a haditechnikai cégeknek teljesen természetes, hogy a hadviseléssel foglalkoznak, és nem kellett hirtelen megtagadniuk a nonprofit MI-kutató vállalatok örökségét.
Az OpenAI az alapításától kezdve olyan szervezetként pozicionálta magát, amelynek a küldetése az, hogy a mesterséges intelligencia általánosan az egész emberiség javát szolgálja. A szervezet már az elején közölte, hogy a hadsereggel való együttműködés ellentmondana ennek. Az idén október 24-i blogbejegyzésében azonban egy teljesen új utat jelölt ki, és megpróbálta összeegyeztetni a cég védelmi célú munkára való hajlandóságát a szervezet kinyilvánított értékeivel.
Az OpenAI megközelítése az MI és a nemzetbiztonság terén című blogbejegyzés ugyanazon a napon jelent meg, amikor a Fehér Ház kiadta az MI-ről szóló nemzetbiztonsági memorandumát, amely utasította a Pentagont és más ügynökségeket, hogy fokozzák az MI használatát, részben a kínai verseny miatt.
„Úgy gondoljuk, hogy az MI demokratikus víziója elengedhetetlen ahhoz, hogy teljes mértékben kiaknázzuk a benne rejlő lehetőségeket, és biztosítsuk, hogy az előnyeit széles körben megosszák – írta az OpenAI, visszhangozva a Fehér Ház memorandumának hasonló megfogalmazását. – A demokráciáknak továbbra is vezető szerepet kell vállalniuk a mesterséges intelligencia fejlesztésében, olyan értékek által vezérelve, mint a szabadság, a méltányosság és az emberi jogok tiszteletben tartása.”
A cég számos lehetőséget ajánlott fel arra, hogy hogyan segíthetne ennek a célnak az elérésében, beleértve a „fordítási és összegzési feladatok egyszerűsítésére, valamint a polgári károk tanulmányozására és enyhítésére” irányuló erőfeszítéseket, miközben továbbra is tiltja, hogy technológiáját „emberek sérelmére, tulajdonuk elpusztítására vagy fegyverek kifejlesztésére” használják.
Tehát az OpenAI üzenete azt jelenti, hogy benne van a nemzetbiztonsági feladatok segítésében. Az új irányelvek a „rugalmasságot és a törvényeknek való megfelelést” hangsúlyozzák – mondja Heidy Khlaaf, az AI Now Institute vezető MI- és biztonsági kutatója, aki 2022-ben az OpenAI-jal közösen írt egy tanulmányt az MI-technológia lehetséges veszélyeiről például a hadviselésben. A vállalat pálfordulása „végső soron azt jelzi, hogy elfogadható a katonai és a hadviseléssel kapcsolatos tevékenységek végzése a Pentagon és az amerikai hadsereg megítélése szerint” – mondja.
Ez esetben nem az OpenAI találta fel a spanyolviaszt
Az Amazon, a Google és az OpenAI partnere, befektetője, a Microsoft évek óta verseng a Pentagon felhőalapú számítástechnikai szerződéseiért. Ez nem véletlen, hiszen ezek a vállalatok megtanulták, hogy a védelemmel való együttműködés hihetetlenül jövedelmező lehet. Ennek fényében igencsak érdekes, hogy az OpenAI 5 milliárd dolláros veszteséggel számol, és pont akkor enyhülnek az elvei és a szabályai, amikor új bevételi források után kutatnak.
A Big Tech és a hadsereg kapcsolatai már nem váltanak ki akkora felháborodást, és nem kezdeményeznek vizsgálatokat, mint korábban. Az OpenAI azonban nem felhőszolgáltató, az általa kifejlesztett technológia pedig sokkal többre képes, mint az adatok egyszerű tárolása és lekérdezése. Ezzel az új partnerséggel a cég azt ígéri, hogy segít az adatok átválogatásában a harctéren, betekintést nyújt a fenyegetésekbe, emellett segít gyorsabbá és hatékonyabbá tenni a háborús döntéshozatali folyamatot.
A vállalat nemzetbiztonsággal kapcsolatos nyilatkozatai számos kérdést vetnek fel. Enyhíteni akarja a civil károkat – de mely civileknek? A mesterségesintelligencia-modellekkel való hozzájárulás egy olyan programhoz, amely drónokat lő le, nem számít olyan fegyverek kifejlesztésének, amelyek árthatnak az embereknek? Ahogyan Khlaaf fogalmazott:
„a védelmi fegyverek is fegyverek.”
Ezeken a kérdéseken túl a védelmi területen való munka azt jelenti, hogy a világ vezető MI-vállalata, amelynek hihetetlenül nagy a befolyása az iparágban, és már régóta arról papol, hogyan kell felelősségteljesen kezelni az MI-t, most egy olyan védelmi technológiai iparágban fog dolgozni, amely teljesen más szabályok szerint játszik. Ebben a rendszerben, amikor az ügyfél az amerikai hadsereg, a technológiai cégek nem dönthetnek arról, hogy a termékeiket hogyan használják fel.
Borítókép: Dreamstime
