Ahogy 135 évvel ezelőtt a Rerum novarum megteremtette a vadkapitalizmussal szembeni keresztényszociális ellenállás alapjait, úgy a most megjelent Magnifica humanitas enciklika egy új, a közösségelvű ellenállás dekrétuma a nagy techcégekkel szemben.

Fontos leszögezni, hogy a Vatikán kritikája nem a tudomány és a megnövekedett hatékonyság ellen szól. A probléma szerintük ott kezdődik, amikor a mesterséges intelligencia megszűnik az embert szolgáló eszköz lenni, helyette a hatalomgyakorlás és a kirekesztés fegyverévé válik.

A fizikaitól a szellemi kizsákmányolásig

Amikor XIII. Leó pápa 1891-ben kiadta a Rerum novarumot, a világ épp az ipari forradalom sokkjával küzdött. A gőzgép és a tömegtermelés felforgatta a hagyományos társadalmi rendet, a vadkapitalizmus pedig atomizálta és kiszolgáltatottá tette a munkásságot. Az akkori egyházfő világosan látta, hogy a szabadrabló piacgazdaság pusztítását csak az államok képesek megfékezni a közjó érdekében, ugyanakkor a legfőbb védvonalat mégis az alulról szerveződő munkásegyletek és szakszervezetek adták.

Így jelent meg az egyház társadalmi tanításaiban a szubszidiaritás, azaz a kisegítés elve.

Napjainkban az új korszakformáló általános felhasználású technológia, a mesterséges intelligencia jelent hasonló problémát. XIV. Leó pápa Magnifica humanitas enciklikája rávilágít arra, hogy a modern kapitalizmus a fizikai munkaerőn túl a figyelmünkre, a személyes adatainkra, sőt a társadalmi kapcsolatainkra is rátelepszik. Ráadásul a digitalizációra lassan és hatástalanul reagáló államok kezéből egyszerűen kicsavarták a mindennapi életünkre egyre nagyobb hatással lévő virtuális hatalmat a kevésbé elszámoltatható techóriások. Ezek erőforrásai és beavatkozási képességei sokszor messze felülmúlják a kormányokét, így szép lassan szuverénekké válnak.

Bábel és Jeruzsálem

A jelenlegi világrendszer feszültségeinek ábrázolására az enciklika két szemléletes bibliai képet használ. Az egyik véglet Bábel tornya, amely a felülről vezérelt, egységesítő utópia szimbóluma, ahol a cél a határok és Isten nélküli egydimenziós világ megteremtése, amiért a hatékonyságra hivatkozva feláldozzák az emberi sokszínűséget. Ennek legfőbb veszélye, hogy az embert nem személyes valójában tarja értékesnek, csupán egy végletekig finomhangolható munkaerőként tartja számon, ami az emberi végességből fakad, ezért a gyengeség, az öregedés, a sebezhetőség vagy a kudarc pusztán kijavítandó hibáknak minősülnek.

Ezzel a gőggel áll szemben a jeruzsálemi, Nehémiás-féle építkezés (Jeruzsálem falainak újjáépítése), amely felismeri a határaink és a végességünk méltóságát, azokat a tereket, ahol megszülethetnek a valódi emberi kapcsolatok, az együttérzés és a szolidaritás. Ha a technológia nevében lemondunk erről, azzal épp az emberségünket számoljuk fel.

Hogy jön ide az MI?

A mesterséges intelligencia az a technológia, amely eddig nem látott sebességgel képes terjeszteni a technokrata paradigmát, úgy is fogalmazhatnánk, hogy az MI-használattal együtt egy kulturális öngyarmatosítást hajtunk végre.

Gondoljuk csak végig, hogy mit is propagál.

A gép számára a világ adatokból áll, a fejlesztő célja pedig a hatékonyság csúcsra járatása, ahol minden apró pontatlanság vagy lassulás egy kijavítandó hiba. Amikor ezt a világnézetet magunkévá tesszük az MI-n és a digitalizáción keresztül, egy idő után saját magunkra és embertársainkra is optimalizálandó munkaerőként tekinthetünk. Ha a hatékonyság válik a létezésünk egyetlen mércéjévé, elveszítjük a toleranciát a tökéletlenséggel szemben, így kiveszik belőlünk a türelem, a megbocsátás vagy a kegyelem.

Ezt az elgépiesedést legitimálja a tárgyilagosság mítosza, miszerint hajlamosak vagyunk elhinni, hogy a gépi intelligencia válaszai morálisan semlegesek, holott az mindig a tervezőinek ideológiai előfeltevéseit és értékrendjét foglalja magában.

A háború normalizálása

Amikor a társadalmak magukévá teszik a gépi logikát, a fegyveres konfliktusok is elveszítik az erkölcsi súlyukat, ezért az enciklika legfontosabb, a nemzetközi kapcsolatokkal szembeni kritikája az autonóm fegyverrendszerek ellen szól.

A Vatikán arra figyelmeztet, hogy a mesterséges intelligencia harctéri alkalmazása csökkenti az erőszak alkalmazásának küszöbét.

Ha a célpontok kiválasztását és az élet-halál feletti stratégiai döntéseket gépekre bízzuk, a konfliktusok emberi kontroll nélkül eszkalálódnak. Egy MI ugyanis képtelen a morális mérlegelésre, hiszen számára az ellenség egy matematikai változó, a civil áldozat pedig járulékos veszteség. Ez a technológiai védelem tökéletes fedezéket nyújt a döntéshozóknak, elkerülve a felelősségre vonhatóságukat.

Ezt az elszemélytelenedést ráadásul a globális hadiipari komplexumok gazdasági érdekei is fűtik, amelyek számára a konfliktusok fenntartása nem más, mint üzlet. A Szentszék ezért bírálja azt a napjainkban uralkodóvá váló cinikus, nyers reálpolitikát, amely elhiteti a közvéleménnyel, hogy a háború az emberi természet elkerülhetetlen része, a béke keresése pedig egy naiv és irracionális utópia. A helyzetet tovább súlyosbítja, hogy a modern háborús pszichózis már jóval az első lövések eldördülése előtt megkezdődik a kibertérben. Az információmanipuláció és a polarizációra hajlamos közösségi média olyan „barát vagy ellenség” narratívákat erősít fel, amelyek megbontják a bizalmat.

Mindenkinek megvan a maga keresztje

A Magnifica humanitas üzenete határozott felszólítás a cselekvésre. Hajlamosak vagyunk úgy érezni, hogy a nemzetközi techóriások hatalma megdönthetetlen, mi pedig túl kicsik vagyunk ahhoz, hogy érdemben változtassunk az algoritmikus gyarmatosításon.

A Vatikán azonban elutasítja a beletörődést.

A mesterséges intelligencia korában az ellenállás leghatékonyabb fegyvere a keresztényszociális gondolkodás alapja, a szubszidiaritás, ami azt jelenti, hogy a technológiai szuverenitást a lehető legalacsonyabb, leginkább helyi szintre kell visszavenni, és ahogy említettük, a Szilícium-völgy zárt rendszereivel szemben a nyílt forráskódú, közösségileg ellenőrizhető és fejleszthető alternatívák felkarolása jelentheti az igazi kiutat. Az open source mozgalom logikája ugyanis kísértetiesen hasonlít Nehémiás építkezésére:

a megosztott felelősségvállalás, az átláthatóság és a helyi „kézművesek” tudásának összessége építi fel a rendszert.

Nehémiás felismerte, hogy Jeruzsálem falait csak úgy lehet újjáépíteni, ha minden család vállalja a saját háza előtt húzódó szakasz felhúzását és megvédését. Ma, a digitális ostromállapot idején a mi falszakaszunk megóvása az okostelefonok száműzésével kezdődik a családi asztaltól. A munka a kognitív függetlenségünk visszavételével, az offline emberi találkozások megóvásával, valamint a helyi szellemi és gazdasági közegek megerősítésével folytatódik. Bármilyen kicsinek is tűnik egy-egy ilyen lépés, ezek az organikus, alulról építkező ellenállás legfontosabb építőkövei.

Fotó: Dreamstime

Kapcsolódó: