Ausztrália egységesebb és szigorúbb ellenőrzés alá vonná az állami mesterségesintelligencia-használatot, főként az automatizált közigazgatási döntéseket. A Robodebt-botrány tapasztalatai alapján a készülő szabályozás az emberi felelősség, az átláthatóság és a jogorvoslat megerősítésére épülhet.
Tudjuk, hogy a mesterséges intelligencia nem tévedhetetlen, sőt ami azt illeti, elég sokszor téved. Azonban az sem úszható meg, hogy állami környezetben alkalmazzák, hiszen könnyen átveszi az automatizálható, mérlegelést nem igénylő, adminisztratív közigazgatási munkafolyamatokat. Ha itt hibázik, akkor azon emberi sorsok, támogatások, tartozással kapcsolatos ügyek kimenetele függhet, vagyis tömeges jogsérelmet okozhat. Ausztráliában erre konkrét példa is előfordult a közelmúltban.
Ennek elkerülése vagy legalább minimalizálása érdekében az ausztrál kormány most egy
szigorúbb, az egész szövetségi közigazgatási rendszerre kiterjedő ellenőrzési rendszert készít elő az emberi felügyelet megerősítésével, hogy ne történhessen újra hasonló.
Az előzmények
A mostani fejlemények nem előzmény nélküliek az ország közigazgatási rendszerében. A tavaly decemberben közzétett ausztrál Nemzeti MI-terv három cél köré rendezte a kormány politikáját: az MI gazdasági lehetőségeinek kihasználása, az előnyök kiterjesztése a társadalom számára és az ausztrál állampolgárok védelme. Az elképzelés szerint az MI javíthatja a közszolgáltatásokat, ám csak megfelelő emberi felügyelettel, ahol az állam feladata, hogy saját, átlátható alkalmazással mutasson példát. A dokumentum minden szövetségi szervnél felelős funkciót irányoz elő, az MI-használat nyomon követését és jelentését, továbbá olyan egységes jogi keretet, amelyben a lényeges döntésekért az MI segítsége mellett is emberi döntéshozó marad felelős.
Az ausztrál Digitális Átalakulási Ügynökség már tavaly év végén szigorította a kormányzati MI-használat szabályait. A szövetségi szerveknek belső nyilvántartást kell vezetniük a szabályozás hatálya alá tartozó MI-alkalmazásokról, minden felhasználási esethez elszámoltatható felelőst kell rendelniük, illetve a bevezetés előtt hatásvizsgálatot kell készíteniük, amelynek többek között a méltányosságra, a biztonságra, az adatvédelemre, az átláthatóságra, a kiberbiztonságra és az emberközpontú működésre gyakorolt hatásokat kell értékelnie. Az intézményeknek ezenkívül incidenskezelési eljárást, bejelentési csatornát és kötelező munkatársi képzést is létre kell hozniuk.
A belső nyilvántartások mellé nyilvános átláthatósági rendszer is épül: a Digitális Átalakulási Ügynökség márciusra központi felületen gyűjtötte össze a szövetségi intézmények MI-átláthatósági nyilatkozatait. A közzétételre kötelezett mind a 94 szerv teljesítette ezt a követelményt, további húsz intézmény pedig önkéntesen csatlakozott. A rendszer azonban egyelőre elsősorban azt mutatja meg, hogy az egyes intézmények általában hogyan viszonyulnak az MI-hez, vagyis nem feltétlenül teszi láthatóvá minden egyes rendszer működését, döntési súlyát, adatforrásait és hibakockázatait.
Az új MI-szabályozás
Júliusban tehát elindult a munkafolyamat, azonban az egységes törvényjavaslat egyelőre nincs meg. A kormány öt kiemelt biztonsági területet nevezett meg: a digitális szolgáltatókra háruló, biztonságos tervezést megkövetelő gondossági kötelezettség mellett az adatvédelmi szabályok további korszerűsítését, a munkahelyi MI-használat biztonságát, az MI-vel összefüggő fogyasztóvédelmi kockázatok kezelését, valamint a szövetségi szervek automatizált döntéshozatalának egységesebb szabályozását.
A kormányzati MI-hivatal
Az MI-ügy annyira központi kérdéssé vált, hogy a közigazgatási szervezetrendszeren belül új kereteket is kapott július közepével:
az Office of AI a miniszterelnök személyes hivatala helyett a Miniszterelnöki Kabinetirodai Minisztériumon belül működik majd. A feladata pedig a korábban több tárca, hatóság és szakpolitikai program között megoszló munka összehangolása, valamint az új ausztrál MI-szabványok végrehajtásának gyorsítása lesz.
Az ausztrál kormány a jövő év elejére ígéri az adatközpontokra és a kapcsolódó nemzeti szabványokra vonatkozó jogalkotást, az állami automatizált döntéshozatal részletes szabályai és pontos menetrendje azonban még kidolgozás alatt állnak. A politikai irány tehát világos, de a végleges jogok, kötelezettségek és ellenőrzési hatáskörök egyelőre nem ismertek.
Egy rossz tapasztalat: a Robodebt tanulságai
A közigazgatás automatizálása sok ausztrál szemében nem feltétlenül hordoz kellemes emlékeket, talán ezért is úttörő az ország kormányzata abban, hogy az állam működésében használt mesterséges intelligenciát csak szigorú szabályozás mellett engedélyezze. Ez volt az a bizonyos Robodebt-rendszer, ami ugyan még nem MI-alapú volt, de egy ahhoz hasonló algoritmikus közigazgatási módszer volt a tartozások kiszámítása területén.
A 2015 és 2019 között működő jövedelemellenőrzési program az ausztrál adóhatóságtól származó éves adatokat átlagolta, majd ezek alapján állapított meg vagy valószínűsített szociális ellátásokhoz kapcsolódó tartozásokat. Az adatokat önmagukban is felhasználták tartozások megállapítására, ám ezt a gyakorlatot 2019 novemberében megszüntették.
A program nyomán több mint négyszázezer tartozást töröltek vagy fizettek vissza, miután a szövetségi bíróság egy ilyen fizetési felszólításról megállapította, hogy azt érvénytelenül adták ki.
Szigorúbb, mint az uniós MI-rendelet?
Az ausztrál szabályozás iránya az uniós MI-rendelethez képest szűkebb területre összpontosít, az állami döntéshozatal ellenőrzésében ugyanakkor bizonyos pontokon szélesebb védelmet adhat. Az uniós AI Act közvetlenül alkalmazandó uniós rendelet, amely az MI-rendszerek fejlesztőire és alkalmazóira, illetve a köz- és a magánszektorra egyaránt kiterjed.
A magas kockázatú rendszereknél szigorú feltételeket támaszt a kockázatkezeléssel és az adatkezeléssel szemben, továbbá dokumentálhatóságot, nyomon követhetőséget és emberi felügyeletet követel.
Amennyiben egy ilyen rendszer természetes személyről hozott, joghatással járó döntést befolyásol, az érintettet tájékoztatni kell, aki magyarázatot is kérhet. A szabályok betartását nemzeti hatóságok és az Európai MI-hivatal felügyeli, a jogsértésekhez pedig jelentős pénzügyi szankciók kapcsolódhatnak.
Ausztrália ezzel szemben jelenleg célzott, több jogterületre épülő modellt alakít ki, vagyis az intézményi hatásvizsgálat mellett kijelölt felelőst, belső nyilvántartást és incidenskezelést ír elő, a magas kockázatú alkalmazásokat vizsgáló bizottság azonban csak olyan szakmai ajánlásokat ad, amelyek egyelőre nem kötelező érvényűek.
A tervezett új keret általában az automatizált szövetségi döntéshozatalt kívánja szabályozni, így elvileg olyan szabályalapú rendszereket is lefedhet, amelyek nem feltétlenül tartoznak az uniós rendelet MI-fogalma alá, így szélesebb körű alkalmazhatóság jellemzi majd, ami a Robodebthez hasonló közigazgatási automatizációk esetében érdemi előnyt jelenthet. Az ausztrál modell tehát az állami működésen belül technológiasemlegesebb megközelítést ígér, a jogi kikényszeríthetőségét azonban csak a még készülő részletszabályok alapján lehet majd az uniós rendszerhez mérni.
Kapcsolódó:
Borítókép: Chat GPT
