Az MI-ügynökök képesek komplex kibertámadások végrehajtására, ami új kihívások elé állítja a biztonsági szakértőket.
A mesterségesintelligencia-ügynököknek olyan fejlett képességeik vannak, amelyek lehetővé teszik számukra komplex feladatok végrehajtását, de kibertámadások eszközei is lehetnek. Mark Stockley, a Malwarebytes kiberbiztonsági szakértője szerint a jövőben a kibertámadások nagy részét mesterségesintelligencia-ügynökök fogják végrehajtani. Stockley szerint már csak az a kérdés, hogy mikortól.
Mik azok a mesterségesintelligencia-ügynökök?
Az MI-ügynökök olyan számítógépes rendszerek, amelyek képesek önállóan érzékelni a környezetüket, döntéseket hozni, és az adott céljaik elérése érdekében cselekedni. Az „ügynök” kifejezés itt azt jelenti, hogy ezek a rendszerek nem csupán passzívan válaszolnak a parancsokra, hanem aktívan kezdeményeznek lépéseket – például adatokat gyűjtenek, elemzéseket végeznek, problémákat oldanak meg vagy akár más rendszerek működésébe is beavatkoznak.
Ezen ágenseknek egyre fejlettebb a tudása: képesek komplex döntési helyzetek kezelésére, tanulásra, alkalmazkodásra és akár több lépéses tervek kidolgozására is. A fejlesztésük célja, hogy a jövőben képesek legyenek egyre nagyobb fokú autonómiára – vagyis kevesebb emberi beavatkozás mellett is hatékonyan működjenek. Ennek különösen nagy jelentősége van az olyan területeken, mint a kiberbiztonság, a katonai rendszerek, a pénzügyi automatizáció vagy a logisztika, ahol gyors, precíz és skálázható döntéshozatalra van szükség.
Bár jelenleg a kiberbűnözők még nem használnak MI-ügynököket nagyszabású támadásokra, a kutatók már bizonyították, hogy azok képesek bonyolult akciók végrehajtására. Az Anthropic MI-cégnél például megfigyelték, hogy a Claude LLM-modelljük sikeresen reprodukált egy érzékeny információk eltulajdonítására tervezett támadást.
A Palisade Research korai figyelmeztető rendszere
A kiberfenyegetések felismerésére a Palisade Research létrehozta az LLM Agent Honeypot nevű rendszert. Dmitrii Volkov, a Palisade Research kutatásvezetője elmondta, hogy a rendszer sebezhetőnek látszó szervereket állít fel, amelyek értékes kormányzati és katonai információkat tartalmazó oldalaknak álcázzák magukat, hogy odavonzzák és megpróbálják elfogni a betörni próbáló MI-ügynököket. Szerinte az elkövetkező években már
olyan autonóm hackelő ügynökök jelenhetnek meg, amelyeknek megadják a célpontot, és csak ennyi utasítást kapnak: „Ez a célpontod. Menj és törd fel!”
Ezért vonzók az MI-ügynökök a kiberbűnözők számára
Az MI-ügynökök azért is vonzók a kiberbűnözők számára, mivel sokkal olcsóbbak és gyorsabbak, mint a professzionális hackerek. Stockley szerint bár a váltságdíjas támadások a legjövedelmezőbbek, viszonylag ritkák (mivel jelentős emberi szakértelmet igényelnek), így a jövőben ezeket a feladatokat ügynökökre bízhatják. Hozzátette, hogy az utóbbiak jóval okosabbak, mint a rendszerek feltörésére használt botok. Volkov úgy véli, hogy míg a botok egy egyszerű automatizált programok, amelyek szkripteket futtatnak, ezért nehezen alkalmazkodnak a váratlan helyzetekhez, ezek az ügynökök a folyamatos adaptáció mellett az észlelés elkerülésében is remekelhetnek.
Daniel Kang, az Illinois-i Egyetem adjunktusa és kutatócsoportja egy referenciaértéket dolgozott ki az ügynökök teljesítményének mérésére. Eredményeik szerint a jelenlegi MI-ügynökök az általuk ismeretlen sebezhetőségek 13 százalékát is képesek voltak kihasználni. Amikor a kutatók rövid leírást is adtak a sérülékenységről, az ügynökök sikerességi aránya 25 százalékra nőtt – ezzel is bizonyítva, hogy ezek a rendszerek még külön tréning nélkül is alkalmasak lehetnek gyenge pontok azonosítására és kihasználására.
Az első, felderített MI-ügynökök már aktívak
A 2023 októberében elindított LLM Agent Honeypot több mint 11 millió hozzáférési kísérletet naplózott, amelyek többsége kíváncsi emberektől és botoktól származott. A kutatók azonban nyolc potenciális MI-ügynököt is észleltek, amelyek közül kettőről megerősítették, hogy Hongkongból, illetve Szingapúrból érkeztek. Volkov szerint ezek olyasmi feladatot kaphattak, mint például: „Menj fel az internetre, és próbálj meg feltörni valami érdekeset.” Annak meghatározására, hogy a sebezhető szerverek látogatói közül melyek voltak LLM által működtetett ügynökök, a kutatók promptinjekciós technikákat építettek be a rendszerbe, amelyek az MI-ügynökök viselkedését képesek megváltoztatni.
Mikortól számíthatunk tömeges ügynöktámadásokra?
A szakértők egy része bizonytalan abban, hogy mikor válnak széles körben elterjedtté az ügynökök által szervezett támadások, ám Stockley szerint már az idén.
Vincenzo Ciancaglini, a Trend Micro vezető fenyegetési kutatója szerint az MI-ügynökök technológiája még nagyon korai szakaszában jár, csakúgy, mint a bűnözői vagy a rosszindulatú felhasználás. Emellett kiemelte a Palisade Research megoldását, amely védekezésként feltöri a támadó MI-ügynököket, mielőtt azok kárt okozhatnának.
Védekezési stratégiák és lehetőségek
Chris Betz, az Amazon Web Services biztonsági vezetője szerint a mesterséges intelligencia nem forradalmasítja a kibertámadásokat, inkább csak felgyorsítja a már ismert technikákat – és így kell ezzel számolnunk a védekezési stratégiák tervezésekor is. „Bizonyos támadások végrehajtása egyszerűbb lehet, és ezért nagyobb számban fordulhatnak elő, azonban az, hogy hogyan kell észlelni és reagálni ezekre az eseményekre, alapvetően ugyanaz marad” – mondta.
Fel kell készülni a modern korra
A kibertámadások a mesterséges intelligenciának köszönhetően egyre kifinomultabbá válnak és gyakoribbak is lesznek, ezért nagyon fontos a felkészültség.
Az Információs Rendszerellenőrzési és Irányítási Szövetség (ISACA) kutatása szerint az általuk megkérdezett közel hatezer szervezet 39 százaléka elismerte, hogy több kibertámadás éri őket, és 15 százalékuk több adatvédelmi incidenst szenved el, mint egy évvel ezelőtt.
E tanulmányból az is kiderült, hogy az európai kiberbiztonsági csapatok nehezen tudnak lépést tartani a támadásokkal. Az európai kiberbiztonsági szakemberek több mint 60 százaléka szerint a szervezetük kiberbiztonsági egységének nincs elég embere, és 52 százalékuk véli úgy, hogy e területen a költségvetésük elmarad a szükségestől.
Emellett az ír központú informatikai cég, az Accenture kutatásában megkérdezett pénzintézetek vezetői is úgy érzik, hogy nem tudnak megfelelően védekezni a generatív mesterséges intelligenciával felfegyverkezett kiberbűnözők ellen. A tanácsadó cég által megkérdezett 600 banki kiberbiztonsági vezető 80 százaléka szerint a generatív MI gyorsabban fejleszti a hackerek képességeit, mint ahogy a bankok reagálni tudnának erre. Valerie Abend kiberbiztonsági vezető szerint azok a hitelintézetek lesznek a nyertesek ebben a harcban, amelyek megértik, hogy az ügyfelek bizalma az egyik legnagyobb érték – tehát az adataik biztonsága és ezzel együtt a kibervédelem fejlesztése kulcsfontosságú.
Nem csak a rendszer hibázhat
Már maga a tudatosság is sokat segít a kibervédelemben, hiszen nem csupán a rendszereken múlik az adatok védelme: a kutatások szerint ugyanis az emberi tényező okozza az adatlopások közel háromnegyedét. A manipulatív csalások a vállalkozások számára is komoly fenyegetést jelentenek, pénzügyi és reputációs kockázatoknak téve ki azokat.
A legújabb adatok szerint 10-ből egy vezető már találkozott deepfake (hamis) fenyegetéssel, a vezetők 25 százaléka pedig még mindig nincs tisztában annak kockázataival.
Az MI által generált tartalmak felderítése nehéz feladat. Bár számos eszköz képes felismerni a mesterséges intelligencia által létrehozottakat, ezek nem túl pontosak, főleg, hogy vannak kifejezetten olyan szoftverek, amelyek képesek elrejteni, hogy egy tartalom mesterségesen generált. Így arra vagyunk kényszerítve, hogy mi magunk vegyük észre, ha valami nem stimmel.
A WEF szerint a magas érzelmi intelligenciájú emberek hamarabb felismerik, ha MI által támogatott manipulációval találkoznak, ezért a cégvezetőknek érdemes befektetniük az érzelmi intelligenciát erősítő képzésekbe. Az érzelmeket kiváltó okok azonosítására összpontosító, szimulációkkal kombinált – a mechanikus szabálykövetésen túl a kreatív gondolkodásra és a rugalmas stratégiákra összpontosító – workshopok segíthetnek az alkalmazottaknak abban, hogy hamarabb felismerjék, ha megpróbálják őket átverni.
Kapcsolódó:
