A generatív mesterséges intelligencia rohamos fejlődése új kibervédelmi kihívások elé állítja a vállalatokat. A ChatGPT és társai bár forradalmi lehetőségeket kínálnak, a rosszindulatú felhasználás veszélyei is növekednek. A vállalatoknak így nemcsak a külső fenyegetésekkel, de belső kockázatokkal is szembe kell nézniük. 

Mint arról korábban beszámoltunk, a mesterséges intelligencia (MI), valamint a nyelvi modellek fejlettsége és népszerűsége folyamatosan nő, egyre több vállalat és különböző iparágak is alkalmazzák valamilyen formában. Azonban nem csupán jóra lehet használni a fejlett technológiát, így a biztonság mellett a kártékony szoftverek is fejlődnek, amivel lépést kell tartania a kibervédelemnek. 

Rob Greer, a Symantec Enterprise Division (SED) kibervédelmi megoldásokkal foglalkozó vállalat  vezérigazgatója szerint a generatív mesterséges intelligencia három fő kockázatot erősít a vállalatoknál: 

• Bizalmas adatok kiszivárgása: A vállalati felhasználók érzékeny vagy bizalmas vállalati információkat adhatnak meg a generatív mesterségesintelligencia-rendszereknek, például a ChatGPT-nek, és ezzel szándékosan vagy akaratlanul titkos információkat fedhetnek fel, és kockára tehetik a cégük hírnevét. 

• Szerzői jogi kérdések: Az alkalmazottak a generatív MI-t például forráskódok, képek és dokumentumok létrehozására használják. Nem lehet azonban tudni a ChatGPT által biztosított tartalom eredetét, mivel az nem biztos, hogy szerzőijog-mentes, ez pedig kockázatot jelenthet a szervezetre nézve. 
• Támadások: A támadók a generatív mesterséges intelligencia eszközeivel kártékony kódokat generálhatnak. Egyelőre a többek által ismert ChatGPT fizetős verziója sem képes elsőre jó kódot írni, ezért az ahhoz kevésbé értőknek sem olyan könnyű a dolga, ám mégis egyszerűbb ma már kártékony kódot készíteni, mint korábban.  

Azonban nem csupán a ChatGPT  létezik, a leleményesebb rosszakarók más, modernebb eszközökkel is próbálkozhatnak.  

A HYAS kutatói például megalkották a BlackMamba mesterségesintelligencia-alapú rosszindulatú szoftvert, amely képes a saját jóindulatú forráskódját rosszindulatúra átírni, és ehhez mindösszesen egy nyelvi modellre van szüksége. 

Ezzel rávilágítottak arra, hogy mennyire veszélyes az MI, ha rossz kezekbe kerül. Ezért a vállalatok kibervédelmének minél gyorsabban fel kell zárkóznia az újabb technológiákhoz ahhoz, hogy meg tudják magukat védeni a legmodernebb fenyegetések ellen. 

Fontos a munkavállalók edukálása 

A cégeknek tehát mind a külső személyek általi beavatkozását, mind a saját embereik gondatlanságából vagy tájékozatlanságából fakadó hibákat el kell kerülniük. Na de hogyan? 

Rob Greer, a Symantec Enterprise Division (SED) vezérigazgatója szerint minden szervezetnek meg kell határoznia a generatív MI használatára vonatkozó saját irányelveit és megfelelő biztonsági ellenőrzéseket kell végezniük. Mivel még mindig korai szakaszában vagyunk a generatív mesterséges intelligencia korának, a szervezeteknek rendszeresen felül kell vizsgálniuk és szükség szerint fejleszteniük szükséges a szabályzataikat. 

Néhány szervezet úgy döntött, hogy egyelőre megtiltja ezen eszközök használatát, és olyan biztonsági rendszert léptettek életbe, amely átfogóan ellenőrzi és szűri a bejövő és a kimenő webes forgalmat, megakadályozza a rosszindulatú tartalmak, valamint a nem kívánt alkalmazások elérését. Mások engedélyezik a generatív MI használatát, azonban olyan szolgáltatásokat vesznek igénybe, amelyek meggátolják a bizalmas adatok kiszivárgását.   

Magyarországon is egyre fontosabb az emberek védelme

A MI-t alkalmazó rosszakarók áldozatai nem csupán vállalatok, de magánszemélyek is könnyen lehetnek. A KiberPajzs Programot (amely keretében a részt vevő intézmények a lakossági ügyfelek pénzügyi tudatosságának növelése és a kiberkockázatok hatékony kezelése érdekében működnek együtt) bemutató szeptemberi sajtóeseményen Kardos Ferenc, a Médiaunió Alapítvány ügyvezetője elmondta, hogy a kiberbűnözők legtöbbször közvetlenül a felhasználót akarják megtéveszteni, ezt pedig egyre kifinomultabb módszerekkel teszik. Azt is hozzátette, hogy a magyar internetezők közül minden ötödik, azaz 22 százalékuk vált már online csalás célpontjává. 

A kormány minden eszközt megragad annak érdekében, hogy megvédje a családokat és a háztartásokat, ez alól a pénzügyi biztonság sem jelent kivételt – tájékoztatott a Gazdaságfejlesztési Minisztérium képviseletében Túri Anikó. 

Statisztikák szerint a csalók egyértelműen az egyszerszerűbb megoldásokat keresik. A visszaélések 71,8 százaléka adathalászattal, személyes adatok lopásával, 4,7 százaléka pszichológiai nyomásgyakorlás (sürgetés) mellett történik az adatok szerint. A csalások formájában továbbra is 3 markáns irány látható Freisleben Vilmos, az MNB fogyasztóvédelmi igazgatója szerint: a bankok/hivatalos szervek nevében elkövetett telefonos csalások, kéretlen vagy adathalász e-mailek, SMS-ek küldése, illetve a piactereken futó hamis hirdetések. 

A digitális tér terjedésével nő a csalások és a visszaélések száma – jelezte az államtitkár, kiemelve, hogy minden korábbinál fontosabbá vált a pénzügyi edukáció és a pénzügyi tudatosság fejlesztése, a fogyasztók védelme. Ezt a célt szolgálja a PÉNZ7 és ezt erősíti a KiberPajzs is, amelyhez a Gazdaságfejlesztési Minisztérium is csatlakozott. 

A szervezeteknek a szabályokon felül érdemes a munkavállalóit is edukálni arról, hogy milyen adatokat ne osszanak meg a generatív mesterséges intelligenciával, akár a biztonság, akár a szerzői jogok megsértésének elkerülése érdekében.  

Fegyverkezési verseny a kibertérben 

A generatív MI-eszközök mind a támadók, mind a védők számára szabadon hozzáférhetők, így érthetők a kibertéri fegyverkezési versennyel kapcsolatos aggodalmak. 

Idővel a generatív mesterségesintelligencia-eszközök még fejlettebbek lesznek, tehát egyre több adatból fognak gazdálkodni és mind nagyobb lesz a számítási teljesítményük. A jövőben pedig eljöhet az az idő, amikor az ilyen eszközök képesek lesznek teljesen új támadásokat generálni és végrehajtani kifejezetten célzott szervezetek ellen. Ugyanakkor a biztonsági cégek az ilyen eszközöket felhasználva fel tudják majd turbózni a védelmüket.   

„Úgy véljük, hogy az lesz előnyben, aki a legnagyobb számítási kapacitással rendelkezik” 

 – írta Rob Greer, majd hozzátette, hogy a ChatGPT korai sikerében is kulcsfontosságú volt a fejlesztéséhez használt hatalmas számítási teljesítmény. Szerinte a biztonsági cégek érzik az újabb fenyegetések komolyságát, és megfelelő mértékben fektetnek majd be a számítási teljesítménybe és a kutatásba, hogy az élen maradjanak ebben a „fegyverkezési” versenyben. 

A SED vezérigazgatója szerint azonban – ahogyan azt más technológiák esetében – lehetetlen megjósolni, hogy a generatív mesterséges intelligencia használata hogyan fejlődik. A közösségi média is olyan eszközként indult, amely segítette az embereket abban, hogy az elektronikai eszközeiken keresztül kapcsolatban maradjanak a barátaikkal, a családtagjaikkal, és senki sem gondolta, hogy ebbe az irányba megy majd el.  

Hasonlóképpen, a generatív mesterséges intelligencia is átalakítja a magán- és a munkahelyi életünket. Csakúgy, mint az ezt megelőző technológiák, az internet, az okostelefonok és a közösségi média, a generatív mesterséges intelligencia is újfajta kiberbiztonsági, illetve adatvédelmi kérdéseket vet majd fel.