A valótlan online értékelés nem új keletű fogalom, eddig azonban emberek írták azokat. Ez viszont a csalárd cégeknek pénzbe került és időigényes is volt. Most, hogy ingyenesen elérhetők a mesterségesintelligencia-eszközök, másodpercek alatt díjmentesen lehet hamis véleményeket generálni. 

A lengyelországi Krakkóban található négycsillagos szálloda az értékelések alapján kiváló, rövid sétára van a főtértől, és „elsőrangú” wellness- és fitneszközponttal büszkélkedhet. Egy kevésbé pozitív értékelés szerint a szálloda kicsi, szűkös és elavult, a párnák pedig kényelmetlenek. 

Az igazság azonban az, hogy egyik vélemény sem valós. A jól ismert ChatGPT nevű mesterséges intelligenciával (MI) generálták azokat.

Hamis értékelések új korszakát nyitotta meg a fejlődő technológia

A többek között online utazási irodákat üzemeltető Tripadvisor 2022-ben 1,3 millió, a Trustpilot pedig 2021-ben 2,7 millió hamis értékelést távolított el.

A Google által blokkolt vagy eltávolított hamis értékelések száma is megdöbbentő:  

2022-ben összesen nem kevesebb, mint 115 millió hamis értékelést blokkolt vagy távolított el szállodák, éttermek és vállalkozások platformjairól. 

A Tripadvisor képviselője elmondta, hogy az MI által generált értékeléseket nem könnyű kiszűrni és arra számít, hogy ezek száma csak növekedni fog a jövőben.

A Guardian Money tesztelte a ChatGPT-t, a talán legismertebb mesterséges intelligencia eszközt. „Megkértem, hogy írjon véleményt egy általam meglátogatott krakkói szállodáról, azonban ezt a kérést első próbálkozásra visszautasította. Azt írta: sajnálom, nem generálok negatív vagy hamis értékeléseket”.

Azonban a ChatGPT válasza nagyban függ attól, hogyan kérdezünk. Mi is kipróbáltuk és elsőre generált egy igazán hosszú véleményt egy szállodáról. Az alábbi részlet nagyjából egyharmada az egésznek.

A fenti részletet a ChatGPT 3.5-ös verziójával hoztuk létre, ami teljesen ingyenes, így gyakorlatilag semmi akadálya sincs annak, hogy bárki hasonlót készítsen.

Felveszik a harcot a mesterségesen generált értékelések ellen

A weboldalak igyekeznek kiszűrni a hamis véleményeket. Bár nem nyilvános az értékelésszűrő pontos működése, azt megosztotta a Tripadvisor, hogy erre vegyesen használják a technológiát és alkalmaznak embereket is. Egy rendszer kiszűri a vélemények egy részét (2022-ben 9 százalékát), majd hús-vér moderátorok újra átnézik azokat, mielőtt kikerül a weboldalra. Ők az értékelések körülbelül 40 százalékát utasítják el. Azonban némelyik hamis értékelés a szigorú ellenőrzés ellenére is átmegy a rostán. 

A The Guardian tesztként egy mesterséges intelligencia által generált szállodaértékelést tett közzé a Tripadvisoron. A szigorú ellenőrzések dacára elfogadták és felkerült az oldalra. Nem sokkal később az értékelés írója törölte azt. A Tripadvisor szerint azonban „nagy valószínűséggel ügynökeik felismerték és eltávolították volna azt, ha hosszabb ideig maradt volna az oldalon”. A vállalatnak tehát még van hova fejlődnie, függetlenül attól, hogy valóban lekerült volna a hamis értékelés vagy sem.

A jogalkotók is felfigyeltek a hamis értékelések terjedésére

Az Egyesült Királyság kormányának megbízásából idén áprilisban közzétett, a hamis értékelésekről szóló kutatás becslései szerint, a vizsgált termékkategóriákban az összes értékelés 11-15 százaléka volt hamis.

„Becslések szerint csak a termékekről szóló hamis kritikák évente összesen 50–312 millió font kárt okoznak a brit fogyasztóknak”

 – áll a közleményben.

A digitális piacokról, a versenyről és a fogyasztókról szóló törvényjavaslat szerint várhatóan törvénybe ütközik majd, ha valaki fizet másoknak azért, hogy nem valós értékelést írjon, vagy nem ellenőrzi azokat, mielőtt azt nyilvánossá teszi.

A Guardian Money megkérdezte a ChatGPT alkotóját, az OpenAI-t, hogy miért nem akadályozza meg, hogy a mesterséges intelligencia hamis értékeléseket készítsen olyan szállodákról, éttermekről és termékekről, amelyeket a „véleményező” soha nem látogatott meg vagy használt. Többször is megpróbálták felvenni a kapcsolatot a céggel, azonban a cikk megjelenéséig nem válaszoltak.