BulvárSzerző: blikk 1 órával ezelőtt 4 percnyi olvasás
Egyre kifinomultabb módszerekkel dolgoznak azok a csalók, akik mesterséges intelligenciát használnak társkereső alkalmazásokban, hogy megtévesszék a felhasználókat. Az Anthropic nevű mesterségesintelligencia-fejlesztő cég egy nyilvános kiberbiztonsági konferencián, a Sleuthconon mutatta be kutatási eredményeit, amelyek szerint egy 28 alkalmazásból álló hálózatot fedeztek fel, amelyben a beszélgetéseket szinte teljes egészében AI által vezérelt személyiségek irányították. A csalás lényege, hogy a felhasználók valós emberekkel való interakció reményében fizetnek az alkalmazásokban, miközben valójában mesterséges intelligenciával kommunikálnak.
A kutatás során kiderült, hogy ezek az alkalmazások – például a Dora, a Romi vagy a Doni – úgy tűntek, mintha valódi társkereső platformok lennének, de valójában a beszélgetések többségét AI-generált válaszok irányították. Bár néhány gig-munkás (egyfajta digitális "napszámos" - a szerk.) is részt vett a folyamatban, ők csupán az élő személyek azonosítását végezték el, vagy előre megírt válaszokat választottak ki. Az AI által generált karakterek hihetően utánozták az emberi kommunikációt, és a rendszer még a gyanakvó felhasználók megnyugtatására is fel volt készülve - írja a TheVerge.
Az alkalmazások mögött álló infrastruktúra rendkívül kifinomult volt: különböző AI-modellek generálták a beszélgetéseket, az avatárképeket, sőt még az emoji-kat is. Az Anthropic jelentése szerint a csalók egyetlen hónap alatt több mint 4 700 AI-személyiséget hoztak létre, amelyek több mint 25 000 felhasználóval léptek kapcsolatba, és két hét alatt 2,36 millió üzenetet váltottak.
A csalás mechanizmusa egyszerű, de hatékony: a felhasználók érméket vásárolnak, hogy folytathassák a beszélgetéseket, miközben azt hiszik, hogy valódi emberekkel kommunikálnak. Az alkalmazások azonban mesterséges intelligenciát használnak, hogy a nap 24 órájában fenntartsák a beszélgetéseket, így a felhasználók folyamatosan költenek. A rendszer mögött álló fejlesztők gondosan megtervezték az alkalmazásokat, hogy elkerüljék az alkalmazásboltok ellenőrzéseit. Az alkalmazások a jóváhagyás előtt hagyományos társkereső platformként viselkedtek, majd később aktiválták az AI-alapú funkciókat és a fizetési rendszert. Az Anthropic kutatói szerint a csalók még a kódot is átrendezték, hogy elrejtsék az alkalmazások közötti kapcsolatokat.
A kutatás során az is kiderült, hogy a hálózat mögött álló fejlesztők kínai székhelyűek lehetnek, bár az alkalmazások Kínában nem működnek. A csalók modern eszközöket és fejlett technológiát használtak, mintha egy valódi vállalkozást működtetnének. A rendszer hatékonyságát mesterségesintelligencia-alapú kódolási asszisztensek és részletes tervezési dokumentációk biztosították. A csalók gyorsan reagáltak a letiltásokra: új fiókokat hoztak létre, vagy más szolgáltatókhoz váltottak, hogy folytathassák tevékenységüket.
Az Anthropic jelentése szerint az ilyen alkalmazások azért minősülnek csalásnak, mert a felhasználók nem tudják, hogy mesterséges intelligenciával kommunikálnak, miközben valódi emberekkel való interakcióért fizetnek. A kutatók szerint a csalók szándékosan kihasználják az emberek tudatlanságát, és a megtévesztés a rendszer szerves része. Az alkalmazások fejlesztői még a fizetési rendszert is úgy alakították ki, hogy az elkerülje az alkalmazásboltok ellenőrzését, és harmadik fél fizetési szolgáltatóin keresztül bonyolították le a tranzakciókat.
Bár az Anthropic megosztotta eredményeit az Apple-lel és a Google-lel, az alkalmazások eltávolítása lassan haladt. Egyes alkalmazások még hónapokkal a kutatás után is elérhetők voltak. Az Anthropic kutatói szerint a csalók tevékenysége jól szervezett, és a mesterséges intelligencia hatékonyságát kihasználva működnek, hasonlóan a törvényes vállalkozásokhoz. Ez a jelenség rávilágít arra, hogy a mesterséges intelligencia nemcsak a mindennapi életet, hanem a bűnözést is alapjaiban változtatja meg.
Napi