TechtudSzerző: magyarnemzet 1 órával ezelőtt 5 percnyi olvasás
Megtévesztő emberi viselkedést mutatva fogja zaklatni a felhasználókat.
A mesterséges intelligencia (MI) ágens-rajai hamarosan tömegesen áraszthatják el a közösségi média platformjait, hogy hamis információkat, illetve narratívákat terjesszenek és valós személynek álcázva magukat zaklassák a gyanútlan felhasználókat – figyelmeztet egy kutatócsoport.
A tekintélyes Science tudományos szaklapban publikált dolgozat szerzői szerint az új generációs úgynevezett „MI-rajok” az információs hadviselés egy merőben új és veszélyes frontvonalát alkotják majd: képesek lesznek emberi viselkedést utánozni a lelepleződés elkerülése érdekében, miközben egy valódi online mozgalom látszatát keltik.
Képzeljük el, hogy az online térben folyamatosan követett egyik kedvenc közösségünk nézetei szép fokozatosan egy olyan álláspont mentén szilárdulnak meg, ami ugyanitt korábban még vitatott volt.
Tapasztalati tény, hogy az emberi ösztön gyakran egy adott csoport vagy közösség kollektív „bölcsességének” követésére sarkallja a tagjait. Ám ebben az esetben a csoportot titokban egy olyan MI-raj terelgetheti, ami egy, a közösségen kívüli ismeretlen magánszemély, más csoport vagy politikai párt, vállalat, de akár egy állami szereplő megbízásából tevékenykedik.
Az emberek általánosságban véve konformisták
– mondja Jonas Kunst, a norvégiai BI Norwegian Business School kommunikációprofesszora és a tanulmányt kísérő elemzés egyik szerzője, akit a Live Science tudományos hírportál idéz.
„Gyakran nem szívesen ismerjük el ezt, és természetesen az emberek között is vannak különbségek, de ha minden fontos tényező azonosnak látszik, akkor hajlamosak vagyunk azt hinni, hogy annak amit a többség tesz, van valamiféle egyetemes értéke. Ezt a tulajdonságot pedig viszonylag könnyen kihasználhatják” – véli Jonas Kunst professzor.
A kutatók szerint ha valaki a többséginek látszó véleménnyel szemben felmerülő észszerű kételyei miatt nem hagyja, hogy magával ragadja a tömegvélemény, ezek az MI-rajok akár zaklatási eszközként is bevethetők lesznek a mesterséges intelligencia narratíváját megkérdőjelező érvek elfojtására:
az MI-raj például dühös csőcseléket imitálva veheti célba a mesterséges intelligencia által sugalltaktól eltérő véleményt valló személyeket,
hogy elűzze őket a platformról, még mielőtt a kételyeik nagyobb tömeget érnének el.
A kutatók nem jósolták meg az MI-rajok inváziójának várható időkeretét, így egyelőre még nem világos, hogy mikor jelennek meg az első ilyen ágensek nagyobb tömegben a hírfolyamainkon. A dolgozat szerzői ugyanakkor rámutatnak, hogy az ilyen típusú MI-rajokat nehéz kiszűrni, ezért nem tudni, milyen mértékben vetették már be ezeket.
Sokan már most látják ennek növekvő jeleit a közösségi médiában, miközben az elmúlt években egyre nagyobb teret nyert az úgynevezett „halott internet” (dead internet) összeesküvés-elmélete, mely szerint az online tevékenység és a tartalomgyártás nagy részéért ma már nem személyek, hanem az MI-rajok a felelősek.
A kutatók arra is figyelmeztetnek, hogy a mesterségesintelligencia-rajok jelentette újonnan felmerülő kockázatokat a digitális ökoszisztémáink régóta fennálló sebezhetőségei még tovább súlyosbítják, amiket eleve meggyengít amit ők a „racionális-kritikai diskurzus eróziójaként” és a polgárok körében jelentkező közös valóságérzékelés hiányaként írnak le.
A közösségi médiát használók számára jól ismert, hogy ezek a felületek igencsak megosztóvá válhatnak.
Az online ökoszisztémát emellett ellepték az automatizált botok – olyan, nem emberi felhasználói fiókok, amelyek számítógépes szoftverek utasításait követik, és a teljes webes forgalom több mint felét teszik ki.
A hagyományos botok jellemzően csupán egyszerű feladatok ismételt elvégzésére képesek, például ugyanazon uszító üzenet közzétételére. Bár így is kárt okozhatnak álhírek terjesztésével és hamis narratívák felerősítésével, általában viszonylag könnyen felismerhetők, és a nagyobb szabású összehangolásukhoz emberi közreműködésre van szükség.
A következő generációs MI-rajokat ezzel szemben már a nagy nyelvi modellek (LLM-ek) – a népszerű csevegőrobotok hátterében álló MI-rendszerek – irányítják.
Az elemzés szerint az LLM vezérletével a raj kellően kifinomulttá válik arra, hogy alkalmazkodjon ahhoz az online közösséghez, ahová beszivárgott,
és olyan memóriával, illetve saját identitással rendelkező különféle személyeket hozzon létre, amelyek képesek megőrizni ezeket a jellemvonásokat. „Úgy beszélünk erről, mint egyfajta önellátó organizmusról, amely képes önmaga koordinálására, az önálló tanulásra és az időbeli alkalmazkodásra, ezáltal pedig arra specializálódik, hogy kihasználja az emberi sebezhetőségeket” – magyarázza Jonas Kunst, a BI Norwegian Business School kommunikációprofesszora.
Ez a fajta tömeges manipuláció korántsem elméleti jellegű probléma. A Reddit tavaly jogi lépésekkel fenyegette meg azokat a kutatókat, akik mesterségesintelligencia-alapú csevegőrobotokat használtak egy kísérletben ahhoz, hogy befolyásolják a népszerű r/changemyview fórum négymillió felhasználójának véleményét.
A kutatók előzetes eredményei szerint a csevegőrobotok válaszai háromszor-hatszor meggyőzőbbnek bizonyultak, mint a hús-vér felhasználók hozzászólásai.
Egy MI-raj több száz, több ezer – vagy akár egymillió – MI-ágenst is magában foglalhat. Kunst professzor megjegyezte, hogy az ágensek létszáma a számítási teljesítmény függvényében növelhető, de ugyanakkor a létszámukat korlátozhatják is azok az intézkedések, amelyeket a közösségimédia-vállalatok a rajok elleni fellépés érdekében vezethetnek be. De nem csupán az ágensek számán múlik a célközönség manipulálásának sikere.
A rajok ugyanis célba vehetnek olyan helyi zárt közösségi csoportokat is, amelyek gyanakvással fogadnák az új felhasználók nagy tömegű hirtelen beáramlását; éppen ezért ilyen esetben, hogy ne legyen feltűnő, csak néhány ágenst vetnének be.
A kutatók arra is rámutattak, hogy mivel ezek a kis MI-rajok sokkal kifinomultabbak a hagyományos botoknál, a kisebb létszámukkal is nagyobb hatást képesek kifejteni.
„Úgy vélem, hogy minél kifinomultabbak ezek, valójában annál kevesebbre van belőlük szükség” – magyarázza Daniel Schroeder, a publikáció vezető szerzője és a norvégiai SINTEF technológiai kutatószervezet szaktudósa.
Az ágensek előnyben vannak a valódi felhasználókkal folytatott vitákban, mivel a nap 24 órájában, minden egyes nap képesek üzeneteket közzétenni – akár olyan hosszú időn keresztül is, amíg a narratívájuk meg nem gyökerezik. A kutatók hozzátették: a „kognitív hadviselés” során a mesterséges intelligencia kérlelhetetlensége és kitartása fegyverként fordítható a korlátozott emberi erőfeszítésekkel szemben.
A közösségi média cégek valódi felhasználókat szeretnének a platformjaikon, nem pedig a mesterséges intelligencia által vezérelt ügynököket, így a kutatók úgy vélik, hogy a vállalatok a mesterségesintelligencia-rajok növekvő mennyiségére továbbfejlesztett fiókhitelesítéssel fognak reagálni,
arra kényszerítve a felhasználókat, hogy bizonyítsák valódi emberi kilétüket.
A szakértők azonban rámutattak néhány problémára is ezzel a megközelítéssel kapcsolatban. Ilyen lehet például, hogy ez az azonosítási módszer eltántoríthatja a politikai ellenvéleményt vallókat azokban az országokban, ahol az emberek kénytelenek az anonimitásra támaszkodni, hogy felszólalhassanak a kormányaik ellen.
Ráadásul a hiteles fiókokat el is lehet lopni vagy meg lehet szerezni, ami tovább bonyolítja a dolgokat. A kutatók azonban megjegyzik, hogy a hitelesítés megerősítése megnehezítené és költségesebbé tenné a beavatkozási kísérleteket azok számára, akik MI-rajokat kívánnak telepíteni a közösségi platformokra.
A szakértők további védekezési módszereket is javasolna a rajok ellen, például az élő forgalom átvizsgálását, továbbá az „MI-befolyásolást figyelő” (AI Influence Observatory) ökoszisztéma létrehozását, melynek keretében akadémiai csoportok, civil szervezetek és egyéb intézmények tanulmányozhatják az MI-rajok jelentette fenyegetést,
amire felhívhatják a felhasználók figyelmét, illetve reagálhatnak is ezekre a veszélyekre.
A kutatók fontosnak tartják, hogy még azt megelőzően lépjenek fel proaktívan e potenciális fenyegetéssel szemb, mielőtt még az online térben már most is tetten érhető manipulációs kísérletek tömegessé válnának.
A Science szakfolyóiratban megjelent tanulmány itt olvasható el angol nyelven.
Egy tudóscsoport kutatása szerint:
Napi