Yuval Noah Harari történész, író szerint a modern demokrácia alapja a társadalmi szintű párbeszéd, ezt pedig az AI a hamis profilokkal, botokkal, manipulált tartalmakkal és az általános bizalmatlanság erősítésével teheti működésképtelenné. Ön szerint hol tartunk most ebben a folyamatban? Ezek még kezelhető zavarok a demokratikus nyilvánosságban, vagy már a közös valóságérzékelés szétesésének jelei?

Szerintem ez még kezelhető szinten van, de fontos látni, hogy a probléma nem a generatív AI-forradalommal, nem 2022 után kezdődött, hanem jóval korábban.

A közösségi média térnyerésével már kialakult az a környezet, ahol algoritmusok és hirdetési rendszerek segítségével forgalmat lehet terelni felületekre, ebből pedig pénzt lehet csinálni, akár dezinformációval is.

A motivációk is keverednek: vannak politikai, gazdasági, háborús és információs motivációk is. Harari szerintem inkább technopesszimista. Nem baj, ha valaki kongatja a harangot, mert oda kell figyelni, de szerintem ez még nem eszkalálódott arra a szintre, amit ő leír. A Nexusban is az az alapgondolat, hogy az információs hálózatokban összekeverednek az emberek, a dolgok – például dokumentumok – és a mesterséges intelligencia. Ami ebben a felállásban szerintem hibás, hogy nála az AI már szinte önálló ágensként jelenik meg, mintha ember lenne saját motivációval. Ez szerintem még nem áll fenn, az AI-nak nincs motivációja, nem hoz döntéseket a saját maga által kijelölt célok mentén.

Az AI dezinformációban betöltött szerepét vizsgáló tanulmányában ön a dezinformációt nem egyszerűen hamis tartalomként, hanem láncként írja le. Ha így tekintünk rá, hol lehet ma a leghatékonyabban beavatkozni? És kinek a felelőssége lenne mindez?

Szerintem ezt nem lehet három kívánsággal megoldani. Minden szinten be lehet avatkozni, de nincs egyetlen csodamegoldás, és nincs egyetlen szereplő sem, akire rá lehetne mutatni, hogy akkor neki kell ezt megoldania.

A céginformációs lánc első pontján, a motivációnál például a gazdasági ösztönzőket kellene csökkenteni. A 2016-os amerikai választási kampány idején macedón fiatalok álhíroldalakkal kerestek rengeteg pénzt, pedig nem feltétlenül az volt a céljuk, hogy befolyásolják a választást, mégis lett politikai hatása a tettüknek. Vagyis az lenne a fontos, hogy álhírekre épített forgalomból ne lehessen könnyen pénzt csinálni.

A második pontnál, a létrehozásnál az egyik beavatkozási pont az AI-val előállított tartalmak jelölése, amit az európai szabályozás is próbál kezelni. De ez önmagában nem oldja meg a problémát. Aki saját gépen futtat nyílt forráskódú modellt, vagy eleve rossz szándékkal gyárt tartalmat, az meg tudja kerülni ezeket a szabályokat. Vagyis ez részben halottnak a csók, de mivel ma már majdnem mindenkinek rendelkezésére állnak ilyen eszközök, legalább azt el lehet érni, hogy ne legyen ennyire egyszerű visszaélni velük.

A legfontosabb szerintem mégis a harmadik lépés, a terjesztés. A hagyományos médiában is kulcskérdés, hogy valóban újságírói munka történjen, legyen ellenőrzés, szerkesztői felelősség, kapuőri szerep, és ne propaganda vegye át ezek helyét. És van egy alternatív médiaökoszisztéma, ahol a Facebook, a Google, a TikTok és a hasonló platformok algoritmusokkal terjesztik a tartalmakat. Ezek reklámalapú rendszerek: figyelmet adnak el. Ha a szolgáltatás ingyenesnek tűnik, akkor nagyon gyakran te vagy a termék. Ezt a terjesztési logikát kellene valahogy megzabolázni, mert  jelenleg ezek a szolgáltatások akkor is pénzt keresnek, ha dezinformációt terjesztenek.

A tényellenőrzés is fontos, de önmagában nem elég. Ha valaki el akar hinni valamit, akkor nem biztos, hogy elég megmutatni neki, hogy valami nem igaz. Egyszerűen beilleszti a saját világképébe, vagy negligálja az ellenkező bizonyítékot. Ráadásul a dezinformációban az a kellemetlen, hogy ha tudjuk is valamiről, hogy hamis, de elég sokszor sulykolják, akkor is hatással van ránk.

Ezért a befogadásnál azt kellene tudatosítani, hogy senki sem mentes ezektől a hatásoktól, nem csak az összeesküvés-elméletekben hívők veszélyeztetettek. Ugyanis nem azért hiszünk el valamit, mert annyira tökéletesen hihető vagy high-tech módon van összerakva, hanem mert beleilleszkedik azokba a mintázatokba, amit a világról gondolunk. Ezért az oktatásnak és a médiatudatosságnak is szerepe van, de a jelenséget eltüntetni nem lehet. Legfeljebb azt lehet elérni, hogy kevesebben legyenek kitéve a hatásainak, és kisebb legyen a társadalmi kár.

Az AI új eszközöket adhat olyan visszaélésekhez is, amelyeknek komoly gazdasági következményeik lehetnek. 2024-ben Hongkongban például egy multinacionális cég pénzügyi dolgozóját deepfake-videóhívással vették rá arra, hogy nagyjából 25 millió dollárt utaljon el csalóknak. Ön szerint mennyire vannak felkészülve a vállalatok az ilyen típusú visszaélésekre?

Ez a veszély korántsem új keletű. Már a 2010-es évek elején is előfordult hasonló eset: egy vállalatnál az utolsó pillanatban állítottak le egy tranzakciót, miután valaki a vezérigazgató nevében sürgős pénzátutalást kért az egyik pénzügyi vezetőtől. A próbálkozás végül azon bukott el, hogy az összeggel kapcsolatban valami gyanúsnak tűnt, ezért visszakérdeztek, ekkor derült ki, hogy átverésről van szó. Mindez még jóval a deepfake-ek és a generatív AI korszaka előtt történt.

A cégek tehát valamilyen szinten tisztában vannak a veszéllyel, de sokszor működik bennük a "miért pont én?" reflexe is. Annyi vállalat van, én kicsi vagyok, nem vagyok fontos, nem olyan adatokkal, nem pénzzel dolgozom – gondolják sokan, ezért hajlamosak alábecsülni a kockázatot. Akik viszont már megégették magukat, általában sokkal óvatosabbak, felkészítik a munkavállalókat, előzetes lépéseket tesznek, és jobban figyelnek arra, hogy ne történjen ilyen.

Az IT-biztonságban ez évek óta fontos téma. Ahogy a dezinformációban is, itt is egy hibrid térben dolgozunk: egyszerre vannak benne emberek és gépek, jó szándékú és rossz szándékú szereplők. Ha pedig arról beszélünk, hogy egy hamisított videó vagy hangfelvétel akár árfolyamokat manipulálhat, arra azt mondanám: ez nem az AI miatt van. Árfolyamot korábban is meg lehetett rángatni bennfentes kereskedelemmel vagy információcsepegtetéssel. Csak

mindig, amikor megjelenik egy új technológia, rögtön elképzeljük a legkifacsartabb visszaéléseket, de tömegesen alapvetően nem erre használjuk ezeket az eszközöket.

A deepfake-ek kapcsán gyakran felmerül, hogy a legnagyobb veszély nem is feltétlenül az, hogy mindenkit megtévesztenek, hanem hogy általános bizalmatlanságot teremtenek: ha bármiről el lehet képzelni, hogy hamis, akkor a valódi bizonyítékokra is rá lehet mondani, hogy manipuláltak. Ennek a bizalomvesztésnek milyen hatása lehet a társadalomban vagy az üzleti életben?

A bizalomról szerintem azt nagyon fontos tudni, hogy nagyon-nagyon lassan lehet felépíteni, és nagyon gyorsan lehet elveszíteni. Ez igaz egy vállalatra, egy egyetemre, egy kórházra vagy akár a médiára is. Ha például egy céget vagy egy kórházat megtámadnak, zsarolóvírus áldozata lesz, vagy fertőzésekről nem kommunikál megfelelően, az nagyon gyorsan bizalomrombolóvá válik, és onnantól kezdve ezt a bizalmat nagyon nehéz visszaépíteni.

A dezinformációnak is ez az egyik rákfenéje. Ha oda jutunk el, hogy senkiben nem bízhatok meg, semmilyen információ nem hiteles, minden lehet deepfake, akkor az már társadalmi szinten nagyon veszélyes. Ezzel élnek vissza a populista politikusok is, amikor valamire egyszerűen rásütik, hogy fake news, vagy azt mondják, mindenkinek megvan a maga igazsága.

Ezért fontos a transzparencia: ha AI-t használok, akkor szólok róla, mert ezzel azt kommunikálom, hogy jó szándékú szereplő vagyok. A normális, egészséges szkepticizmus segít, de a paranoia, amikor semmiben sem bízunk meg, az összeesküvés-elméletek és a teljes bizalomvesztés nem tud működtetni egy társadalmat. Tehát azért meg kell bíznunk egymásban.

Ha a teljes bizalomvesztés ugyanúgy veszélyes, mint a naivitás, akkor hol van az egészséges szkepticizmus határa? Hogyan lehet ma úgy információt ellenőrizni, hogy ne kezdjünk el mindent automatikusan megkérdőjelezni? És ebben az AI inkább segítség, vagy újabb kockázat?

Nem feltétlenül csak azzal kell foglalkozni, hogyan ismerjük fel a hamis tartalmakat, hanem egyáltalán azzal, hogyan fogyasztunk információt, mit olvasunk el, mit nem olvasunk el, milyen nyilvánosságot akarunk, és ebben a nyilvánosságban hogyan működnek az emberek. Ezért fontos a kritikus gondolkodás, de közben az is, hogy ne jussunk el oda, hogy mindent megkérdőjelezünk, mert úgy nem lehet élni.

Az AI használatánál én például a "Brain First" megközelítést tartom fontosnak. Tehát először gondolkodjunk, és csak utána forduljunk az AI-hoz. Ha kérdezünk, akkor utána legyünk tisztában azzal is, hogy a kapott információt hogyan dolgozzuk fel. Ha nincs tényszerű információ a fejünkben, ha nem látjuk az összefüggéseket, akkor az AI-t sem fogjuk tudni jól használni, kérdezni sem fogunk tudni jól, és az eredményt sem fogjuk megfelelően feldolgozni.

Persze nem életszerű azt gondolni, hogy mindenkit formális képzésekkel lehet edukálni. Sokkal inkább abból alakul ki valamilyen képünk, ahogyan a világban közlekedünk, milyen impulzusok érnek minket, mit látunk a médiában, mit jeleznek transzparensen, és mit nem.

Mit jelent ez az oktatásban és a kutatásban? Hogyan lehet úgy használni ezeket az eszközöket, hogy ne a gondolkodást váltsák ki, hanem segítsék azt?

Az AI nagyon hasznos tud lenni, de nem lehet kiszervezni neki a gondolkodást.

Én is úgy használom a kutatásaim során, hogy először megírom a saját vázlatomat, és utána kérdezem meg tőle, mik a vakfoltok, mi nem érthető, mi nem koherens, miből van túl sok, és mi hiányzik. Tehát asszisztensként lehet jól használni, de ehhez előbb nekem kell gondolkodnom.

Ugyanezt próbálom a Corvinuson a hallgatóknál is erősíteni. Például az a feladat, hogy olvassanak el egy cikket, és készítsenek róla egy vázlatot, először AI használata nélkül, aztán pedig beszéljék át a saját verziójukat egy AI-val, és javítsanak rajta, akár vizuálisan, akár tartalmilag. Mert az AI sokat tud lendíteni az anyagon, de ez rendszerint azt is jelenti, hogy többet dolgozunk a feladattal, nem kevesebbet.

A probléma ott kezdődik, amikor valaki kiszervezi a gondolkodást. Megkap egy tartalmat, de ha nem tanulta meg az anyagot, nem gondolta át a problémát, akkor hogyan fogja eldönteni, hogy amit kapott, az jó-e vagy sem? Ez szerintem a kogníciónak, a gondolkodásnak a delegálása, és ez az egyik nagy rákfenéje az AI-használatnak.

Az oktatásban most mindenki azt tanulja, mi fér bele és mi nem. A modellek is gyorsan változnak, a hallgatói gyakorlatok is, ezért ezen még dolgozni kell: hogyan lehet úgy használni az AI-t, hogy ne potyautashatást hozzon létre, ne rombolja a csapatmunkát, hanem tényleg segítse a gondolkodást. A kutatásban ugyanez a kérdés.

Az AI segítségével hatékonyabban lehet szakirodalmat keresni, irodalomjegyzéket összeállítani vagy szövegeket javítani, de nagyon könnyen kialakul egy szürke zóna: mire használjuk, miről nyilatkozunk, és miről nem. A legtöbb folyóiratnál az a kompromisszum, hogy generatív AI-t nem lehet úgy használni, hogy az hozza létre a szöveget, amit aztán sajátként beadunk.

A szakirodalom helyes használata különösen érzékeny pont. A kutatók sokszor szeretnék megspórolni azt a három-négy hét intenzív munkát, ami a cikkek összegyűjtésével és elolvasásával jár, ezért már az irodalmat is AI-val kerestetik és foglaltatják össze.

Csakhogy, ha 50-100 cikket foglaltatunk össze, hogyan ellenőrizzük, hogy az AI által kiemelt állítások tényleg benne vannak-e az eredeti szövegekben? A kulcsgondolatoknak és kulcsállításoknak mindenképpen utána kell menni.

Ha például hivatkozunk egy adatot, mondjuk azt, hogy 82 százalék, akkor bele kell keresni az eredeti cikkbe, hogy valóban ott van-e ez a 82 százalék. Ha nincs benne, akkor valami nem oké, akkor valamit hallucinált a rendszer. És ebbe jóhiszeműen is bele lehet futni.

Akkor visszautalva kicsit Hararihoz: a beszélgetésünk alapján inkább technopesszimistának vagy technooptimistának kellene lennünk? Vagy ez a kettősség eleve rossz keret, amikor az AI és a digitalizáció társadalmi hatásairól beszélünk?

Vincent Moscó vezette be a digital sublime fogalmát, amit magyarul talán digitális fenségesnek lehetne fordítani. Ez arról szól, hogy a digitalizáció köré nagyon erős mítoszok épültek, hogy majd jobbá, szabadabbá, nyitottabbá teszi a világot. A kilencvenes évek végén például erős volt az a hit, hogy az internetet nem kell szabályozni, majd önszabályozó lesz, "az információ szabad akar lenni", az államok pedig inkább ne szóljanak bele. Aztán mi lett belőle? Biznisz.

Kiépült egy olyan digitális világ, ami szerintem nem feltétlenül jobb hely. Ugyanolyan problémás, csak máshogy, mint a korábbi világ, sőt bizonyos szempontból durvább is. Erre két tipikus reakció van: a technooptimizmus, amely szerint a technológia majd megoldja a problémáinkat, és a technopesszimizmus, amely szerint minden borzasztó lesz, elveszítjük a világot, és jön a katasztrófa.

Én inkább digitális realizmusról beszélnék. A világ olyan, amilyen, és attól, hogy a digitalizáció megjelent, önmagában nem lesz jobb. Nincs olyan technológiai tendencia, hogy a technológia magában jó, és majd automatikusan jó társadalmi következményeket hoz. Mi alkalmazzuk ezeket az eszközöket, és nagyon nem mindegy, milyen társadalmi, gazdasági és politikai környezetben tesszük ezt.

A dezinformáció is ebbe illeszkedik. Ahogy a társadalmi élet egyre nagyobb része átköltözik a digitális térbe, óhatatlan, hogy ott a dezinformáció is megjelenik. Szoktam mondani a hallgatóknak, hogy az internet olyan, mint a világ maga: egyszerre borzasztó és egyszerre fantasztikus, és ezt a kettőt nem lehet szétválasztani.

A cikk megjelenését a Budapesti Corvinus Egyetem támogatta.

Címlapkép forrása: Portfolio/Berecz Valter