GazdaságSzerző: economx 2 napja 8 percnyi olvasás
Egy hibátlanul megírt e-mail, a főnök ismerős hangja, egy videóhívás, amelyben ott ülnek a kollégáink. Néhány...
Az internetes csalások már jóval a generatív mesterséges intelligencia megjelenése előtt velünk voltak. Sokáig azonban számos olyan formai nyomot hagytak maguk után, amelyekből egy óvatos felhasználó gyanút foghatott: furcsa e-mail-cím, helyesírási hibák, idegenszerű megfogalmazás vagy rosszul elkészített weboldal jelezhette, hogy nem azzal van dolgunk, akinek a másik fél mondja magát.
A generatív AI ezeket a hibákat képes eltüntetni. Nemcsak helyes és természetes szöveget ír, hanem egyre könnyebben alkalmazkodik egy adott szakma nyelvezetéhez, kommunikációs stílushoz és a konkrét áldozathoz. A következő lépcsőfok pedig az, hogy már nemcsak a szöveget, hanem a személyt is utánozhatja: hangot klónozhat, arcot generálhat, vagy akár valós időben manipulálhat videón keresztül zajló kommunikációt.
Az FBI 2025-ös internetes bűnözési jelentésében először kapott önálló részt a mesterséges intelligencia. A hatóság 22 364 AI-hoz kapcsolódó bejelentést regisztrált, amelyekhez közel 893 millió dollárnyi veszteség társult. A csalók hamis közösségimédia-profilokat, személyazonosító dokumentumokat, hangklónokat, illetve ismert személyeket és hozzátartozókat imitáló videókat is használtak.
A technológia lehetőségeit az egyik legismertebb hongkongi eset mutatta meg a leglátványosabban. A brit Arup mérnöki vállalat egyik pénzügyi munkatársa 2024-ben egy bizalmas tranzakcióra vonatkozó üzenetet kapott, amelyet először gyanúsnak talált. További ellenőrzést végzett, és részt vett egy videókonferencián, amelyen látszólag a vállalat pénzügyi igazgatója és más kollégái is jelen voltak. A dolgozó éppen azért hitt végül az utasításnak, mert látta és hallotta azokat az embereket, akikkel együtt dolgozott. A hívás résztvevői azonban deepfake-ek voltak, a munkatárs pedig 15 tranzakcióban nagyjából 200 millió hongkongi dollárt, akkori árfolyamon körülbelül 25 millió amerikai dollárt utalt el.
Az eset különlegessége az volt, hogy a videóhívás éppen a csalás megelőzésére szolgált volna, vagyis a támadók nem csupán az első biztonsági vonalat játszották ki, hanem magát a visszaellenőrzést tették a megtévesztés részévé.
Keleti Arthur szerint a következő években az ehhez hasonló eseteknél ráadásul nemcsak a technológia minőségének javulására kell számítani. Legalább ilyen fontos, hogy a csalók számára radikálisan lejjebb kerül a belépési küszöb: ami korábban jelentős technikai szakértelmet, sok adatot és komoly számítási kapacitást igényelt, az ma egyre olcsóbban és automatizáltabb módon végezhető el.
A deepfake-ek problémáját már évekkel ezelőtt is rossz irányból közelítettük meg, amikor kizárólag azt kérdeztük, hogy milyen technikai módszerrel lehet felismerni egy hamis képet vagy videót. A mélyebb változás szerinte az, hogy fokozatosan elvesznek azok a kapaszkodók, amelyek alapján az ember eddig hitelességet épített. Látjuk valakinek az arcát, halljuk a hangját, ismerjük a kommunikációs helyzetet, és ezekből a jelekből eldöntjük, hogy mennyire bízhatunk meg benne. A deepfake azonban éppen ezt a mechanizmust támadja.
Emiatt a bizalom egyre kevésbé kezelhető egyszerű igen-nem kérdésként. Inkább egy csúszkához hasonlít majd, amelyet folyamatosan fel- és lefelé mozgatunk attól függően, hogy milyen csatornán, milyen formában és milyen kontextusban érkezik hozzánk egy információ. A probléma az, hogy egy sürgős pénzügyi utasításnál vagy egy bajba került hozzátartozó telefonjánál éppen arra nincs idő, hogy hosszan elemezzük ezt a kockázatot.
A csalások pedig hagyományosan éppen erre építenek: siettetik az áldozatot, tekintélyre hivatkoznak, érzelmi nyomást gyakorolnak, vagy olyan helyzetet teremtenek, amelyben az ember nagyon szeretné elhinni, amit hall. Ha ehhez hozzáadódik egy megfelelően megírt szöveg, egy hitelesnek tűnő kommunikációs csatorna és egy ismerős arc vagy hang, akkor szinte minden olyan jel kipipálható, amelyet az agyunk a hitelesség megállapításához használ. Ettől válik a deepfake elsősorban nem technikai, hanem kognitív problémává.
Az AI ráadásul nemcsak az érzékszerveinket csapja be, hanem a támadásokat hiperperszonalizálhatóvá is teszi. Ma már egy vezető vagy egy konkrét áldozat egyéni stílusára, szóhasználatára és kommunikációs környezetére szabható az üzenet, miközben a korábbi árulkodó nyelvtani vagy tipográfiai hibák gyakorlatilag teljesen eltűnnek. Ezt a témát idén az ITBN Conf-Expo is különböző aspektusokból végigjárja majd.
A hangklónozás önmagában nem új technológia, a változás inkább abban rejlik, mennyire kevés alapanyagra és mennyi időre van szükség az alkalmazásához. Keleti Arthur szerint miközben évekkel ezelőtt komoly mintamennyiséget kellett összegyűjteni, ma már akár egy rövid telefonbeszélgetés is értékes hangmintát biztosíthat. Ez azért is veszélyes, mert egy konferencia-előadásból kivágott hangnál az áldozat esetleg felismerheti, hogy a főnöke nem így beszél a hétköznapokban, egy közvetlen telefonbeszélgetésből szerzett mintával viszont már maga a természetes beszédstílus is rögzíthető.
A technológia közben eljutott a valós idejű hang- és videómanipulációig is. Innen már elsősorban gazdasági kérdés, hogy megéri-e egy bűnözői csoportnak a szükséges kapacitást felhasználni: ha egy sikeres pénzügyi csalással több millió dollár szerezhető, könnyen megtérülhet egy komplex megtévesztés felépítése.
A támadások ráadásul egyre inkább automatizálhatók, a bűnözői oldalon már megjelentek olyan keretrendszerek és szolgáltatások, amelyek segítségével nagy mennyiségű potenciális áldozatot lehet személyre szabottan megcélozni. Az AI így nemcsak a hamis tartalmat készítheti el, hanem a csalási forgatókönyvet, a válaszokat és az egész kommunikáció menetét is kidolgozhatja, amely a csalások gazdaságtanát is megváltoztatja. Ha egy személyre szabott támadás előállításának költsége meredeken csökken, sokkal több ember ellen lehet kipróbálni ugyanazt a módszert, és a csalónak már akkor is megéri a művelet, ha a megkeresések jelentős része sikertelen.
A probléma egyik kézenfekvő technológiai megoldása az lenne, hogy ha mesterséges intelligenciával készülnek a deepfake-ek, akkor mesterséges intelligenciával ismerjük fel őket. Keleti Arthur azonban arra figyelmeztet, hogy a detektorok teljesítménye erősen függ a körülményektől. Egy jó minőségű videón könnyebb lehet digitális anomáliákat keresni, mint egy rossz mobilkapcsolaton, erősen tömörített, alacsony felbontású videóhívásban. Az sem mindegy, hogy milyen eszközön fogyasztjuk a tartalmat: egy villamoson, kis kijelzőn, rossz fényviszonyok között nézett felvételnél az ember sokkal kevésbé képes apró hibák után kutatni, miközben a tartalom érzelmi hatása már létrejött.
A jövőben a vállalatoknak ennél valamivel több lehetőségük lehet. Ha egy rendszer ismert vezetőket vagy munkatársakat figyel, össze tudja hasonlítani az aktuális kommunikációt korábbi hang- és képi mintákkal. Elképzelhető, hogy egy vállalati videóhívásnál egy biztonsági rendszer már nem azt mondja majd, hogy az adott résztvevő „valódi” vagy „hamis”, hanem például azt jelzi, hogy bizonyos százalékos valószínűséggel nem hiteles a kommunikációja.
A másik irány a tartalom eredetének igazolása. A C2PA szabványa például arra szolgál, hogy kriptográfiailag követhető információkat társítson egy digitális tartalom eredetéhez és módosításainak történetéhez. Az Európai Unió AI Actjének átláthatósági előírásai augusztus 2-től szintén kötelezettségeket írnak elő az AI által generált vagy manipulált tartalmak jelölésére, beleértve a deepfake-eket is.
A kibertitok jövőkutató szerint ezek fontos lépések, de van egy alapvető korlátjuk: a szabályozást a jogkövető szereplők fogják betartani, nem a kiberbűnözők. Ha egy csaló saját maga futtat nyílt forrású vagy módosított modellt, illetve eltávolítja a létrehozott tartalomról az eredetjelzőt, akkor a kötelező watermark önmagában nem állítja meg. Ezért azt is problémásnak tartja, ha az „AI-val készült” címke túlságosan binárissá válik. Egészen más helyzet ugyanis, ha egy videót teljes egészében mesterséges intelligencia generált, ha egy valódi felvételen egyetlen tárgyat módosítottak, vagy ha egy ember által írt szövegben az AI mindössze helyesírási javításokat végzett. Hosszabb távon ennél finomabb skálára lenne szükség, amely nemcsak azt jelzi, hogy jelen volt-e az AI, hanem azt is, hogy hol és milyen mértékben vett részt a tartalom létrehozásában.
A magánemberek számára ugyanakkor nem a legmodernebb detektor jelenti a leghatékonyabb védelmet. Keleti Arthur szerint az egyik legerősebb technika a kontroll visszavétele.
Ha valaki váratlanul felhív és sürgősen pénzt vagy más beavatkozást kér, nem kell az adott beszélgetés keretei között eldönteni, hogy valóban ő van-e a vonal másik végén. A legegyszerűbb lépés sokszor az, hogy megszakítjuk a hívást, majd egy korábban ismert telefonszámon vagy másik, megbízható kommunikációs csatornán mi vesszük fel a kapcsolatot az illetővel. Családi csalásoknál működhet egy személyes kérdés is, amelyre csak a valódi hozzátartozó tudhatja a választ. Akár olyan nem létező személyre vagy eseményre is rá lehet kérdezni, amelyre egy felkészületlen csaló könnyen automatikus igenlő választ adhat.
Videóhívásban egyelőre segíthetnek bizonyos váratlan mozdulatok is – például megkérni a másik felet, hogy gyorsan forduljon profilba vagy tegye a kezét az arca elé –, bár már léteznek olyan kísérleti megoldások, amelyek ezekkel is egyre jobban boldogulnak.
Vállalati környezetben azonban szerinte egész egyszerűen nem szabad pusztán szóbeli utasításra kritikus lépést végrehajtani. Egy pénzügyi vagy hozzáférési kérésnek másik, megbízható csatornán is meg kell érkeznie, és a folyamatoknak eleve úgy kell felépülniük, hogy egyetlen videó vagy telefonbeszélgetés ne legyen elegendő egy jelentős tranzakcióhoz.
A deepfake gazdasági veszélye ráadásul nem ér véget az átutalásos csalásoknál. Egy hitelesnek tűnő, de hamis vállalatvezetői videó például elvileg képes lehet piaci reakciót kiváltani egy nem létező profit warninggal, felvásárlással, kibertámadással vagy termelési problémával. Válsághelyzetben ugyanez még nagyobb kockázatot jelenthet: egy energiavállalat vezetőjének vagy döntéshozónak tulajdonított hamis közlés ellátási problémáról, termeléskiesésről vagy rendkívüli intézkedésről már azelőtt befolyásolhatja a fogyasztói vagy piaci viselkedést, hogy sikerülne ellenőrizni a tartalom eredetét. Ehhez nem szükséges magát az energia- vagy más kritikus infrastruktúrát feltörni, hanem elég lehet az infrastruktúrába vetett bizalmat megtámadni.
Keleti Arthur szerint a kérdés ezért állami szereplőknél és vállalatvezetőknél is egyre sürgetőbb: milyen technikával lehet hosszabb távon fenntartani a társadalmi vagy ügyfélbizalmat, ha egy videó- és hangfelvétel önmagában már nem tekinthető megdönthetetlen bizonyítéknak? Az állam és a társadalom kapcsolatában az elvárt transzparencia alapja az abban való hit, hogy az állam integránsan, megbízhatóan tárol adatokat és azok ellenőrizhetőek. Ez különösen fontos akkor, amikor éppen az előző kormányzatok elszámoltatása az új kormányzat egyik fókusza.
A deepfake-technológia egyik legfurcsább következménye ugyanis az, hogy nemcsak hamis tartalmakat lehet vele hitelesebbé tenni, hanem a valódiakat is könnyebb letagadni. A szakirodalom ezt liar's dividendnek, vagyis a hazugok osztalékának nevezi. A jelenség lényege, hogy minél szélesebb körben ismertté válik a deepfake-ek létezése, annál hihetőbbé válik egy valódi, kellemetlen felvétel szereplőjének az az állítása is, hogy a bizonyíték valójában mesterségesen előállított hamisítvány.
A kiberbiztonsági szakember szerint ezzel elkezd erodálódni a „megdönthetetlen tárgyi bizonyíték” fogalma. Nemcsak az lesz probléma, hogy elhiszünk valamit, ami nem történt meg, hanem az is, hogy egy valóban megtörtént eseményről már nehezebb lesz minden kétséget kizáróan bizonyítani, hogy valódi. A probléma pedig még ennél is mélyebbre nyúlhat, mert az emberek hajlamosak azokat az információkat könnyebben elfogadni, amelyek beleillenek a már meglévő világképükbe. A deepfake ezért nem egy üres térben érkezik: közösségimédia-buborékokkal, politikai és társadalmi törésvonalakkal, illetve az egyéni meggyőződésekkel találkozik. Amennyiben pedig egy tartalom megfelelő platformon, hitelesnek tűnő formában és a megfelelő pillanatban éri el az embert, az első benyomás nagyon mélyen rögzülhet, a későbbi cáfolat már nem feltétlenül képes ugyanilyen erővel felülírni. Az ITBN-en idén beszélni fognak arról is, hogy ebben a helyzetben például az arcunkat, a képmásunkat le tudjuk-e védeni a jog eszközeivel, és segít-e ez nekünk a szolgáltatókkal folytatott küzdelemben, hogy eltávolítsanak hamis tartalmakat rólunk.
Keleti Arthur szerint az sem mellékes, hogy a deepfake egyre több érzékszervet képes egyszerre megszólítani. Egy szöveges csalás még csak olvasott információ, egy hangklón azonban már egy ismerős ember hangját használja, a videó pedig ehhez hozzáteszi az arcot, a mimikát és a látszólagos jelenlétet is. Minél több ilyen jel erősíti egymást, annál mélyebbre juthat a manipuláció.
Felidézett egy korábban az ITBN-en feldolgozott esetet is, amelyben egy idős emberrel egy magát katonatisztnek kiadó csaló körülbelül két hét alatt olyan erős bizalmi kapcsolatot alakított ki, hogy az áldozat végül már inkább neki hitt, mint a saját családjának, a banknak vagy akár a rendőrségnek. Ezt a folyamatot nem a mesterséges intelligencia találta fel, viszont méretezhetővé, személyre szabhatóvá és részben automatizálhatóvá teheti.
Éppen ezért a szakember szerint a deepfake-eket nem érdemes pusztán egy új kiberbiztonsági támadási technikaként kezelni. A mögöttük álló technológia ugyanúgy használható pozitív célokra – például arra, hogy egy cégvezető több nyelven kommunikáljon a munkavállalóival –, ahogy szinte minden nagy technológiai innováció. A negatív alkalmazások azonban sokszor olyan sebességgel és mélységben jelennek meg, amire a társadalom, a vállalatok és a szabályozás nincsen felkészülve. A technológia fejlődésével egyre kevésbé reális elvárás, hogy fel tudjunk ismerni minden hamis videót, a kérdés ezért már sokkal inkább az, hogy hogyan építünk olyan technikai és emberi ellenőrzési mechanizmusokat, amelyek egy olyan világban is működnek, ahol a hang, az arc vagy akár az élő videó sem feltétlenül bizonyíték arra, hogy valóban azzal beszélünk, akit látunk és hallunk.
Ez a támogatott szerkesztőségi tartalom az ITBN közreműködésével jött létre.
Napi