Vasárnaptól az AI-cégekre új kötelezettségek vonatkoznak az EU mesterséges intelligenciáról szóló törvénye értelmében, amely előírja számukra, hogy a mélyhamisításokat és az egyéb mesterségesintelligencia által generált tartalmakat egyértelműen mesterségesként felismerhetővé tegyék.

HIRDETÉS

HIRDETÉS

A technikai kihívások azonban kétségbe vonják, hogy a szabályok mennyire lesznek hatékonyak.

Két évvel ezelőtt az EU átfogó szabályokat fogadott el a mesterséges intelligencia szabályozására, és külön mesterségesintelligencia-hivatalt hozott létre a mérföldkőnek számító jogszabályok végrehajtásának felügyeletére.

A mesterséges intelligencia törvény számos rendelkezése között tartalmazza a világ első átláthatósági rendszerét a szintetikus médiára vonatkozóan, amely előírja az olyan generatív mesterséges intelligencia-rendszerek szolgáltatóinak, mint az Anthropic's Claude és az OpenAI's ChatGPT, hogy biztosítsák a mesterségesen előállított vagy manipulált tartalom észlelhetőségét.

A szabályok szigorúbbak a mélyhamisításokra – olyan valósághű, mesterséges intelligencia által generált vagy manipulált képekre, hangokra vagy videókra, amelyek egy valós személy megjelenését, hangját vagy cselekedeteit utánozzák oly módon, hogy az emberek azt hihetik, hogy olyasmit mondtak vagy tettek, ami meg sem történt.

A szatírától a manipulációig

Mint minden technológia, az AI is felhasználható kreatív és káros célokra.

Brüsszel elismeri, hogy nem minden szintetikus tartalom megtévesztő: az egyértelműen művészi, kreatív, szatirikus vagy fikciós céllal létrehozott tartalom általában kívül esik a mélyhamisításra vonatkozó közzétételi követelmények hatókörén.

Egy híres példa 2023-ban történt, amikor egy mesterséges intelligencia által generált kép Ferenc pápáról divatos fehér pufi kabátot viselt világszerte. A kép hamis volt, de nagyrészt viccnek értelmezték.

Ugyanez a technológia azonban sokkal károsabb célokra is fordítható.

2024-ben a világméretű popsztár, Taylor Swift a mesterséges intelligencia által generált explicit képek hullámának célpontja lett, amelyek az ő beleegyezése nélkül terjedtek el az interneten, és új vitákat váltott ki a szintetikus média kockázatairól.

A mélyhamisítások a politikai manipuláció eszközeként is megjelentek.

2022-ben, nem sokkal azután, hogy Oroszország megindította Ukrajna teljes körű invázióját, egy hamis videó jelent meg, amelyen Volodimir Zelenszkij ukrán elnök azt mondja, hogy a katonák megadják magukat. Gyorsan leleplezték, de bemutatta, hogyan lehet a szintetikus médiát felfegyverezni háborús időkben.

Aggodalomra ad okot, hogy az egyre valósághűbb, mesterséges intelligencia által generált tartalom, amelyet a közösségi média platformok is felerősítenek, megnehezíthetik a polgárok számára, hogy a valódi információkat megkülönböztessék a kitalált anyagoktól.

A mélyhamisítás szabályozása

A kihívás kezelésére az Európai Bizottság önkéntes gyakorlati kódexet dolgozott ki keretként, amely jelzi, hogy a vállalatoknak miként kell felfedniük a szintetikus tartalom mesterséges eredetét géppel olvasható jelölésekkel, valamint a mélyhamisítások látható címkéivel.

Az ötlet egyszerű: az embereknek tudniuk kell, amikor az AI által generált vagy módosított tartalmat nézik. Éppen ezért a szabályok mind a technológiát fejlesztő cégekre, mind a mesterséges intelligencia professzionálisan alkalmazóira vonatkoznak, mivel a személyes felhasználás nem tartozik a hatálya alá.

A gyakorlati kódex nem csak a jelölési szemponttal foglalkozik, hanem a kapcsolódó észlelési mechanizmussal is, amely együttműködést követel meg az összes érintett szereplőtől: AI-cégek, közösségi média platformok, civil társadalmi szervezetek és tényellenőrzők.

A nehezebb kérdés az, hogy a technológia képes-e megbízhatóan beváltani ezt az ígéretet.

Egy szabály, sok akadály

Az első kihívás földrajzi. Az EU szabályozhatja az európai piacon működő vagy azt célzó vállalatokat, de az online tartalmak nem állnak meg a határokon. Egy Európán kívül készített mélyhamisítás perceken belül még mindig több millió európai felhasználóhoz juthat el.

A második kihívás a technikai érettség. A nagy mesterségesintelligencia-vállalatok, mint például az OpenAI és a Google, széles körben támogatják az átláthatósági követelményeket, aláírva a Bizottság gyakorlati kódexét. Ugyanakkor arra is figyelmeztettek, hogy az észlelési és jelölési technológiák továbbra is mozgó célpontok maradnak.

Jelenleg nincs egyetlen, az egész iparágra kiterjedő megoldás. A vállalatok különféle megközelítésekkel kísérleteznek – vízjelekkel, metaadatokkal, tartalom származási rendszerekkel –, amelyek nem mindig működnek együtt, és nem mindig beszélnek egymással.

A harmadik kihívás az, hogy a digitális nyomok törékenyek. A szakértők arra figyelmeztetnek, hogy a vízjelek eltávolíthatók, módosíthatók vagy elveszhetnek a tartalom szerkesztése, tömörítése vagy platformok közötti megosztása során. Egy mesterséges intelligencia által generált kép vagy videó teljes történetének nyomon követése több szerkesztéssel rendkívül nehéz lehet.

E korlátok miatt a kutatók azzal érvelnek, hogy egyetlen technológia sem lesz elég. Ehelyett a vállalatoknak több módszert kombináló többrétegű megközelítésre lehet szükségük.

"A megoldások kombinációja erősebb, mint bármely egyedi intézkedés. Ezért a legjobb gyakorlat az AI által generált tartalom többrétegű jelölése és észlelése" - zárult az Európai Bizottság témával foglalkozó műszaki tanulmánya.

Tartva a tempót

Az EU vezető szerepet vállalt a mesterséges intelligencia korszakának egyik meghatározó kihívásának kezelésében: egy olyan világban, amelyben a szintetikus tartalmat egyre nehezebb megkülönböztetni a valóságtól.

De az, hogy Brüsszel lépést tud-e tartani egy rendkívüli sebességgel fejlődő technológiával, meghatározza, hogy az AI-törvény átláthatósági szabályai hatékony biztosítéktá válnak-e, vagy csupán egy címkét ragasztanak egy olyan problémára, amely folyamatosan megelőzi azt.