Miközben Kína foglalkozik a hétvégén partra érkezett tájfun Noul csapadékával, a tisztviselők fájdalmasan tudatában lesznek annak, hogy valószínűleg további kihívással kell megküzdeniük: a mesterséges intelligenciával (AI) készített veszélyesen félrevezető videókkal.

Az elmúlt hónapok erőteljes viharai és áradásai során hamis videók árasztották el a közösségi média platformjait – ezek közé tartoznak az árvízben lebegő holttestek képei, a súlyos áradások hamis ábrázolása a ténylegesen nem érintett területeken, és mások a katasztrófaelhárítási erőfeszítések nyilvánvaló hamis részleteivel.

Egyes területeken az áramkimaradásokról hamis információkat tartalmazó videók arra késztették a lakosokat, hogy pánikba esve vásároljanak segélyszállítmányokat.

Más videók valós eseményeket hasznosítanak.

A Hengzhou városában (Kuanghszi városában) július elején történt árvíz miatt több száz kígyó szökött ki egy tenyésztelepről. Aztán hamis képeket is publikáltak, amelyeken krokodilokat engedtek a folyóba.

Az amúgy is feszült és veszélyes helyzetben, amely tömeges evakuációkkal és összetett mentési műveletekkel jár, a hatóságok el akarják kerülni a pánikot. Most attól tartanak, hogy a mesterséges intelligencia technológia – amelybe Kína dollármilliárdokat költ – egyszerű, hozzáférhető eszközöket kínál, amelyekkel átverhető a nyilvánosság.

"E tartalomkészítők közül sokan katasztrófahíreket használnak arra, hogy követőket szerezzenek, tudván, hogy a szenzációsabb vagy eltúlzottabb tartalmak több lájkot és több nézettséget fognak szerezni. Szándékosan gyártanak információkat, hogy felkeltsék az emberek figyelmét" - mondta Huang Zhihua, a Zhejiang Rendőrkapitányság online közbiztonságért felelős helyettese a kínai állami médiának.

Az elmúlt hetekben letartóztatások és büntetések – a büntetőeljárásra váró őrizettől a pénzbírságig – hamis riportok és videotartalmak készítése miatt történtek.

A szakértők azonban arra figyelmeztetnek, hogy a félretájékoztatás példátlan válsága fenyeget.

A Kommunista Párt Központi Pártiskolájának újságjában megjelent cikkben Chen Bin professzor azt mondta: "A mesterséges intelligencia drámai módon csökkenti a hamis információk előállításának technikai akadályait. Az egyéneknek többé nincs szükségük kifinomult technikai készségekre. Az AI-eszközök egyszerű felszólításával gyorsan meggyőző szöveget, képeket, hangot és videót generálhatnak… ami rendkívül valósághű, de teljes mértékben kidolgozott tartalommal készül."

Gao Fuping, a Kelet-kínai Politikatudományi és Jogi Egyetem professzora azt mondta a BBC-nek, hogy az ilyen hamis tartalmak közzétételének motivációja azoktól kezdve, akik "valami mulatságos dolgot csinálnak anélkül, hogy a következményekre gondolnának", azokig, akik "személyes haszonszerzés céljából forgalmat akarnak generálni", vagy azok, akik szándékosan "pánikot vagy társadalmi nyugtalanságot okoznak".

"Egyes felhasználók úgy gondolják, hogy az online világ anonim és szabályozatlan, vagy nem lehet nyomon követni" - mondta.

Felszólítottak minden mesterséges intelligencia által generált tartalom egyértelmű bélyegzésére, de a többi felhasználó csak újraszerkesztheti az anyagot, eltávolítva a jelöléseket.

Xu Xiaoke, a Pekingi Normál Egyetem professzora a BBC-nek elmondta, hogy nagyobb erőfeszítésekre van szükség a földrajzi helyek időbélyegekkel történő ellenőrzéséhez és a képforrások ellenőrzéséhez is.

"Ennek ellenére azt is hangsúlyoznám, hogy az észlelési technológia még mindig elmarad a generációs technológia mögött. Folyamatos macska-egér játékban vagyunk. Nem szabad tehát feltételeznünk, hogy a technológia önmagában egyetlen gombnyomással képes azonosítani a mesterséges intelligencia által generált tartalmat" - figyelmeztetett.

A kínai kormány felkarolja az AI-t annak érdekében, hogy a vezető technológiai szuperhatalommá váljon.

2017-ben bejelentette, hogy az AI lesz az ország fejlődésének "fő hajtóereje".

Hatalmas pénzösszegek ömlenek a mesterséges intelligencia-vállalkozásokba, amelyek több tőkére törekednek, fokozva a hazai versenyt. A Xinhua állami irányítású vezetékes szolgálat jelentése szerint az országban több mint 6000 "AI-cég" működik.

Ebben a helyzetben Xu professzor úgy véli, hogy Kínának "megbízható információs infrastruktúrát" kell kiépítenie. Ez magában foglalhatja a hivatalos kormányzati korai figyelmeztető rendszereket és a katasztrófavédelmi felületeket, amelyekhez a hírszervezetek hozzáférhetnek.

De előfordult már arra, hogy hivatalos források, köztük a kormány által ellenőrzött média, szándékosan lekicsinyelték a katasztrófákat, ami a lakosság bizalmatlanságához vezetett ezen a területen.

Július elején a helyi újságírókat arra kérték, hogy „puhítsanak” nyelvükön, hogy a Naning melletti Liulan-gát falának jelentős áttörését „nyílásnak” vagy „résnek” nevezzék.

A tisztviselők a jelek szerint igyekeztek kevésbé riasztó hangot adni a jogsértésnek, de a következmények halálosak voltak. Az átszakadt gáton áttörő víz legalább 26 ember halálát okozta a folyásirányban.

És ez nem egyedi eset.

2021-ben helyi tisztviselőket tartóztattak le, és azzal vádoltak, hogy 139 halálesetet titkoltak el vagy jelentettek be Henan tartományban.

Az ehhez hasonló események bizalmi vákuumot eredményeztek, ami sokkal könnyebbé tette a rossz szereplők számára a hamis tartalmak terjesztését.

A rendőrség azonban arra kéri az embereket, hogy vészhelyzetekben bízzanak akkreditált forrásokban.

"Ha ismeretlen forrásból származó katasztrófával kapcsolatos információkkal találkozik, szkepticizmussal közelítse meg azt, és hagyatkozzon a hivatalos bejelentésekre" - mondta Gao Kai, a ningbói közbiztonsági hivatal munkatársa.

Arról is próbálta megnyugtatni a közvéleményt, hogy a hamis információk készítőit elkapják, mondván, "az internet nem egy törvénytelen zóna. A közbiztonsági hatóságok továbbra is fokozzák az illegális online tevékenységek visszaszorítására irányuló erőfeszítéseket".

"Speciális munkacsoportot hoztunk létre a közösségi médiák, különösen a rövid videós platformok szoros megfigyelésére. Gyorsan kivizsgálják és kezelik ezeket az eseteket, nagyon szigorú módon."

A büntetés pénzbüntetéstől akár hét évig terjedő börtönbüntetésig terjedhet, ha a félretájékoztatás súlyos következményekkel jár.

Július 23-án a Kínai Kibertér Adminisztráció országos fellépést jelentett be az árvizekkel és más katasztrófákkal kapcsolatos hamis internetes tartalmakkal szemben, és arra utasította helyi fiókjait, hogy összpontosítsanak a koholt adatok, a rosszindulatú szerkesztések, a színpadra állított jelenetek, a téves történelmi események és a tisztségviselőket kiadó személyek kiszűrésére. Ezenkívül felszólította a közösségi média platformokat, hogy erősítsék meg az általuk közzétett tartalmak felülvizsgálatát.

Gao professzor úgy véli, "a válasz a közoktatás a bűnüldözéssel kombinálva", mondván, hogy "nyilvánosságra kell hozni azokat a valós eseteket, amikor embereket megbüntettek".

Hozzátette, hogy "a mesterséges intelligencia által generált hamis tartalom okozta károk végső soron a technológia használatának az eredménye, nem pedig magának a technológiának", hozzátéve, hogy a meglévő törvények elegendőek a probléma kezelésére.

Mások azonban nem ilyen magabiztosak. Chen professzor rámutatott, hogy "a mesterséges intelligencia technológia továbbra is sokkal gyorsabban fejlődik, mint a jogi keretek. Amint új jogi kérdések merülnek fel, a mesterséges intelligencia félretájékoztatása továbbra is jelentős kihívást jelent."

A sanghaji és washingtoni ügyvéd, Peter Pang szerint az ügyvédek szerte a világon robbanásszerűen megnőtt az ezekkel a kérdésekkel foglalkozó ügyek száma.

Úgy véli, hogy az AI-alkalmazásokat létrehozó cégeket, valamint a hamis videók és egyéb anyagok közzétételére használt platformokat jogilag felelősségre kell vonni, a téves információkat létrehozókkal együtt.

"Az első vonal a platformok lennének, mert ők azok, amelyek lehetővé teszik. Ők azok, amelyek lehetővé teszik, hogy ez megszűnjön" - mondta a BBC-nek.

Egy hipotetikus példával élt, amikor egy személy elgázol egy gyalogost a közösségi médiában megjelent hamis bejegyzés miatti pánik hatására.

"A videó készítője azt mondhatja, hogy "elgázoltál valakit. Ez a te problémád. Nem én tettem." De gondoljuk végig. Te teremtetted az alapot, amelyből az emberek reagáltak. Ha pánikot keltett, akkor felelősséget kell vállalnia a bekövetkező következményekért."

Xu professzor pedig arra figyelmeztet, hogy "a mesterséges intelligencia által generált félretájékoztatás valószínűleg nem csak a mennyiségben, hanem a terjedés sebességében is növekedni fog."

„A jövőre nézve a politikai választások, a közegészségügyi vészhelyzetek, a fegyveres konfliktusok, a természeti katasztrófák és az emberek megélhetését érintő kérdések valószínűleg az AI által generált félretájékoztatás magas kockázatú területeivé válnak.

"Ahelyett, hogy megvárnák a hamis információk terjedését, mielőtt megpróbálnák visszatartani azokat, a kormányoknak és platformoknak most már előre készülniük kell."