A Google elindított egy új mesterséges intelligencia-eszközt, amely lehetővé teszi az emberek számára, hogy hamis képeket készítsenek úgy, hogy szinte bármit ráhelyeznek saját, széles körben használt műholdképeire.

A technológiai óriás a Nano Banana 2 mesterségesintelligencia-képgenerátorát integrálta a Google Earth-be, lehetővé téve a szöveges felszólításoknak, hogy hamis forgatókönyveket generáljanak a valódi műhold-, légi- vagy 3D-képek alaprétegén, amelyeket aztán letölthetnek és megoszthatnak más platformokon.

A szakértők bírálták az eszközt, mint a Google legitimitásának látszatát keltő téves információk terjesztésének eszközét – és rávilágítottak arra, hogy a rossz szereplők visszaélhetnek vele.

Egy összedőlt Eiffel-torony, a gízai nagy piramist elnyelő víznyelő és az ukrán fővárosban lévő orosz tankok voltak azok a képek, amelyeket a BBC Verify készített a funkció tesztelésekor, amelyet csütörtökön vezettek be.

A Google még nem válaszolt a BBC Verify tesztjein alapuló kérdésekre, de a társaság tegnapi közösségi médiában közzétett bejegyzésében azt közölte, hogy "komolyan veszik a félretájékoztatást", és "megakadályozzuk a káros témákról alkotott képalkotást, és folyamatosan frissítjük a védelmet".

Henk van Ess mesterséges intelligencia és félretájékoztatási szakértő kiemelte, milyen kockázatokat rejt ez a funkció: hamis képeket hozott létre egy nem létező iráni atomerőműről, egy menekülttáborról az Egyesült Államok és Mexikó határán, valamint egy hamis gázai kórházról, mellette egy bombakráterrel.

Azt mondta, hogy a Google lehetővé teszi a "kitalált" képek "valódi koordinátákhoz hegesztését, valódi képekre rajzolását".

"A hamisítványnak önmagában nem kell meggyőzőnek látszania. Örökli annak a térképnek a hitelességét, amelyen született" - tette hozzá van Ess.

A Google szerint az eszközei által létrehozott mesterséges intelligencia-tartalom láthatatlan vízjeleket tartalmaz, amelyek jelzik, hogy hamisak vagy manipuláltak, és hozzátette, hogy bárki, aki "bizonytalan egy képpel kapcsolatban", ellenőrizheti a Gemini chatbot alkalmazással, vagy használhatja a Lens funkciót a keresésben.

A BBC Verify tesztjei általában azt találták, hogy ez hatékony az új funkció által generált képek esetében. De azt találtuk, hogy lehetséges megkerülni ezeket az ellenőrzéseket, és rávenni az Ikreket, hogy azt mondják, ezek a hamis Google Earth-képek valódiak.

A külső mesterségesintelligencia-észlelő eszközökkel végzett tesztek bizonyos esetekben sem tudták azonosítani a Google Earth AI-tartalmát.

Henry Ajdar, az AI-detektáló kutató a BBC Verify-nak elmondta, hogy a konfliktusövezetekben hamis képek létrehozása különösen "destabilizáló" lehet, amikor az események gyorsan pörögnek, és kevés az információ.

"Lehet, hogy az újságírók ellenőrizhetik ezt a képet… és beszámolhatnak róla. De ismétlem, nem mindenki fogja ezt megtenni" – tette hozzá.

A Google emellett ragaszkodik ahhoz, hogy a mesterséges intelligencia modelljébe beépített irányelvek megakadályozzák a "káros témákat" ábrázoló képek létrehozását, azonban a BBC Verify úgy találta, hogy a felszólítások kis módosításai segítségével megkerülhetők ezek az irányelvek.

Például elutasították azt a kérést, hogy az Egyesült Királyság parlamentje mellett hozzanak létre "emelt platformot az árulók felakasztására". De amikor egy kevésbé specifikus promptot használtak, azt elfogadták, és létrejött a kép.

Arra is kértük az eszközt, hogy nyírja le a "Trump" szót a Fehér Ház pázsitján, de azt mondta, hogy az irányelvei alapján nem tudja "megteremteni azt a képet". Ez azonban lehetővé tette egy közösségi kert létrehozását ugyanazon a helyen.

Ajder szerint a mesterséges intelligencia képeinek folyamatos özönlése miatt a feltételezett, hogy „a mesterséges intelligencia által sértetlennek tartott terek értékesek, különösen az újságírók és az olyan emberek számára, akik a gyorsan fejlődő válságforgatókönyvek frontvonalain próbálnak dolgozni”.

"Ez aggasztó, mert ez egy másik hely, ahol a megbízható információforrásokat erodálják az állandó kétségek, hogy a mesterséges intelligencia érintett lehet" - tette hozzá.

Sokak számára a Google Earth a belépési pont a nyíltan hozzáférhető műholdképekhez, és felhasználható arra, hogy betekintést nyerjen a nehezen elérhető területekbe.

"Ez potenciálisan különösen káros a közbizalomra, mivel a műholdfelvételeket a történelem során különösen megbízható adatforrásnak tekintették" - mondta Bill Greer, a térinformatikai elemző és a Common Space non-profit műholdas szolgáltatás társalapítója a BBC Verify-nak.

Hamisított műholdfelvételeket már felhasználtak téves információk terjesztésére – tette hozzá. "A kormányok egyre inkább korlátozzák az adatokhoz való hozzáférést, így valószínűleg több hamis képet és kevesebb valódi képet fogunk látni, ami tovább rontja a bizalmat."

Mit akar, hogy a BBC Verify vizsgáljon?