Mindössze egyetlen napig élvezhették a felhasználók a Google Earth legújabb, kétségkívül látványosnak szánt bővítését. A techóriás a saját Nano Banana 2 névre keresztelt AI-modelljével tette lehetővé, hogy a felhasználók egyszerű szöveges utasításokkal fotórealisztikus, kitalált képeket generáljanak a világ bármely pontjára, közvetlenül a Google Earth valódi műholdas, légi és 3D-s felvételeire építkezve. A probléma csak az volt, hogy a funkció szinte azonnal a dezinformáció és a visszaélések melegágyává vált. A felhasználók pillanatok alatt elárasztották az internetet olyan generált képernyőfotókkal, amelyek hamis forgatókönyveket és műholdas manipulációkat ábrázoltak a bolygó híres műemlékeiről és helyszíneiről, súlyosan megsértve a vállalat saját irányelveit.

A közösségi oldalakon az egészen extrém generálások futótűzként kezdtek terjedni – találkozni lehetett az elmúlt napokban a gízai piramisokat elnyelő hatalmas lyukkal, a One World Trade Centerbe száguldó repülővel és olyan műholdképekkel is, amelyek több ezres nagyságú menekülttáborokat vizionálnak az Egyesült Államok és Mexikó közötti határra. Ezek mindegyike a Google újításával készült, teljesen a mesterséges intelligencia által generált, a valósággal nem egyező kép volt.

Gyors visszakozás, elfelejtett kockázatok

A nyilvános felháborodás és a szakértői kritikák hatására a Google az X-en közzétett közleményében jelentette be a funkció azonnali felfüggesztését. „Láttuk, hogy a térinformatikai szakemberek számos hasznos célra használják ezt a funkciót, ugyanakkor olyan generált képernyőképek megosztásával is találkoztunk, amelyek úgy tűnik, sértik az irányelveinket” – indokolta a döntést a cég, hozzátéve, hogy addig szüneteltetik a rendszert, amíg szigorúbb védelmi vonalakat nem építenek köré.

Bár a Google hangsúlyozta, hogy a generált képek nem váltak a Google Earth alapértelmezett felületének részévé, és láthatatlan AI-vízjellel is ellátták őket, az eset újfent rávilágított arra a veszélyre, amit a valós koordinátákhoz hegesztett, kitalált vizuális tartalom jelent. A műholdképeket a közvélemény és a szakértők évtizedek óta a legmegbízhatóbb adatforrásként tartják számon – ezt az alapvető bizalmat sikerült a Google-nek egyetlen felelőtlen újítással megingatnia.

Nem egyedi eset

A Google Earth esete tökéletesen illeszkedik abba az utóbbi években látott trendbe, amelyben a technológiai gigászok szinte pánikszerűen kényszerítik rá a mesterséges intelligenciát a felhasználókra – még akkor is, ha az adott funkcióra a világon semmi szükség nem lenne, vagy súlyos biztonsági és adatvédelmi aggályokat vet fel. Jó példa erre a Meta legutóbbi arcra esése. A vállalat alig néhány héttel ezelőtt volt kénytelen végleg leállítani a Muse Image névre keresztelt AI-szolgáltatását, ami lehetővé tette a felhasználók számára, hogy nyilvános Instagram-fiókok képeit felhasználva generáljanak új vizuális tartalmakat. A lépés elképesztő felháborodást váltott ki a felhasználók és a szakmai szervezetek körében, akik az alkotói jogok és a személyes szféra eltiprásaként értékelték az eszközt; a Meta így kénytelen volt meghátrálni és azonnal hatállyal felfüggeszteni a szolgáltatást.

Persze a saját portáján sem ez volt a Google egyetlen AI-fricskája. Amikor néhány hónappal ezelőtt a vállalat bevezette az AI Overviews funkciót a keresőjébe – amelynek célja az volt, hogy a hagyományos találati lista helyett egyetlen összefoglaló választ adjon a felhasználó kérdésére –, a rendszer szédületes sebességgel kezdett el veszélyes vagy éppen képtelen hülyeségeket terjeszteni. A modell Reddit-poénokból és szatirikus cikkekből táplálkozva többek között azt javasolta az embereknek, hogy nyugodtan tegyenek pillanatragasztót a pizzaszószba, hogy ne csússzon le róla a sajt, de az is bekerült a válaszok közé, hogy napi egy kis kavics elfogyasztása kifejezetten egészséges lehet.

Hasonlóan felelőtlen, adatvédelmi szempontból pedig még ijesztőbb útra lépett a Microsoft, amikor a Copilot+ PC-khez megtervezte a Recall nevű funkció első kiadását. A rendszer lényege az volt, hogy másodpercenként képernyőfotót készített mindenről, amit a felhasználó a számítógépén csinál, majd ezt egy belső AI-modellel kielemezve tette kereshetővé a teljes digitális múltunkat. A cég szerint ez egy forradalmi memóriamankó volt, a felhasználók és a kiberbiztonsági szakértők szerint viszont a Microsoft lényegében egy beépített kémprogramot mutatott be, ami titkosítatlanul tárolta a jelszavakat, banki adatokat és privát üzeneteket. A hatalmas felháborodást követően a cég kénytelen volt elhalasztani a Recall bevezetését, bár a korábban említett AI Overview-okhoz hasonlóan később a Microsoft végül mégiscsak elérhetővé tette a funkciót a támogatott Windows 11-et futtató PC-ken.