GazdaságSzerző: portfolio 1 órával ezelőtt 3 percnyi olvasás
Az amerikai hadsereg idén tavasszal kis híján katonai akciót hajtott végre egy kínai hajó ellen egy mesterséges intelligenciával készült, ám teljesen hamis hírszerzési jelentés alapján – derítette ki a CNN.
A jelentés szerint az érintett kínai teherhajó nukleáris fegyverprogramhoz köthető alkatrészeket szállított a Közel-Keletre, miközben épp dúlt az iráni háború.
Az amerikai hadsereg azonnal akcióba lendült, fegyveres egységek készültek a hajó megrohamozására, miközben katonai repülőgépek is a levegőbe emelkedtek. Az akciót végül az utolsó pillanatban fújták le, amikor az illetékesek alaposabban megvizsgálták a Különleges Műveleti Parancsnokság elemzője által összeállított jelentést, és
kiderült, hogy azt mesterséges intelligencia segítségével generálták.
Az elemző által használt chatbot tévesen azonosította a hajó rakományát, így a CNN egyik forrása szerint
a jelentés "teljes egészében hamis" volt, mégis "majdnem háborút robbantott ki".
A részletekből kiderül, hogy az elemző egy chatbotot kérdezett meg a hajó rakományjegyzékéről szóló hírszerzési adatokról. A szoftver nyílt forrású és titkos jelfelderítési adatokat fésült össze, majd ezekből vonta le a téves következtetést. Az elemző ezt követően ismét MI-t hívott segítségül, hogy az eredményeket a katonai vezetők által elfogadott, szabványos hírszerzési jelentés formájába öntse, és így terjesztette azt. Egyelőre nem tisztázott, hogy kereskedelmi forgalomban kapható vagy saját, kormányzati fejlesztésű chatbotot használt-e.
Az amerikai hadseregben és a hírszerzési közösségben egyre szélesebb körben integrálják a mesterséges intelligenciát, hiszen a nyers hírszerzési adatok elemzésétől és a célpontok kiválasztásától kezdve a költségvetés kezelésén át a logisztikáig szinte minden területen alkalmazzák azt. Pete Hegseth védelmi miniszter januárban hirdette meg a tárca MI-akcelerációs stratégiáját, amelynek célja, hogy a mintegy hárommillió katonai és civil alkalmazott számára minden minősítési szinten elérhetővé tegye az MI-eszközöket.
A technológia bevezetése ugyanakkor decentralizáltan zajlik, mivel a kormányzat különböző szervei eltérő eszközöket alkalmaznak, eltérő szabályok és biztonsági előírások mellett. Nincs egységes szabványrendszer az MI által generált információk ellenőrzésére, ami azzal jár, hogy
a különféle rendszerek megbízhatósága rendkívül hullámzó.
A chatbot által produkált úgynevezett hallucináció – vagyis a magabiztosan tálalt, ám valótlan információ – nem elszigetelt eset a hírszerzésben azóta, hogy ezek az eszközök elterjedtek a közigazgatásban. Tapasztaltabb hírszerzési tisztek szerint az MI jelentős nyomást helyez az elemzőkre a jelentések minél gyorsabb előállítására és terjesztésére, ami komoly hibalehetőségeket rejt magában. Különösen a fiatal elemzők hajlamosak kritika nélkül megbízni az új eszközökben. Ahogy az egyik forrás összefoglalta: "az MI lehetővé teszi, hogy gyorsabban juss el egy rossz ötletig".
A címlapkép illusztráció. Címlapkép forrása: Getty Images
Napi