A CNN értesülései szerint az incidens idén tavasszal, az Iránnal zajló háború idején történt. Egy amerikai hírszerzési jelentés azt állította, hogy egy közel-keleti kínai hajó az iráni nukleáris fegyverprogramhoz felhasználható alkatrészeket szállít.

A dokumentumot annyira komolyan vették, hogy a hadsereg állítólag már a lehetséges válaszlépéseket is kidolgozta. Ezek között szerepelt a hajó feltartóztatása, sőt fegyveres katonák bevetése is. Mielőtt azonban megkezdődött volna az akció, kiderült, hogy komoly probléma van a jelentéssel. A portál forrásai szerint ugyanis annak elkészítéséhez mesterséges intelligenciát használtak, az abban szereplő információk pedig tévesnek bizonyultak. Az egyik, helyzetet ismerő forrás a jelentést egyenesen „teljesen hamisnak” nevezte, és azt állította, hogy az eset akár súlyos konfliktushoz is vezethetett volna a két nagyhatalom között.

Az AI elemezte az adatokat

A beszámoló szerint az elemző egy csevegőrobot segítségével vetett össze nyílt forrásból származó és titkos kormányzati adatokat a hajó rakományáról, a rendszer azonban hibás következtetésre jutott. Ezután a jelentés elkészítésében és formázásában is AI-t használtak, a kész anyag pedig úgy jutott tovább a katonai vezetőkhöz, hogy azok megbízható hírszerzési információként kezelték.

Az eset komoly figyelmeztetés lehet az AI katonai felhasználásának veszélyeire. Az Egyesült Államok haderejében egyre szélesebb körben alkalmazzák a technológiát az adatok feldolgozásától a katonai döntések támogatásáig, miközben továbbra is kulcskérdés, hogyan ellenőrzik az általa előállított információkat. A CNN által megszólaltatott egyik forrás ezt úgy fogalmazta meg: a mesterséges intelligencia nemcsak gyorsabban vezethet el a jó válaszhoz, hanem „gyorsabban juttathat el egy rossz ötletig” is. Katonai helyzetben pedig egy ilyen tévedés következményei jóval súlyosabbak lehetnek egy egyszerű hibás válasznál.