GazdaságSzerző: vg 41 perccel ezelőtt 3 percnyi olvasás
Majdnem háborút robbantott ki egy mesterséges intelligencia által készített téves amerikai hírszerzési jelentés Kína és Amerika között.
A hírszerzési jelentés szerint a kínai hajó egy nukleáris fegyverprogramhoz kapcsolódó anyagokat szállított. Az információ olyan veszélyességi szintet jelentett az amerikai haderő számára, hogy megkezdték a felkészülést a hajó feltartóztatására is. Időben kiderült: a mesterséges intelligencia tévedésének köszönhetően a riasztás téves volt. Az eset azonban különösen aggasztó: a chatbot tévedése katonai konfliktushoz is vezethetett volna.
A CNN négy, az eseményeket ismerő forrásra hivatkozva arról ír, hogy fegyveres amerikai katonák készültek a hajó átkutatására, miközben katonai repülőgépek is a levegőben voltak. A tervezett művelet előtt azonban az illetékesek alaposabban ellenőrizték a hírszerzési jelentést.
Ekkor derült ki, hogy a jelentést az amerikai különleges műveleti parancsnokság egyik elemzője mesterséges intelligencia segítségével állította össze, az alkalmazott chatbot pedig tévesen azonosította a hajó rakományát.
A források szerint az elemző egy, az amerikai hadsereg birtokában lévő hajózási információt kérdezett le egy MI-chatbottal. Nem tudni, hogy kereskedelmi forgalomban elérhető chatbotról vagy az amerikai kormány saját fejlesztésű rendszeréről volt-e szó.
Az adat a Hawaii központú amerikai különleges műveleti parancsnokság csendes-óceáni részlegétől származott. A chatbot a nyílt forrású információkat titkos amerikai jelhírszerzési adatokkal kombinálta, majd arra a következtetésre jutott, hogy
a hajó veszélyes, nukleáris programhoz kapcsolódó anyagot szállít.
Az elemző ezt követően ismét MI-t használt arra, hogy az eredményeket a hadseregben megszokott formátumú hírszerzési jelentéssé alakítsa, amelyet aztán továbbítottak az illetékeseknek.
Az egyik forrás szerint a jelentés „teljes egészében hamis” volt. Egy másik forrás pedig úgy fogalmazott:
az eset „majdnem háborút indított”.
Az ügy súlyosságát az adta, hogy egy kínai hajó amerikai katonai erővel történő feltartóztatása könnyen olyan eszkalációhoz vezethetett volna, amelyben az Egyesült Államok és Kína közvetlen fegyveres konfliktusba kerül egymással.
Az eset egy olyan időszakban történt, amikor az amerikai hadsereg és a hírszerző közösség egyre több területen próbálja alkalmazni a mesterséges intelligenciát. A technológiát egyebek mellett
A technológia gyors bevezetésének egyik fő indoka, hogy az MI segítségével a katonai döntéshozatal jelentősen felgyorsítható. Az amerikai illetékesek attól is tartanak, hogy az Egyesült Államok hátrányba kerülhet, ha egy jövőbeli konfliktusban Kína vagy más rivális állam fejlettebb mesterségesintelligencia-rendszereket alkalmaz.
Pete Hegseth amerikai védelmi miniszter januárban mutatta be az úgynevezett Artificial Intelligence Acceleration Strategy nevű stratégiát, amelynek célja a mesterséges intelligencia katonai alkalmazásának felgyorsítása.
Hegseth a stratégia bejelentésekor azt mondta, hogy a Pentagon le akarja bontani a bürokratikus akadályokat, ösztönözni kívánja a kísérletezést, és széles körben hozzáférhetővé tenné a fejlett MI-modelleket a védelmi tárca mintegy hárommillió katonai és civil munkatársa számára.
A CNN által megszólaltatott amerikai tisztviselők szerint ugyanakkor a rendszer bevezetése meglehetősen decentralizált. A kormányzat különböző részei eltérő MI-eszközöket és biztonsági előírásokat alkalmaznak, miközben nincs egységes szabály arra, hogyan kell ellenőrizni az ilyen rendszerek által előállított információkat.
A probléma különösen súlyos lehet a célpontok kiválasztásánál. Egy, a jelenlegi katonai szabályozást ismerő forrás szerint az MI szerepe ezen a területen gyorsan bővül, miközben nincs világos útmutatás arra, hogy az úgynevezett „ember a folyamatban” mennyire képes megakadályozni a civil áldozatokat vagy a saját erők téves megtámadását.
Az amerikai hírszerzésben az MI-rendszerek által előállított úgynevezett „hallucinációk” – vagyis magabiztosan közölt, de valótlan információk – más esetekben is előfordultak a források szerint.
Egyes tapasztaltabb hírszerzési tisztviselők attól tartanak, hogy a mesterséges intelligencia nemcsak felgyorsítja az elemzést, hanem az ellenőrzési folyamatot is lerövidítheti. A fiatalabb elemzők pedig a források szerint különösen hajlamosak lehetnek arra, hogy kritikátlanul bízzanak az új eszközökben.
Az egyik, a CNN-nek nyilatkozó forrás ezt tömören így foglalta össze: „Az MI segítségével gyorsabban el lehet jutni egy rossz ötlethez.”
A Pentagon és az amerikai különleges műveleti parancsnokság a CNN megkeresésére nem kommentálta az esetet.
A napokban számos híroldal vezető helyen számolt be arról, hogy a világ egyik legfeljettebb MI-jét fejlesztő cég, az Anthropic vezetői szerint az MI-k hamarosan képesség válhatnak arra, hogy akár az egész emberiség létét veszélybe sodorják. Dario Amodei, az Anthropic vezérigazgatója szerint a mesterségesintelligencia-iparágnak lassítania kell az új modellek fejlesztésének ütemét, mivel egyre nagyobb aggodalomra adnak okot az embereket fenyegető „súlyos” kockázatok – részleteket cikkünkben olvashat.
Napi