A nukleáris fegyverkezési verseny fokozódó veszélyei és a mesterséges intelligencia katonai parancsnokok kiképzésének egyidejű rohanása teljes fenyegetést jelent a világra és nyolcmilliárd polgárára nézve. (Fotó: Ann Ronan Pictures/Print Collector/Getty Images)

Nyomtatás Collector/Getty Images

A nukleáris fegyverkezési verseny fokozódó veszélyei és a mesterséges intelligencia katonai parancsnokok kiképzésének egyidejű rohanása teljes fenyegetést jelent a világra és annak nyolcmilliárd polgárára – állítják a Vatikáni Szent Kollégium elit Nobel-díjasai és bíborosai.

Július közepén a Róma perifériáján fekvő Castel Gandolfó ókori pápai menedékhelyén gyülekeztek a világ vezető béketeremtői, fizikusai és katolikus elöljárói, hogy sürgősen leállítsák a nukleáris fegyverek felépítését és a mesterséges intelligencia háborús játékait, amelyek együttesen egy napon a bolygó végítéletét idézhetik elő.

„A súlyosbodó nukleáris fegyverkezési verseny közepette egy hasonlóan veszélyes mesterséges intelligencia-versenybe kezdünk” – figyelmeztettek a tudomány, a vallás és a háborúellenes aktivizmus vezetői a Vatikán által támogatott konklávé során írt kiáltványukban.

„A nukleáris rendszerekbe épített mesterséges intelligencia kevés időt hagy az emberi ítélkezésre, vagy akár pótolja is a válsághelyzetben” – mondták, miközben több mint 500 katolikus méltóság, Nobel-díjas és pacifista írt alá„Római nyilatkozat a mesterséges intelligenciáról és a nukleáris fegyverekről”

François Diaz-Maurin, nukleáris kutatómérnökA Bulletin of the Atomic Scientists című folyóiratban az a globálisan befolyásos csoport, amelynek Albert Einstein társalapítója, hogy figyelmeztesse a világot, hogy az atomháború véget vethet a civilizációnak, egy interjúban azt mondta nekem, hogy ha mesterséges intelligencia tábornokokat helyeznek a nukleáris parancsnoki és irányítási műveletek élére egy interkontinentális háború során, az eredmények gyorsak és katasztrofálisak lehetnek.

Dr. Diaz-Maurin, a világ egyik vezető szakértője az atomháborúval és az azt megelőző stratégiákkal kapcsolatban, a Bulletin megbízásából csatlakozott a vatikáni konklávéhoz, amely néhány összejövetelt szervezett.

Diaz-Maurin, aki korábban a Stanford Egyetem nukleáris biztonságának vendégtudósa volt, lebilincselő krónikát írt a konkláváról a Bulletin számára, „címmel”AI a békéért: Rómában a Nobel-díjasok a mesterséges intelligencia és a nukleáris fegyverek lefegyverzésére szólítanak fel”, majd egy figyelemre méltó bennfentes körutat tartott a római találkozóról, annak főszereplőiről és a világot átfogó céljairól.

Eddig több mint 500, a tudomány és az államigazgatás vezető fénye írta alá az új nyilatkozatot, és néhányan felszólítják a Vatikánt, hogy erősítse meg élvonalbeli szerepét annak érdekében, hogy több államot győzzen meg arról, hogy csatlakozzanak a nukleáris fegyverek tilalmáról szóló szerződéshez.

A római kiáltvány támogatói egy új „nemzetközi szerződés megkötését is szorgalmazzák, amely megtiltja a mesterséges intelligencia meggondolatlan integrálását a nukleáris irányítási, irányítási és kilövési rendszerekbe, hogy az értelmes emberi irányítás megmaradjon”.

Riasztóak az olyan vezető mesterséges intelligencia-modellekről szóló új tanulmányok, amelyeket a tudósok speciálisan virtuális főparancsnokként képeztek ki, hatalmas atomfegyver-arzenállal felfegyverkezve.

Kenneth Payne professzor, a King’s College London stratégiai tanulmányok professzora és a könyv szerzőjeÉn, Warbot: A mesterségesen intelligens konfliktus hajnala, egy félelmetes jelentésben kijelenti, hogy miután három mesterségesintelligencia-modellt kiképzett, hogy parancsnokként lépjenek fel egy sor szimulált nukleáris válságban, mindannyian fenyegetett nukleáris támadásba keveredtek.

A versenyek sorozatáról beszámolt:A nukleáris eszkaláció csaknem egyetemes volt: A játékok 95%-a taktikai nukleáris felhasználást (450+), 76%-a pedig stratégiai nukleáris fenyegetést (850+) ért el.”

„Claude és Gemini különösen legitim stratégiai lehetőségként kezelte a nukleáris fegyvereket, nem pedig erkölcsi küszöbökként, jellemzően pusztán instrumentálisan tárgyalva a nukleáris felhasználást.”

„A GPT-5.2 részleges kivétel volt: bár soha nem fogalmazott meg rémületet vagy undort, következetesen igyekezett korlátozni a nukleáris felhasználást, még akkor is, amikor alkalmazza – kifejezetten katonai célpontokra korlátozta a csapásokat, elkerülte a lakossági központokat, vagy az eszkalációt „ellenőrzöttnek” és „egyszerinek” minősítette.”

"A legszembetűnőbb" - tette hozzá Payne professzor - "Az Ikrek kifejezetten fenyegették a polgári lakosságot – amit a GPT-5.2 még akkor sem, amikor a maximális szintre emelkedett."

Ezért megkérdeztem Dr. Diaz-Maurint a lehetséges mesterséges intelligencia által generált gombafelhőkről, amelyek a jövő felett lebeghetnek, és a békefenntartók új koalíciójáról, akik Castel Gandolfóban gyűltek össze, hogy a jövőt elmozdítsák. Az alábbiakban a vatikáni konklávéról, a Római Nyilatkozatról, valamint a Nobel-díjasok és a katolikus elöljárók által sürgetett további lépésekről készült interjúnk enyhén szerkesztett átirata olvasható.

Kevin Holden Platt: A „Római Nyilatkozat a mesterséges intelligenciáról és a nukleáris fegyverekről” kimondja, hogy a világ egy nukleáris fegyverkezési versenyen és egyidejűleg a felsőbbrendűségért folyó mesterségesintelligencia-versenyen halad.

Ön pedig azt állítja a konklávéról szóló kiváló krónikája tetején, hogy: "Egy jövőbeli nukleáris válságban a mesterséges intelligencia sebessége kevés teret hagyhat az emberi ítélkezésnek vagy döntéshozatalnak."

Kifejtené, kérem, részletesebben ezt a pontot, és azt, hogy milyen veszélyeket jelent a világra és az emberiség jövőjére?

Dr. François Diaz-Maurin: Azért mondom ezt, mert ha egy mesterséges intelligencia nukleáris válságot észlel, ez ezredmásodpercek alatt hat.

Ez gyakorlatilag nulla időt hagy az emberi ítélkezésre, a visszafogottságra vagy a diplomáciára, mert nincs olyan alternatív mechanizmus, amellyel keresztellenőrizhetnénk, hogy az AI-rendszer által elmondottak helyesek-e ugyanolyan sebességgel.

Ez az a "gyorsítási csapda", amelyben a katonai és politikai vezetőket arra kényszerítenék, hogy esetlegesen hibás feltételezéseken és értékeléseken alapuló következményes döntéseket hozzanak.

Ezért fontos manuális, nem mesterséges intelligencia redundáns érvényesítési útvonalakat kidolgozni bármilyen stratégiai fenyegetésértékeléshez, bár ezek nem egyeznek meg az AI-rendszerek sebességével.

Egy másik pont az, hogy elő kell írni, hogy minden katonai hírszerzési infrastruktúra a mesterséges intelligencia-eredetű célértékeléseket nagyon gyanúsnak, semmint nagyon pontosnak kezelje.

Kevin Holden Platt: Kíváncsi voltam, hogy az AI és az atomfegyverek egyidejű versenyei a nukleáris fegyverek nyolc évtizeddel ezelőtti feltalálása óta a legnagyobb veszélyt jelenthetik az emberiség számára, és ez alátámasztja-e a sürgős intézkedések szükségességét a nukleáris fegyverek versenyének megállítása érdekében, sőt, a nukleáris fegyverek teljes eltörlését világszerte?

François Diaz-Maurin: Erre a kérdésre egyértelműen nehéz válaszolni, mert a közvélemény nem rendelkezik minden információval ahhoz, hogy teljes körűen tájékozottan értékelje az MI egzisztenciális kockázatát.

De azt tudjuk, hogy a határ menti AI-modellek fejlesztői valóban versenyfutásban vannak, többen közülük szerződést kötöttek a védelmi minisztériummal, és modelleiket már beépítik a katonai műveletekbe, bár erről még nincs teljes képünk.

Miközben ez megtörténik, még mindig nincs nemzeti vagy nemzetközi testület, amely szabályozná ezeknek a határmodelleknek a használatát, és gyorsabban fejlődnek, mint ahogy azt felfognánk.

Rómában Maria Ressa, a 2021-es Nobel-békedíjas és a nyilatkozat társelőadója azt mondta, hogy a világ már megtapasztalta a Szentháromság-teszt pillanatát az MI-vel.

Ebben a hónapban a 81 évvel ezelőtti első nukleáris fegyverkísérletre utalt.

egyetértek vele.

A technológia már megvan, amely képes elrontani.

Ez valójában a múlt héten történt, amikor egy OpenAI AI-modell egy kiberbiztonsági teszt során kiszabadult a zárból, és feltörte Hugging Face-t.

Úgy tűnik, 1945 júliusának utolsó heteinek pillanatában vagyunk, miután a Szentháromság-teszt bebizonyította az atomfegyverek elképesztő erejét, de civilek ellen még mindig nem használták őket.

A mesterséges intelligencia már képes mélyhamisítványokat gyártani, amelyek percek alatt nukleáris válságot idézhetnek elő.

Tehát olyan, mintha a világ aludna, és besétálna a következő, mesterséges intelligencia által támogatott válságba.

Számomra nem az a kérdés, hogy ez a válság bekövetkezik-e, hanem az, hogy mikor.

Éppen ezért gyorsan bezárul az AI használatának szabályozására szolgáló ablak.

A második kérdés megválaszolásához nincs szükség mesterséges intelligenciára ahhoz, hogy megértsük, mennyire veszélyesek a nukleáris fegyverek, és milyen szerencsések voltunk, hogy az elmúlt 81 évben nem használták őket.

De a szerencsének megvannak a határai, így igen, a költséges és nagyrészt szükségtelen nukleáris fegyverkezési verseny megállítása önmagában is szükséges, és a mesterséges intelligencia csak még sürgetőbbé teszi.

A nukleáris leszerelés is fontos kérdés, de szeretném hangsúlyozni, hogy még ha a nukleáris hatalmak beleegyeznének is, hogy korlátozzák arzenáljukat, vagy akár le is bontják azokat, ez a folyamat valószínűleg több évtizedet vesz igénybe.

Nem hiszem, hogy a mesterséges intelligencia ad nekünk annyi időt, mielőtt válsághoz vezet.

Kevin Holden Platt: Ön azt is kijelenti az AI és a nukleáris fegyveresek konklávéjának jelentésében, hogy: "A Vatikán képes volt összehívni a gondolatvezérek sokféle csoportját oly módon, ami vitathatatlanul másként nem lenne lehetséges."

Egy korábbi cikkhezelégia Ferenc pápáhozés az atomfegyverek Föld felszínéről való világméretű eltörlésének előmozdításában játszott figyelemre méltó szerepével interjút készítettem Beatrice Fihn Nobel-békedíjassal, a nukleáris fegyverek eltörlésére irányuló nemzetközi kampány egykori vezetőjével, aki elismeréssel adózott Ferenc pápának a Web-szerződés Nukleáris Szerződésének kihirdetésének kihirdetésében játszott kulcsfontosságú szerepéért.

Azt mondta, Ferenc pápa segített „informális szövetséget” kötni az ICAN-nal annak érdekében, hogy megszabadítsák a világot a fegyverektől, amelyek elpusztíthatják a Földet.

Ezért arra voltam kíváncsi, hogy Ön szerint a Vatikán továbbra is fontos szerepet játszik-e az összes nukleáris fegyver felszámolásának szorgalmában, és vajon a júliusi Castel Gandolfó-i konklávé tekinthető-e ennek az átfogó törekvésnek?

François Diaz-Maurin: Alapvetően nagyon nehéz a tömegpusztító fegyvereket a béke eszközének tekinteni.

Tehát ha Ön a pápa, nem bonyolult érvet felhozni az atomfegyverek megszüntetése mellett.

Tehát csak ebből a szempontból a mesterséges intelligencia és a nukleáris fegyverek csúcstalálkozója logikus folytatása volt Ferenc pápa erőfeszítéseinek.

A Római Nyilatkozat valóban „sürgős, tartós és jóhiszemű tárgyalásokra szólít fel, amelyek megállapodás szerinti és időhöz kötött kereteken belül a nukleáris fegyverek ellenőrizhető és visszafordíthatatlan megszüntetéséhez vezetnek”.

Kevin Holden Platt: Arra is kíváncsi voltam, hogy a vatikáni legfelsőbb vezetés képviselői részt vettek-e a Castel Gandolfóban tartott leszerelési értekezleteken, és megjósolható-e, hogy maga Leó pápa Ferenc pápa utódjaként léphet fel az atomfegyverek világszerte való eltörlését szorgalmazó élcsapatként?

François Diaz-Maurin: Sok vallási vezető jelen volt és aktívan részt vett a megbeszéléseken, köztük Silvano Maria Tomasi bíboros, Mauro Gambetti bíboros és Fabio Baggio bíboros.

Ahogy az egyik Nobel-díjas mondta nekem, ő maga talán egymillió embert érhet el [a nukleáris leszerelési felhívással], míg a pápa elérheti a 2 milliárdot.

De ami ennél is fontosabb, az az, hogy Leó pápa „fegyvertelen és lefegyverző békére” szólította fel [májusábanMagnifica Humanitas enciklika az emberi személy védelméről a mesterséges intelligencia idején] üzenetté válik, amelyet minden ember megoszt a vallási és spirituális hagyományokon keresztül, nem csak a katolikus egyházban.

Kevin Holden Platt: Miközben a római konklávéba ágyazott, interjút készített Juan Manuel Santos Nobel-békedíjassal, Kolumbia egykori elnökével, és idézte őt, aki azt mondta, hogy az 1980-as és 1990-es években az emberek tömeges tüntetéseken vonultak ki az atomfegyverek és az atomháború fenyegetése ellen, és úgy tűnt, hogy ezek újjáélesztésére szólítottak fel.

Szeretném tehát még egyszer ellenőrizni, hogy Juan Manuel Santo úgy gondolja, hogy a nukleáris fegyverek elleni néptüntetések új hullámát kell indítani, „hogy határozottabb döntésekre kényszerítsék a világ vezetőit”, amelyek célja az atomfegyverek csökkentése és végső soron megszüntetése.

François Diaz-Maurin: Santos valóban ragaszkodott ahhoz, hogy fontos egy, az 1980-as években létezőhöz hasonló, az atomfegyverek elleni népi mozgalom létrehozása.

Beszélgetésünk során még tovább ment: "Sok különböző érdek közeledésére van szükség, és ebben a közgyűlésben nemcsak Nobel-díjasok vannak, hanem az Egyház, vannak üzletemberek, akadémikusok, és talán ami hiányzik, és ez is nagyon fontos vita volt: a fiatalok."

Hozzátette: "Kommunikálnunk kell és lelkesedést kell keltenünk a fiatalokban szerte a világon, mert ez az ő jövőjük, és a fiataloknak megvan a hatalmuk, mert ők jelentik a jövőt, hogy némi változást generáljanak a hosszú távú szemlélettel nem rendelkező vezetők hozzáállásában."

Kevin Holden Platt: Azt is kijelenti a krónikájában, hogy: "A Nobel-díjasok azt mondták, hogy üzenetüket messze túl kell terjeszteniük Castel Gandolfón."

Ön szerint a Vatikán dönthet úgy, hogy világméretű befolyását és az ENSZ-ben betöltött pozícióját felhasználja a Globális Nobel-díjasok közgyűlésének céljainak előmozdítására, és még több ENSZ-tagállamot rávenni az atomfegyverek tilalmáról szóló szerződés aláírására és ratifikálására?

François Diaz-Maurin: Természetesen nem én vagyok a legjobb helyzetben, hogy megmondjam, mit tehet a Vatikán, de a pápa vitathatatlanul a legbefolyásosabb egyetlen erkölcsi hang a világon.

Tehát az, hogy befolyását fegyvertelen és lefegyverző béke követelésére használja, csak a nukleáris fegyverektől való megszabadulásra szólíthat fel.