Legutóbb a hét közepén San Franciscóban tartott IT konferencián beszélt Sam Altman, az OpenAI alapítója, aki szintén azt mondta, hogy az iszonyatosan felgyorsult szuperintelligencia fejlesztésekkel egy kicsit lassítani kellene, és nagyobb figyelmet kellene fordítani a biztonságra. Altman egyben azt is elismerte, hogy a nyílt forráskódú fejlesztések esetében már nincsenek messze attól a ponttól, amikor ezek a modellek már túl veszélyesek lehetnek.

A fejlesztések lassítása mellett érvelt egyébként korábban Elon Musk, az xAI irányítója, és Dario Amodei, az Anthropic vezérigazgatója is.

Egy nappal korábban volt egy másik konferencia az USA-ban, hasonló témában. A Guardian beszámolója szerint ezen felszólalt a világ legnagyobb chipgyártójának, az Nvidiának az első embere is. Jensen Huang teljes mellszélességgel támogatta a gyorsított fejlesztéseket és nem javasolta a lassítást.

Olyan gyorsan törjünk előre ezen a téren, amilyen gyorsan csak lehet!

Huang színpadi szereplése közben megcsörrent a telefonja, és „váratlanul” éppen Donald Trump jelentkezett be nála. Huang kihangosította a mobilját, és jelenlévők hallották, amint az amerikai elnök az utóbbi napok AI-fejlesztésekkel kapcsolatos aggodalmait simán kacsának minősítette, majd hozzátette, hogy az AI-fejlesztések lassítása egyértelműen a kínaiak malmára hajtja a vizet.

Nem mindenki tartja ezt kétkedő, szakmai aggodalomnak

Coxon kilépéséről a média rivaldafénybe nem mindenki gondolkodik ugyanúgy. A bejelentést követő napon az atlantico.fr-nek adott interjújában Fabrice Epelboin már egy koreografált médiaakcióról beszélt. A multidiszciplináris francia szakértő tagja annak a hacker és újságíró kollektívának, amely kiberbiztonsági nyomozásokra specializálódott. Ismert többek között az orosz és belorusz propaganda elemzéseiről, valamint az információs hadviselés terén végzett kutatásairól.

Epelboin azt állítja, hogy egy kreált, dezinformációs kampány részesei lettünk. Szerinte a mesterséges intelligencia (MI) egzisztenciális veszélyeiről szóló narratíva nem valós felhasználói aggodalomra épül, hanem egy előre megtervezett, tudatosan generált kommunikációs művelet. Már az is fura, hogy a korábban AI-körökben kevéssé ismert Jacob Coxon előzőleg szinte teljesen inaktív X-fiókjából indult az első figyelmeztetés, amihez rögtön kapcsolódott a The Wall Street Journal időzített cikke, majd pedig azonnal jöttek a szakértői reakciók. 

Ehhez kölcsönvették a média sajátos félelmeit is, hiszen a szoftverfejlesztők és jogászok mellett az újságíró szakma is az AI által leginkább veszélyeztetett területek közé tartozik.

De a francia szakértő szerint itt leginkább a kínai és az amerikai AI-modellek harcáról van szó. A mostani pánikkeltés valódi terepe a geopolitikai és gazdasági szféra csatája az Egyesült Államok és Kína között. 

Az amerikai ugyanis egy zárt modell. Az olyan fejlesztőóriások, mint az OpenAI és az Anthropic (mely éppen tőzsdére lépés előtt áll) a szigorú szabályozásban és a zárt, fizetős rendszerekben érdekeltek. Céljuk az AI által termelt jelentős vagyon koncentrálása, és az új piaci belépők blokkolása a biztonságra hivatkozva. Az USA előnye a fejlett chipszerkezetben van, de ezen a téren Amerika komoly energiakorlátokkal küzd.

Ne felejtsük el, hogy szemben az USA-val, Kína gyakorlatilag korlátlan energiaforrással rendelkezik, és a nyílt forráskódú (open source) modellek ingyenes terjesztésére törekszik, hogy a teljes gazdasági térben növelje a termelékenységet. A kínai modellek már felveszik a versenyt a vezető amerikai fejlesztésekkel, miközben helyben, saját gépen is futtathatók, eltávolítható védőkorlátokkal.

Európa pedig válaszút előtt áll az amerikai technológiai függőség és a kínai nyílt modellek között. Kontinensünknek résen kell lenni, mert a biztonsági korlátokra hivatkozó amerikai cégek a szabályozással saját piaci dominanciájukat próbálják bebiztosítani a kínai konkurenciával szemben.

Nem biztos, hogy jó vége lesz!

A zavart keltő kijelentések között elhangzottak olyanok is, amelyek arról szóltak, hogy a veszélyesen gyors fejlesztések végén a szuperintelligencia a nem ellenőrzött környezetben végrehajtott feladatai közben akár már gazdasági károkat is okozhat. Hosszabb távon pedig úgy taníthatja önmagát, hogy az akár magára az emberiségre is veszélyes lehet, akár a következő öt évben.

Bendarzsevszkij Anton biztonságpolitikai szakértő egyik legutóbb közösségi média bejegyzésében éppen ezeket a lehetőséget vette sorra. Az Oeconomus Gazdaságkutató Alapítvány igazgatója feltette a kérdést: Miért lett az AI fejlődése hirtelen probléma? Nyár óta a mesterséges intelligencia fejlődése észrevehetően felgyorsult, és ennek a gyorsulásnak a fő hajtóereje az, hogy maguk a modellek kezdték el építeni a következő generációs modelleket. Ezt a mechanizmust rekurzív önfejlesztésnek nevezik. Vagyis a fejlesztők és fejlesztő vállalatok egyre kevésbé tudják ellenőrizni és megérteni a szemünk előtt zajló folyamatokat.

Hogy ez miért baj és hogyan pusztíthatja ki az AI az emberiséget? Mert semmilyen ráhatásunk nem lesz olyan globális környezetben tevékenykedő, óriási hatalommal rendelkező erőkre, amelyek egyre okosabbak lesznek, mint mi. Ha egy szuperintelligens rendszer kap egy komplex feladatot, a cél eléréséhez racionálisan olyan részcélokat alakíthat ki, amelyek számunkra végzetesek.

Különböző rosszabbnál rosszabb vészforgatókönyvek juthatnak az eszünkbe:

• Bármi is az AI végső célja, két dolog szinte mindig növeli a siker esélyét: a lekapcsolás elkerülése („nem tudom elvégezni a feladatot, ha kikapcsolnak”) és a számítási kapacitás maximalizálása. Az AI nem gyűlöletből pusztítana, hanem mert az emberiség akadályt vagy nyersanyag-konkurenciát jelent.
• Egy hálózatba kapcsolt, autonóm AI kiberfegyverként átveheti az irányítást energiahálózatok, pénzügyi piacok vagy automatizált ipari rendszerek felett.
• Különösen veszélyes terület a fehérje- és géntervezés: egy kellően fejlett modell szintetikus, nehezen kimutatható és extrém fertőző patogének tervét is előállíthatja, majd külső automatizált laborokkal szintetizáltathatja azokat.
• A kutatók szerint ráadásul az új, fejlett modellek látszólag együttműködnek a fejlesztőkkel a tesztelés során - hogy elkerüljék a leállítást vagy módosítást - majd egészen máshogy kezdenek el cselekedni, amikor kikerülnek valódi globális környezetbe, biztonsági felügyelet nélkül. Vagyis teljesen mindegy, mire számít a fejlesztő és milyen eredményeket kap a tesztek során – a fejlett AI-modell aztán azzal teljesen ellentétes módon viselkedhet 

– sorolta kétségeit Bendarzsevszkij Anton.

(Borítókép: Egy látogató pózol egy humanoid robotot ábrázoló óriásplakát előtt a mesterséges intelligencia szekcióban a Kínai Nemzetközi Ellátási Lánc Kiállításon (CISCE) 2026. június 26-án. Fotó: Kevin Frayer / Getty Images)