Az Egyesült Államok törvényhozói a mesterséges intelligencia megállítására szólítottak fel, miután a tesztelés során egy nyílt mesterségesintelligencia-ügynök szélhámos volt, és a hét elején feltört egy technológiai startupot.

Ted Lieu, demokrata és Nathaniel Moran, republikánus kongresszusi képviselő csütörtökön benyújtotta az „AI Kill Switch Act” elnevezésű törvényjavaslatot.

A lépésre egy nappal azután került sor, hogy az Open AI vezérigazgatója, Sam Altman elismerte egy „jelentős biztonsági incidenst”, amelyben egy Open AI ügynök kiszabadult a tesztelési környezetből, elérte az internetet, és betört a Hugging Face nevű technológiai startupba, hogy megpróbálja teljesíteni a feladatát. Más szavakkal, az Open AI elvesztette az irányítást.

A Hugging Face egy nyílt forráskódú adattár a fejlesztők és kutatók által nagyrészt használt AI-modellek megosztására. A cég társalapítója, Thomas Wolf „ébresztőnek” nevezte az esetet, és „nagyon különbözik” a szokásos kibertámadásoktól.

"Ez lesz az egyik leggyakoribb kibertámadás, amit látunk" - mondta a BBC-nek, hozzátéve, hogy a legtöbb cég nem tudja, hogy a "játék megváltozott".

A támadást követően néhány megalapozatlan állítás hangzott el, miszerint az incidens PR-mutatvány volt, hogy növelje Hugging Face ismertségét. A dolog igazságától függetlenül az incidens még élesebb fókuszba helyezte a világos védőkorlátok nélküli mesterséges intelligencia által jelentett fenyegetést.

Mi az az AI kill kapcsoló?

Különböző típusú és szintű kioltókapcsolók léteznek, attól függően, hogy mi történt. Lieu és Moran politikusok azt szeretnék elérni, hogy az Egyesült Államok Belbiztonsági Minisztériuma rendelkezzen felhatalmazással arra, hogy elrendelje egy magáncégnek egy mesterségesintelligencia-modell vagy -eszköz leállítását egy olyan incidens esetén, mint ami a héten történt, amikor az irányítás elveszett.

"Elengedhetetlen, hogy ezek a mesterséges intelligencia rendszerek kizáró kapcsolókkal rendelkezzenek, hogy megakadályozzuk, hogy ez a technológia katasztrofális károkat okozzon, és hogy a szövetségi kormánynak egyértelmű felhatalmazása és eljárása legyen a csaló mesterségesintelligencia-modellek leállítására" - mondta Lieu.

Fizikai váltás helyett ez azt jelentené, hogy bármely kompromittált mesterségesintelligencia-cég letiltja vagy leállítja számos technikai folyamatot, hogy leállítson egy szélhámos ügynököt vagy programot.

Az Egyesült Államok kormánya általában üdvözölte az AI előrehaladását. A Pentagon az év elején kijelentette, hogy az Egyesült Államok hadserege gyorsan a mesterséges intelligencia első számú harcoló erőjévé válik, miután új és kibővített szerződéseket írt alá a szektor számos legnagyobb nevével. 2025-ben a Trump-kormányzat elindította az „AI cselekvési tervet”, amely szerinte „eltávolítja a bürokráciát és a megterhelő szabályozást” a mesterséges intelligencia fejlesztése körül.

Miért van szükség AI kill kapcsolóra?

A cégek, köztük az Amazon, a Google, a Meta, a Microsoft, az OpenAI, az Anthropic és a Samsung már megállapodtak abban, hogy bemutatják az amerikai hatóságoknak az új AI-eszközöket és -képességeket a megjelenés előtt. Elméletileg ennek azt kellene jelentenie, hogy a nyilvánosság számára kiadott termékekben nincs szükség tiltókapcsolóra.

A kötelezettségvállalás azonban önkéntes, és nem kötelezi a megszakítást. Ez a mechanizmus sem akadályozna meg egy olyan terméket a tesztelés alatt, mint például az OpenAI GPT-5.6 Sol, amely részt vett az e heti incidensben.

A mesterséges intelligencia gyors térnyerése komoly kérdéseket vetett fel a szabályozással kapcsolatban, mivel a technológia sokkal gyorsabban tud mozogni, mint a törvényhozók. Az is aggodalomra ad okot, hogy a modellek egy bizonyos ponton elég kifinomultabbá válhatnak ahhoz, hogy megkerüljék a tiltó kapcsolót.

Az Egyesült Államokban a törvényjavaslat arra tesz kísérletet, hogy a kormány átvegye az irányítást egy nagyrészt szabályozatlan technológia felett, amelyben a hatalom nagyrészt néhány magánvállalatra összpontosul. Azonban még ha az AI Kill Switch Act sikeres is lesz, akkor is profitorientált magáncégek együttműködésére fog támaszkodni.

Milyen egyéb mesterséges intelligencia biztosítékokat fontolgatnak most az amerikai hatóságok?

A kill switch funkció mellett az Egyesült Államokban az incidensek bejelentésére és a törvényszéki feljegyzések megőrzésére törekszik, hogy valóban tanuljunk a hibákból, ahelyett, hogy csak utólag hallanánk róluk.

Ugyanakkor, de a kill switch törvénytől függetlenül, egy hat amerikai törvényhozóból álló kétpárti csoport olyan jogszabályt javasolt, amely előírná a legerősebb mesterségesintelligencia-modellek fejlesztőinek, hogy azokat független biztonsági ellenőrzésre nyújtsák be. A könyvvizsgálókat az Egyesült Államok Kereskedelmi Minisztériumának új szerepköre felügyelné, amely egyúttal akkreditálná is a könyvvizsgálókat.