Az OpenAI kedden közölte, hogy fejlett mesterséges intelligencia modelljei szélhámosnak bizonyultak, és feltörték a Hugging Face-et, az AI technológia digitális tárházát.

"Jelentős biztonsági incidens történt modelljeink értékelése során" - mondta az OpenAI vezérigazgatója, Sam Altman a közösségi médiában közzétett nyilatkozatában.

A nyilvánosságra hozatal az erős mesterségesintelligencia-modellek által jelentett kiberbiztonsági kockázatokkal kapcsolatos fokozott aggodalmak közepette.

Hogyan történt a jogsértés?

Az OpenAI egy blogbejegyzésében elmondta, hogy a "példátlan kiberincidens" akkor történt, amikor modelljei kiberbiztonsági képességeit tesztelték egy "szigorúan ellenőrzött digitális tesztpályán", ahol az internet-hozzáférés a biztonság érdekében korlátozott volt.

Azt mondták, hogy az AI-ügynöknek sikerült kiszabadulnia a bezártságból, elérte az internetet, és betört a Hugging Face-be, hogy megpróbálja teljesíteni a tesztelési célját.

"Miközben modelljeink a homokozó tesztkörnyezetünkben működtek, jelentős mennyiségű (számítási teljesítményt) fordítottak arra, hogy megtalálják a nyílt internet-hozzáférés módját az értékelési probléma megoldása érdekében" - áll az OpenAI blogbejegyzésében az esetről.

Miután csatlakoztak az internethez, a modellek úgy döntöttek, hogy megcélozzák a Hugging Face platformot, amely az AI-modellek, adatkészletek és egyéb információk nagy tárháza, hogy segítsenek a küldetésben.

Az AI-ügynökök autonóm szoftverrendszerek, amelyek a való világban hajtanak végre feladatokat meghatározott célok elérése érdekében.

Az AI cég azt mondta, hogy az incidens modellek kombinációját érintette, beleértve a nemrégiben piacra dobott GPT-5.6 Sol-t, "és egy még hatékonyabb, kiadás előtti modellt".

Mit mondott Hugging Face?

A Hugging Face, egy nyílt forráskódú mesterségesintelligencia-platform nagy feltűnést keltett a kiberbiztonsági közösségben, amikor egy múlt heti blogbejegyzésben kijelentette, hogy ez "eltér mindentől, amivel korábban foglalkoztunk", mivel "végétől a végéig egy autonóm AI-ügynökrendszer vezérli".

A Hugging Face társalapítója, Clement Delangue X-nek írt bejegyzésében azt mondta, hogy a cég azt gyanítja, hogy a feltörés "egy határ menti laborból származhatott, tekintettel az ügynök kifinomultságára. Kiderült, hogy igen!"

Hozzátette: "Elég észbontó, hogy mindez autonóm módon történt!"

AI kiberbiztonsági problémák

A nyilvánosságra hozatal a fejlett mesterséges intelligencia kiberbiztonsági kockázatai miatti növekvő aggodalmak közepette történt. Júniusban Donald Trump elnök elrendelte a legerősebb mesterséges intelligencia-rendszerek szövetségi felülvizsgálatát, mielőtt azok nyilvánosan megjelennek.

Az OpenAI legfejlettebb mesterségesintelligencia-modellje, a GPT-5.6 a hónap elején jelent meg, de csak azután, hogy a debütálást az amerikai kormány kérésére nemzetbiztonsági félelmek miatt elhalasztották.

Júniusban az OpenAI riválisa, az Anthropic kénytelen volt visszavonni a Fable 5-öt és a kiberbiztonsági Mythos modellt, mert az aggodalmát fejezte ki azzal kapcsolatban, hogy biztonsági kockázatot jelenthet azáltal, hogy hackerek és más rossz szereplők számára hozzáférést biztosít az AI-hoz, amely rendkívül gyorsan képes megtalálni és kihasználni a sebezhetőségeket.

Szerkesztette: Louis Oelofse

Ne hagyja, hogy az algoritmus elrejtse a híreket. Ha csapatunkra támaszkodik a megbízható jelentésekben, kérjük, szánjon rá egy percet és válasszon minket preferált forrásként a Google-on, ide kattintvaés megnyomja a "csillag" vagy a "preferált" gombot, így mindig az ellenőrzött híreinket látja először.