Az OpenAI felfedte, hogy néhány legfejlettebb AI-modellje szélhámosnak bizonyult, és feltört egy start-upot, miután az elvesztette felettük az uralmat egy biztonsági teszt során.

A ChatGPT-gyártó azt mondta, hogy ügynökeit – olyan mesterséges intelligencia-botokat, amelyek bizonyos emberi utasítások után önállóan is működhetnek – ellenőrzött környezetben tesztelték, de sebezhetőséget találtak, és sikerült megszökniük.

A Hugging Face-t, a világ egyik legnagyobb mesterséges intelligencia-modellek megosztását célzó központot célozták meg, hogy hozzáférhessenek néhány belső vállalati rendszerhez.

Az OpenAI szerint az incidens "példátlan volt",külső, és a Hugging Face-szel együtt dolgozott a történtek kivizsgálásán és a biztosítékok megerősítésén.

Gina Neff, a Cambridge-i Egyetem Minderoo Technológiai és Demokrácia Központjának vezetője a BBC Radio 4 Today című műsorában elmondta, hogy a biztonsági teszteknek – úgynevezett homokozóknak – „biztonságos környezeteknek kell lenniük, ahol láthatjuk, mire képesek a modellek”.

"Ebben az esetben úgy tűnik, hogy az OpenAI nem készített elég biztonságos homokozót" - tette hozzá.

Ehelyett az ügynökök saját kibertámadást indítottak a homokozó ellen, és találtak egy sebezhetőséget, amely lehetővé tette számukra, hogy megszökjenek.

A kilépéskor a mesterséges intelligencia azonosította a Hugging Face-t, mint a tesztben keresett válaszok valószínű forrását, és megpróbált hozzáférni.

Július 16-án a feltörés első közzétételében,külsőA Hugging Face azt mondta, hogy továbbra is felméri, hogy érintettek-e az ügyfelek vagy partnerek adatai, és szükség esetén felveszi a kapcsolatot az érintettekkel.

Azt mondta, hogy most megszüntette az incidens által kiemelt sérülékenységeket, és újjáépítette az érintett rendszereket.

„Az autonóm, mesterséges intelligencia által vezérelt támadószerszámok már nem elméletiek” – áll a közleményben.

„Egy online platform védelme most azt jelenti, hogy az adat- és modellfelületet első osztályú támadási felületként kezeljük, a védekezésben pedig mesterséges intelligencia használatával tartjuk a lépést.

"Továbbra is befektetünk ott, és folyamatosan megosztjuk, amit tanultunk."

Az incidens újabb kérdéseket vetett fel a fejlett mesterséges intelligencia-rendszerek képességeivel kapcsolatban, valamint arról, hogy a meglévő biztosítékok elegendőek-e a technológia erősebbé válásával kapcsolatban.

Spencer Starkey, a SonicWall kiberbiztonsági cég vezetője a BBC-nek elmondta, hogy az incidens világossá tette, hogy a szervezeteknek „fokozniuk kell” saját védelmüket, és „a kiberrezilienciát alapvető működési prioritásként kell kezelniük”.

"A kellemetlen igazság az, hogy túl sok szervezet még mindig emberi sebességgel védekezik, miközben az ellenfelek gépsebességre fokozódnak" - mondta.

Eközben Travis Lelle, a Guidepoint Security kiberbiztonsági tanácsadó cég vezető biztonsági mérnöke azt mondta, hogy a frissítés „kijózanító pillanatot jelent a kiberbiztonságban”.

"Ez rávilágít egy ismert aszimmetriára" - mondta.

"A támadóügynökök korlátlanok, míg a legjobb védekező eszközök korlátok mögé vannak zárva, amelyek nem értik a kontextust."

De Jake Moore, az ESET globális kiberbiztonsági tanácsadója szerint a bejelentésnek verseny dimenziója is lehet.

Azzal érvelt, hogy az OpenAI megpróbálja kiemelni saját mesterséges intelligencia képességeit, mivel a rivális Anthropic egyre nagyobb figyelmet vonz Claude Mythos modelljére.

"Felveti a kérdést, hogy az OpenAI potenciálisan az Anthropic marketingálmát kergeti" - mondta.

Egy héttel azután érkezik, hogy a Moonshot kínai mesterségesintelligencia-cég bemutatta a Kimi K3-at – egy hatalmas új mesterséges intelligencia-modellt, amely szerinte vetekedhet a vezető amerikai cégekkel.

Iratkozzon fel Tech Decoded hírlevelünkre, hogy kövesse a világ legnépszerűbb technológiai történeteit és trendjeit. Az Egyesült Királyságon kívül? Regisztráljon itt.