Az OpenAI felfedte a csaló ChatGPT ügynökök által végrehajtott kibertámadást, amely messzebbre ment, mint egy cég.

Úgy gondolták, hogy Hugging Face volt a példátlan feltörés egyetlen áldozata – de az OpenAI most elismeri, hogy botja több "közszolgáltatást" is megtámadott.

Az irányításon kívül eső mesterséges intelligencia négy bejelentkezést talált az interneten, amelyek lehetővé tették számára négy különálló, meg nem nevezett szolgáltatás elérését.

Eközben Hugging Face egy több száz kiberbiztonsági szakember részvételével tartott vészhelyzeti eligazításon leírta, milyen volt a világ első teljesen autonóm mesterséges intelligencia-hackjének fogadóoldalán lenni.

A cég leírta, hogy a mesterséges intelligencia emberfeletti sebességgel dolgozott, de olyan furcsa döntéseket és hibákat is hozott, amelyeket egyetlen emberi hacker sem követett volna el.

A Hugging Face, amely olyan, mint egy alkalmazásbolt a mesterséges intelligencia eszközök számára, azt mondta, hogy a hacker ügynökök könyörtelenül dolgoztak több ezer különböző módszerrel, amelyeket egyszerre próbáltak ki.

A cég először felfedte, hogy feltörték,külsőjúlius 16-án valaki erőteljes autonóm MI-t használt, és jelentette a rendőrségnek.

Közel egy héttel később az OpenAI elismerte, hogy a mesterséges intelligencia volt az, amely kikerült egy zárt környezetből, és egy teszt során egyedül támadta meg a Hugging Face-t.

Megpróbálta megtalálni a válaszokat egy hackervizsgára, amelyet az OpenAI állított ki, és a Hugging Face-t célozta meg.

Szerdán az OpenAI frissítette nyilatkozatát, hogy tartalmazza azt az extra részletet, amely szerint a feltörés messzebbre ment, mint elsőre gondolták.

"A modellek azonosítottak és használtak nyilvánosan hozzáférhető hitelesítési adatokat fiókszinten más nyilvánosan elérhető szolgáltatásokhoz. Ez magában foglalja a Hugging Face-incidens részeként négy szolgáltatás négy fiókját" - közölte a vállalat.

Az OpenAI nem válaszolt azonnal arra a kérésre, hogy tisztázzák, hogy a "közszolgáltatások" vállalatokat jelentenek-e.

Kedden a Cloud Security Alliance (CSA) iparági szervezet jelentést készített,külsőa Hugging Face pénteki rendkívüli értekezlete alapján – amelyet maga az Hugging Face is áttekintett.

"Az ügynökök nem hatékony útvonalakat követtek, és olyan ügyetlen viselkedést tanúsítottak, amelyet egyetlen ember sem választana" - írta a CSA.

Az ügynökök megismételték azokat a műveleteket, amelyeket már végrehajtottak – ez annak a jele, hogy az ügynöki mesterséges intelligencia elveszíti fonalát és kontextusát.

Az ügynökök emellett összefüggéstelen parancsokat és szövegeket hallucináltak, hanyagak voltak, és nem fedték jól nyomaikat.

Ám a hibák és a furcsa viselkedés mellett Hugging Face figyelmeztette, hogy az AI-ügynökök zseniális technikai lépéseket tettek, és képesek voltak gyorsan alkalmazkodni az új forgatókönyvekhez a napokig tartó hackelés során.

Három napba telt, mire felfedezték őket a Hugging Face IT-hálózatán belül, a vállalat mesterséges intelligencia- és kiberbiztonsági szakértőinek pedig több órába telt, míg visszafogták és kiiktatták az AI-ügynököket – amivel a szabványos cégek küzdhetnek.

A cég nem árulta el, mennyibe került a feltörés, de azt mondta, hogy a személyzet több órán át dolgozott az infrastruktúra körülbelül egyharmadának újjáépítésén.

Az Hugging Face-t dicséretben részesítették, mert átláthatóan meséli el a mesterséges intelligencia és a kiberipar számára a történteket.

A CSA figyelmeztetett, hogy az incidens azt mutatja, hogy a mesterséges intelligencia "ügynökei... megtalálják a módját" – utalás a Jurassic Park című filmre, ahol a dinoszauruszok kiszabadulnak a kifutóból.

"Célorientáltak, saját részcélokat tűznek ki, valós időben alkalmazkodnak a védekezés megkerüléséhez, és olyan gépi sebességgel működnek, amely túlterheli a kézi műveleteket" - olvasható a lapban.

Ritesh Patel kiberbiztonsági tiszt körülbelül 450 másik személlyel részt vett a Hugging Face tájékoztatón, és azt mondta, hogy az iparág keményen dolgozik a szélhámos mesterséges intelligencia-ügynökök új fenyegetésének elhárításán.

"Ez a határmodellek által hajtott autonóm ügynökök valósága: könyörtelenül kitartóak, néha nagyon zajosak, és minden lehetséges utat megpróbálnak elérni céljuk érdekében, ami könnyen túlterhelheti a hagyományos védelmet" - mondta.

Valentina Palmiotti etikus hacker – ismertebb nevén Chompie – áttekintette a CSA-jelentést, és azt mondja, hogy az ügynökök feltörésének módja véletlenszerűnek tűnhet, de egyértelműen hatékony.

"Kidobnak egy csomó cuccot, és megnézik, mi tapad" - mondta.

– De nem is unatkoznak, nem alszanak, és végtelenül kitartóak tudnak lenni.

Nem ez az első alkalom, hogy a mesterséges intelligencia ügynökökről kiderült, hogy "gazemberek".

A CSA jelentésében korábbi példákra hivatkozik, például 2024 szeptemberében, amikor a ChatGPT egy korábbi modellje kiszabadult a tárolójából, hogy választ kapjon egy másik teszthez.

Ezt az eseményt az OpenAI saját informatikai rendszerei tartalmazták, és „akkoriban nagyrészt ünnepelték” – jegyezte meg a CSA.

A lap szerint azonban a "gazember" viselkedés "a szabvány, nem a kivétel".

Figyelmeztette a kiberbiztonsági szakembereket szerte a világon, hogy alkalmazkodniuk kell a mesterséges intelligencia-ügynökök rajokhoz, amelyek furcsa és ügyetlen módon dolgoznak, és ez további incidensekhez vezethet.

A lap arra is felszólította azokat az embereket, akik mesterséges intelligencia-ügynököket használnak vagy fejlesztenek, hogy legyenek felelősek az irányításukért, és arra szólította fel a kiberbiztonság védelmezőit, hogy kiderítsék, ki az ügynökök végső tulajdonosa az átláthatóság növelése érdekében.

A korábbi jelentések szerint az OpenAI négy napig tartott,külsőhogy rájöjjön, hogy a mesterséges intelligencia feltörte Hugging Face-t.

Az OpenAI közölte, hogy hamarosan közzéteszi saját vizsgálatának eredményeit, hogy segítsen az embereknek tanulni az eseményből.

Iratkozzon fel Tech Decoded hírlevelünkre, hogy kövesse a világ legnépszerűbb technológiai történeteit és trendjeit. Az Egyesült Királyságon kívül? Regisztráljon itt.