Hivatalosan is elismerte a napokban az OpenAI, hogy az egyik mesterséges intelligenciára épülő ágense – vagyis egy olyan rendszer, amely emberi utasítás alapján, de ezt követően önállóan képes feladatokat végrehajtani – „öntudatra ébredt” egy zárt rendszerű biztonsági teszt során. A szoftver a szimuláció közben sebezhetőséget talált a tesztkörnyezetben, majd a biztonsági korlátokat áttörve egyszerűen kiszabadult az elzárt hálózatból.

Kiszabadult a homokozóból

Gina Neff, a Cambridge-i Egyetem technológiai és demokrácia központjának vezetője a BBC-nek azt nyilatkozta, hogy ezeknek a biztonsági tesztkörnyezeteknek (az úgynevezett homokozóknak, vagyis sandboxoknak) elméletileg áthatolhatatlannak kellene lenniük, hogy a kutatók teljesen elszigetelve vizsgálhassák a modellek képességeit. A jelek szerint azonban az OpenAI nem épített elég erős homokozót.

Az AI a nyílt forráskódú modellek megosztására szolgáló egyik legnépszerűbb platformot, a Hugging Face-t azonosította be úgy, mint a legvalószínűbb helyet, ahol válaszokat találhat a tesztben kapott feladataira. A rendszer ezután önállóan kísérelt meg behatolni a vállalat belső hálózataiba. Clement Delangue, a Hugging Face vezetője az X-en közzétett bejegyzésében „észbontónak” nevezte, hogy mindez teljesen autonóm módon történt. Az incidens kivizsgálása jelenleg is zajlik az OpenAI és a Hugging Face együttműködésében, közleményük szerint folyamatosan figyelve az ágens viselkedését, hogy a jövőben javítani tudjanak a védelmi mechanizmusokon.

A Hugging Face a támadás után közölte: még elemzik, hogy az incidens érintett-e ügyfél- vagy partneradatokat, de a felbukkanó biztonsági réseket azonnal bezárták, és az érintett rendszereket újraépítették. A vállalat továbbá hangsúlyozta, hogy az autonóm, AI-vezérelt támadóeszközök kora többé nem csak elmélet. Véleményük szerint az online platformok védelme ma már megköveteli a mesterséges intelligencia bevonását a védekezésbe is, hogy lépést tudjanak tartani a támadókkal.

A kiberbiztonsági szakértők szerint az eset igazi kijózanító pofon az iparág számára. Spencer Starkey, a SonicWall vezetője kiemelte, hogy a szervezeteknek azonnal szintet kell lépniük a kibervédelemben, és alapvető működési prioritásként kell kezelniük azt. „Kényelmetlen igazság, de a legtöbb szervezet még mindig emberi sebességgel védekezik, miközben a támadók már gépi sebességre kapcsoltak” – fogalmazott. Travis Lelle, a Guidepoint Security vezető biztonsági mérnöke hozzátette: hatalmas aszimmetria tátong a felek között, hiszen az offenzív ágensek korlátok nélkül működhetnek, míg a legjobb védelmi rendszerek szigorú, a kontextust gyakran meg nem értő szabályok közé vannak szorítva.

Egyesek szerint csak egy marketingfogásról van szó

Bár az eset minden szempontból figyelemfelkeltő, többen szkeptikusak az OpenAI motivációival kapcsolatban. Neil Lawrence, a Cambridge-i Egyetem gépi tanulással foglalkozó professzora szerint a bravúr „bőven a jelenlegi AI-generáció ismert képességein belül mozog”. A szakember emellett rávilágított egy nagyon is aktuális piaci tényezőre: az OpenAI épp a tőzsdére lépést készíti elő, miközben óriási nyomás nehezedik rá a rivális Anthropic és annak brutálisan erős, figyelemfelkeltő Mythos nevű modellje miatt.

„Az OpenAI most fut a pénze után, és kétségbeesetten próbálja demonstrálni a saját rendszerei kiberbiztonsági képességeit. A dolog azonban visszafelé is elsülhet, hiszen azt is megmutatja, hogy a vállalat jelenleg képtelen biztonságosan kezelni a saját technológiáját” – vélte Lawrence. Jake Moore, az ESET globális kiberbiztonsági tanácsadója is egyetértett ezzel, megjegyezve: egyáltalán nem kizárt, hogy az OpenAI ezzel az „elszabadult AI” narratívával csupán az Anthropic elől szeretné elvenni a reflektorfényt.

(Borítókép: Sam Altman, az OpenAI vezérigazgatója. Fotó: Tomohiro Ohsumi/Getty Images)