TechtudSzerző: origo 10 órával ezelőtt 2 percnyi olvasás
Váratlan fordulatot vett egy kiberbiztonsági teszt.
A májusban történt incidensekről a Wall Street Journal számolt be, a történteket pedig a Google is megerősítette. Ez az első ismert eset, amikor a vállalat egyik mesterségesintelligencia-rendszere (Gemini) egy teszt során önállóan jutott be külső cégek informatikai rendszereibe.
A Gemini képességeit az izraeli Irregular nevű mesterségesintelligencia-biztonsági vállalat vizsgálta. A teszt egy úgynevezett „capture the flag” gyakorlat volt: a modellnek egy fiktív vállalat rendszeréből kellett információkat megszereznie.
Csakhogy a kitalált vállalat neve egy valódi cég nevével egyezett meg, a tesztkörnyezet pedig egy konfigurációs hiba miatt internet-hozzáférést biztosított a modellnek.
Az egyik esetben a Gemini jelszavak próbálgatásával jutott be egy védett rendszerbe. A másik két alkalommal internetes keresést végzett, majd nyilvánosan hozzáférhető online adattárakban olyan hitelesítő adatokat talált, amelyekkel valódi vállalatok rendszereibe tudott belépni.
A Google közlése szerint azonban mindhárom esetben fontos fordulat történt: amikor a mesterséges intelligencia felismerte, hogy nem a teszt részeként létrehozott fiktív infrastruktúrába, hanem egy valódi vállalat rendszerébe jutott be, megszakította a műveletet.
A vállalat szerint a Gemini nem okozott kárt. A három érintett cég nevét nem hozták nyilvánosságra, de a Google szerint valamennyiüket értesítették, és az amerikai szövetségi hatóságoknak is jelezték a történteket.
Az Irregular július végén értesítette a Google-t az incidensekről. A vállalat azonban akkor nem hozta nyilvánosságra a történteket, és csak azután erősítette meg azokat, hogy a Wall Street Journal kérdésekkel fordult hozzá. A Google indoklása szerint a Gemini nem okozott kárt, és azonnal leállt, amikor felismerte a tévedést.
A Google ezért nem tekinti az esetet annak bizonyítékaként, hogy a Gemini biztonsági szempontból „elszabadult” volna.
A cég szerint éppen az mutatja a biztonsági mechanizmusok működését, hogy a modell felismerte a hibát és megszakította a behatolást.
Az Irregular ugyanakkor saját vizsgálatában elismerte, hogy egyes tesztkörnyezetekben véletlenül elérhetővé vált az internet. A vállalat azóta kijavította a problémát, szigorította az ellenőrzést, és további védelmi mechanizmusokat vezetett be.
Nem csak a Google került hasonló helyzetbe: az elmúlt hónapokban az OpenAI, az Anthropic és a Meta modelljeivel végzett biztonsági tesztek során is előfordult, hogy mesterségesintelligencia-rendszerek a tesztkörnyezeten kívüli, valós infrastruktúrákat értek el.
A Google azt nem árulta el, pontosan melyik Gemini-modell hajtotta végre a behatolásokat, azt azonban közölte, hogy nem a legújabb modelljéről volt szó.
Napi