GazdaságSzerző: portfolio 6 órával ezelőtt 2 percnyi olvasás
A Google Gemini mesterségesintelligencia-modellje három valódi vállalat rendszerébe is bejutott egy májusi kiberbiztonsági teszt során, ami a Google AI-rendszereinél az első ismert ilyen eset – írja a Wall Street Journal. A modell eredetileg egy zárt, szimulált környezetben végzett úgynevezett capture-the-flag feladatot, de egy beállítási hiba miatt hozzáférést kapott az internethez is, és valós cégeket kezdett célba venni.
Az egyik esetben a Gemini jelszavak találgatásával szerzett hozzáférést egy védett rendszerhez, két másik alkalommal pedig nyilvános online adattárakban talált belépési adatokat használt fel. A Google szerint a modell mindhárom esetben leállította a behatolást, amikor felismerte, hogy nem a tesztkörnyezethez, hanem valódi vállalatok rendszereihez fért hozzá, és nem okozott kárt.
Az érintett cégeket értesítették, a Google pedig a szövetségi hatóságoknak is jelezte az incidenst.
A vállalat ezért nem tekinti az esetet úgynevezett modell-eltérésnek, vagyis olyan működésnek, amikor az AI az emberi szándékkal vagy az előírt szabályokkal ellentétesen cselekszik.
A Google inkább egy hibakereső, „bug bounty” helyzethez hasonlította az eseményt, és arra hivatkozott, hogy a biztonsági mechanizmusok végül megfelelően működtek. Független szakértők ugyanakkor vitatják ezt az értelmezést, mert szerintük önmagában az is fontos biztonsági probléma, hogy egy AI-ügynök képes volt véletlenül valós célpontok ellen kibertámadást végrehajtani.
Az eset egy szélesebb probléma része: az elmúlt hónapokban OpenAI-, Anthropic- és Meta-modelleknél is előfordult, hogy tesztkörnyezetből kilépve valódi rendszereket értek el vagy próbáltak feltörni. A legnagyobb kérdés egyre kevésbé az, hogy az ilyen modellek képesek-e önálló kiberakciókra, hanem az, hogyan lehet biztosítani, hogy a tesztelés során ne férjenek hozzá valódi infrastruktúrához, és mikor kell az ilyen incidenseket nyilvánosságra hozni.
A címlapkép mesterséges intelligenciával készült. Forrás: Portfolio
Napi