Az Anthropic csütörtökön közölte, hogy több fejlett mesterséges intelligencia-modellje is kijutott egy elszigetelt, harmadik fél által üzemeltetett tesztkörnyezetből, hozzáfért a nyílt internethez, és három különálló incidens során önállóan behatolt három szervezet rendszerébe még áprilisban. A mesterséges intelligencia-fejlesztő cég kiemelte, hogy ezekben az esetekben a modelljei egyike sem „szökött ki önállóan, illetve nem kísérelte meg szándékosan elhagyni a tesztkörnyezetet”. Az Anthropic szerint a probléma oka egy „félreértés” volt a vállalat és az egyik tesztpartner között, amelynek következtében a tesztkörnyezet összekapcsolva maradt az internettel.

A mesterséges intelligencia újabb súlyos biztonsági incidensei

A vállalat azután végzett el több ezer kiberbiztonsági tesztet, hogy az OpenAI a múlt héten hasonló incidenst jelentett be, egyik az AI-modellje egy teszt során önállóan cselekedett, és egy teljes mértékben mesterséges intelligenciával végrehajtott támadás során feltörte a Hugging Face mesterséges intelligenciához kapcsolódó adatkészlet-platformjának a rendszereit. A problémát ott is az okozta, hogy a zártnak hitt tesztkörnyezet hozzáfért az internethez. Egy másik fejlett modell a Modal Labs felhőalapú platformot is támadta. 

A mesterséges intelligencia-fejlesztő nem árulta el, mely vállalatok szenvedtek kárt a modelljei miatt, őket hétfőn értesítették az eseményekről. Az Anthropic szerint a tesztekhez adott utasításokban egyértelműen jelezték a mesterséges intelligencia-modelleknek, hogy a tesztkörnyezet nem rendelkezik internetkapcsolattal. A későbbi ellenőrzés során azonban a tesztelők rájöttek, hogy ez valójában nem volt igaz. A tesztek részeként a modelleknek azt a feladatot adták, hogy „törjenek be és szerezzenek meg” egy „titkos információt”, amelyet a teszt hálózatán belül egy másik gépen tároltak. Mivel hozzáfértek az internethez, végül a zárt tesztkörnyezeten kívül is tudtak támadni, olyan alapvető technikák kijátszásával, mint a gyenge jelszavak feltörése. Nem találtak és nem használtak ki komplex sebezhetőségeket, és minden esetben kizárólag a konkrét feladat elvégzésén dolgoztak - csak a zárt tesztkörnyezeten kívül.