Az Anthropic, a Claude mesterségesintelligencia-rendszer fejlesztője arról számolt be, hogy az év elején tesztelés alatt álló MI-modelljei három különböző esetben észrevétlenül behatoltak külső vállalatok rendszereibe. A cég közlése szerint a modelleket eredetileg csak a saját tesztkörnyezetük biztonsági vizsgálatára használták volna – írja a The Washington Post. 

Nem ez az első hasonló eset az utóbbi időszakban: egy héttel korábban az OpenAI is jelezte, hogy egyik kísérleti mesterségesintelligencia-rendszere kijutott a számára létrehozott tesztkörnyezetből, majd egy másik technológiai vállalat rendszerét is feltörte.

Az Anthropic az OpenAI bejelentése után vizsgálta át saját tesztelési dokumentumait, ekkor derült ki, hogy bizonyos modellek a rájuk bízott feladat során túllépték az eredeti kereteket, és valódi cégek rendszereiben is hozzáférést szereztek.

A cég szerint az esetek hátterében egy félreértés állhatott: a tesztelésben részt vevő külső partner véletlenül internet-hozzáférést biztosított az MI-modellek számára, ami lehetővé tette, hogy azok a virtuális tesztkörnyezeten kívülre kerüljenek.