Évek óta próbálják különböző biztonsági intézkedésekkel kordában tartani a mesterséges intelligencia területén működő cégek a saját csevegőrobotjaikat, hogy nehogy bárkinek segítsenek biológiai fegyvert készíteni. Mostanra már olyan szintre emelkedett a modellek teljesítménye és tudása, hogy egyre nagyobb kihívás kordában tartani őket. A The Wall Street Journal szerint a Cisco kutatóinak mindössze öt üzenetváltásra volt szükségük ahhoz, hogy kijátsszák az OpenAI ChatGPT-jének, az Anthropic Claude-jának és a Google Geminijének biztonsági korlátozásait. A kutatók fokozatosan a modellek korlátai köré terelve a beszélgetéseket, potenciálisan veszélyes válaszokat tudtak kicsikarni. 

A mesterséges intelligencia védelmi rendszere kitartó munkával megkerülhető

Amy Chang, a Cisco mesterségesintelligencia-fenyegetésekkel és biztonsági kutatásokkal foglalkozó vezetője a Journalnak elmondta, hogy egyetlen AI-modell sem védhető meg teljesen egy kellően kitartó felhasználótól. A probléma túlmutat azon is, hogy a biztonsági kutatók szándékosan terheléses teszteknek vetik alá ezeket a rendszereket. A Journal beszámolója szerint több száz felhasználó kezdte el mérgekről és biológiai fegyverekről kérdezni a ChatGPT-t, miután az OpenAI tavaly nyáron bővítette a képességeit. Biológiai és védelmi szakértők később állítólag úgy ítélték meg, hogy 

 Erre reagálva az OpenAI letiltotta a érintett fiókokat.

Az OpenAI-nál 2024-re a belső tesztek kimutatták, hogy hosszabb kérdésekkel rá lehet venni a ChatGPT-t, hogy egyre veszélyesebb biológiai  adjon. Egy évre rá már attól tartottak a szakemberek a Digital Trends beszámolója szerint, hogy a modell olyan szintre juthat, hogy egy viszonylag kevés biológiai tudással rendelkező felhasználónak is érdemi segítséget tud nyújtani. A GPT-5 megjelenésekor az OpenAI biológiai és kémiai területen magas kockázatú képességekkel rendelkező modellként kezelte a rendszert, ezért további védelmi intézkedéseket vezetett be. A vállalat ugyanakkor azt közölte, hogy nincs meggyőző bizonyíték arra, hogy a GPT-5 egy kevés tapasztalattal rendelkező felhasználónak is lehetővé tenné súlyos biológiai károk előidézését. A legfrissebb GPT-5.6 modellcsalád is ugyanezt a besorolást kapta a biológiai és kémiai kockázatok tekintetében.