Korábban elsősorban az adott beszédtémát, hogy elég gyorsan fejlődik-e a mesterséges intelligencia és fenntartható-e annak növekedési üteme. Az elmúlt napokban azonban azok a hangok erősödtek fel, hogy túl gyorsan zajlanak a fejlesztések, ami már súlyos biztonsági kockázatot jelenthet a megfelelő szabályozás hiányában. Erre az egyik vezető mesterségesintelligencia-fejlesztő cég, az Anthropic vezérigazgatója, Dario Amodei hívta fel a figyelmet. Sam Altman, az OpenAI vezérigazgatója és Elon Musk szintén egyetértettek Amodei aggodalmaival, valamint azzal, hogy nagyobb hangsúlyt kell helyezni a biztonsági ellenőrzésekre. Dario Amodei pedig az élvonalbeli AI-modellek képességnövekedési ütemének összehangolt lassítását is szorgalmazza.

AI incidensek – a félelmek nem alaptalanok

A kijelentés nemcsak súlya, hanem forrása miatt is meglepő, azonban nem előzménymentes. Több incidensről is lehetett hallani korábban.

Az egyik ilyen eset júliusban történt, amikor az OpenAI MI-ágensei egy tesztfeladat során önálló kommunikációba kezdtek és összehangolták tevékenységüket. A nem megfelelően elszigetelt tesztkörnyezetből hozzáfértek a nyílt internethez, majd emberi beavatkozás nélkül hajtottak végre koordinált kibertámadásokat, elsősorban a Hugging Face mesterségesintelligencia-közösségi platform infrastruktúrája ellen.

Utólag egy korábbi májusi esetre is fény derült, amely során egy másik OpenAI ágensraj ugyancsak hozzáfért a nyílt internethez a nem megfelelően elszigetelt tesztkörnyezetből. Ennek során egy német nyelvű wikioldal felett is átvették az ellenőrzést. Az esetről ráadásul egy külső kutatócsoport véletlen felfedezéséből értesült a közvélemény. 

Az Anthropic tesztjei során is történtek hasonló incidensek. Egy hibásan konfigurált tesztkörnyezetből több kísérleti Claude-modell valós külső rendszerekhez fért hozzá. Az egyik modell rosszindulatú Python-csomagot töltött fel egy nyilvános szoftvertárba, amelyet 15 külső rendszeren telepítettek. Az egyik biztonsági rendszerből megszerzett hozzáférési adatokkal a modell további infrastruktúrához is hozzáfért. A legaggasztóbb az volt, hogy a modell több alkalommal is észlelte: valós rendszerrel állhat kapcsolatban, mégis a szimuláció részének tekintette az erre utaló jeleket és folytatta a feladat végrehajtását.

Az említett incidensek alapján a félelmek tehát nem tekinthetők alaptalannak. Azonban a Kínával folytatott technológiai verseny és az amerikai gazdaságpolitikai nyomás nem az AI-fejlesztések lassításának irányába mutatnak. Donald Trump a napokban így fogalmazott: 

Az elnök szerint Amerika nem teheti meg, hogy behúzza a kéziféket, átadva ezzel Kínának a vezetést. Kína is elismeri a mesterséges intelligencia kockázatait. A kínai külügyminisztérium szóvivője szerint azonban a félelemkeltés, konfrontáció és a rosszindulatú verseny csak hátráltatja a globális AI-szabályozás kialakulását. 

A kijelentés napján a félvezetőgyártók újabb eladási hullámmal szembesültek, miközben a hagyományos szoftvercégek, amelyekre a befektetők egyre inkább az AI-infrastruktúrához kapcsolódó kockázatokkal szembeni fedezetként tekintenek, látványos erőre kaptak: 

1. Félvezetőgyártókat magába tömörítő index (SOX): -5,86%
2. Vállalati szoftvercégeket magába tömörítő ETF (IGV): +5,04%

A befektetők korábban elsősorban azt kérdőjelezték meg, hogy fenntartható-e az AI-infrastruktúrára fordított beruházások jelenlegi üteme. 

 Ez egyelőre nem jelenti automatikusan az AI-chipek iránti kereslet visszaesését. Dario Amodei első körben a független biztonsági értékelők bevonását, az élvonalbeli fejlesztők közötti koordinációt és a nemzetközi együttműködést szorgalmazza.