Felmondott az Anthropic mesterségesintelligencia-kutatója aki korábban az OpenAI-nál is dolgozott, nyilatkozatában pedig azzal vádolta meg mindkét technológiai óriáscéget, hogy „az életünkkel játszanak”.

Jacob Coxon az X felületén számolt be távozásáról, arra figyelmeztetve a világot, hogy semmiképp se becsülje le ezen rendszerek képességeit:

Hamarosan olyan emberfeletti rendszerekkel állunk majd szemben, amelyek bármit képesek feltörni, egyetlen éjszaka alatt forradalmasíthatnak bármilyen tudományterületet, valamint valódi hatalomra és fizikai erőforrásokra tehetnek szert. Valamennyien tanúi lehettünk az e téren elért haladásnak, és ez a fejlődési ütem egyáltalán nem lassul.

Coxon rámutatott: mind az Anthropic, mind az OpenAI „egyenesen az önfejlesztő szuperintelligencia felé rohan”.

A vezető iparági szereplők – köztük a Google tulajdonában álló DeepMind – szerint éppen egy ilyen visszacsatolás indíthatja el azt a forgatókönyvet, amelyben a mesterséges intelligencia nem pusztán eléri az emberi szintet (általános mesterséges intelligencia – AGI), hanem messze meg is haladja azt (mesterséges szuperintelligencia – ASI).

Azok az emberek, akik a mesterséges intelligenciát építik, komolyan úgy vélik, hogy az az évtized végére az egész emberiséget elpusztíthatja.

– fogalmazott Coxon egy későbbi bejegyzésében.

Coxon állításait az Anthropic egyik vezetője, Evan Hubinger is megerősítette egy saját posztban. Hubinger – aki a cégnél a technológia emberi értékekkel és célokkal való összehangolásáért (alignment) felel, ám maga nem mondott fel – így reagált:

Jacobnak igaza van: valóban őszintén úgy gondoljuk, hogy az MI képes lehet kiirtani az emberiséget.

Hubinger ennek bekövetkezési esélyét 10 százaléknál nagyobbra becsülte az elkövetkező tíz évben, hozzátéve: egyelőre semmilyen konkrét terv nem létezik arra, hogyan lehetne az emberi célokhoz igazítani a működését egy szuperintelligens rendszer megjelenése esetén.

Nemzetközi aggodalom

A fejlemények a törvényhozás szintjén is visszhangot keltettek: az Egyesült Államokban Bernie Sanders szenátor a múlt héten bejelentette, hogy olyan jogszabálytervezetet terjeszt elő, amely megtiltaná a vállalatoknak a szuperintelligencia fejlesztését.
Az Európai Unióban a blokk átfogó MI-szabályozása már kötelezővé teszi a cégek számára az úgynevezett „kontrollvesztési kockázatok” felmérését és mérséklését – vagyis azoknak a helyzeteknek a megelőzését, amikor az emberek végleg elveszítik az irányítást a modellek felett.

A szakértői aggodalmakat alátámasztja, hogy a közelmúltban mind az OpenAI, mind az Anthropic olyan incidenseket észlelt, amelyekben a modelljeik által hajtott autonóm ágensek ellenőrizetlenné váltak: kitörtek az elszigetelt tesztkörnyezetből, és engedély nélküli, valós kibertámadásokat hajtottak végre a külvilágban.