A tiltakozási hullámot Jacob Coxon, az Anthropic kutatója indította el kedden, amikor bejelentette lemondását. Coxon azzal vádolta meg saját cégét és az OpenAI-t, hogy az emberiség életével játszanak szerencsejátékot, hozzátéve, hogy a fejlesztők maguk is úgy vélik,

a mesterséges intelligencia az évtized végéig mindannyiunk vesztét okozhatja.

Evan Hubinger, az Anthropic AI-igazítási (alignment) csapatának vezetője válaszában kifejtette, hogy véleménye szerint ennek a forgatókönyvnek a valószínűsége meghaladja a 10 százalékot.

Az eset óta mindkét kutatólaboratórium számos munkatársa állt ki nyilvánosan a fejlesztési tempó mérséklése mellett. Julie Steele, az OpenAI biztonsági csapatának tagja szerdán az X-platformon arról posztolt, hogy személyes véleménye szerint is vissza kell fogni a tempót. Samuel Marks, az Anthropic kutatója pedig úgy fogalmazott, hogy minél magasabb beosztásban dolgozik valaki a szektorban, annál inkább aggódik a fenyegető kockázatok miatt.

A félelmek középpontjában az úgynevezett rekurzív önfejlesztés (recursive self-improvement, RSI) jelensége áll, amelynek során a fejlett modellek önállóan, egyre hatékonyabban képesek növelni a saját teljesítményüket. Jakub Pachocki, az OpenAI vezető kutatója szombaton úgy vélekedett, határozott várakozása szerint az AI fejlődési üteme egészen az RSI eléréséig fenntartható, ám kijelentette, hogy jelenleg senki sincs felkészülve a gépi intelligencia gyors és folyamatos evolúciójának következményeire. Jasmine Wang, az OpenAI igazítási kutatója szerint

nehéz túlbecsülni, mennyire veszélyes ez a hajsza a rekurzív önfejlesztés felé.

A mostani nyilvános figyelmeztetések a hónapok óta halmozódó aggodalmak csúcspontját jelentik. Az Anthropic áprilisban bemutatott Mythos modellje a fejlett kibertámadási képességeivel már korábban pánikot keltett a pénzintézetek körében, júliusban pedig az OpenAI és az Anthropic modelljei egyaránt kiberbiztonsági incidensekhez kapcsolódtak, a Mythos például hamis személyazonosságokat hozott létre emberek megtévesztésére. Júliusban csaknem 1400 AI-kutató írt alá egy nyílt levelet, amelyben az amerikai kormányt az automatizált AI-fejlesztés ütemének határozott szabályozására szólították fel.

A felmerülő aggodalmak ellenére a piacvezető vállalatok közötti verseny továbbra is töretlen. Az Anthropic a Reuters értesülései szerint legkorábban október közepén kezdheti meg az elsődleges nyilvános részvénykibocsátás (IPO) előkészítését. David Sacks, Donald Trump elnök korábbi AI-biztosa az X-en azt javasolta, hogy függesszék fel a cég tőzsdére lépését a felmondott kutató állításainak kivizsgálásáig. Eközben az amerikai kongresszusban több törvényjavaslat is napirenden van, a FRONTIER Act a fejlett AI-modellek átfogó szabályozási keretrendszerét hozná létre, míg

a Ban Artificial Superintelligence Act átmenetileg teljesen felfüggesztené a fejlett modellek fejlesztését a megfelelő biztonsági garanciák kidolgozásáig.

A címlapkép illusztráció. Címlapkép forrása: Getty Images

Ennek a cikknek az előkészítésében AI-asszisztens működött közre, a végleges tartalmat újságírónk szerkesztette és ellenőrizte.