A vezető mesterséges intelligencia-vállalatok több mint 1000 alkalmazottja írt alá kedden egy petíciót, amelyben felszólítja az Egyesült Államok kormányát, hogy tegyen lépéseket a mesterséges intelligencia fejlesztésének "szándékos ütemezésére".

HIRDETÉS

HIRDETÉS

Az aláírók között volt az Anthropic vezérigazgatója, az OpenAI kutatási vezetője, a Google mesterséges intelligencia leányvállalatának, a DeepMindnek a stratégiai vezetője és a Meta AI vezető tudósa.

A petíció felszólítja az Egyesült Államok kormányát, hogy támogassa a nemzetközi erőfeszítéseket az automatizált mesterségesintelligencia-fejlesztés határterületének tudatos ütemezéséhez szükséges technikai és irányítási eszközök kifejlesztésére.

"A világ vezető mesterséges intelligencia vállalatai úgy vélik, hogy közel járhatnak az AI-kutatás automatizálásához. Nehéz megjósolni, hogy ez mennyivel gyorsítja majd fel a mesterséges intelligencia fejlődését, de fennáll annak a veszélye, hogy a képességek fejlesztése gyorsan felgyorsul azon túl, hogy képesek vagyunk megérteni vagy irányítani a létrejövő rendszereket" - áll a petícióban.

A felhívás a közelmúltban fellépő biztonsági ijedtségre adott válasz, miután a határ menti AI modellek autonóm kibertámadást hajtottak végre, megszökve az ellenőrzött "sandbox" környezetből, ahol a tesztet el kellett volna végezni, és betörni a Hugging Face kódmegosztó platform szervereire.

Az OpenAI vezérigazgatója, Sam Altman, aki nem írta alá a petíciót, az "Invest Like the Best" podcast keddi interjújában azt mondta, hogy a mesterséges intelligencia fejlesztőinek önként kell lassítaniuk a fejlődés ütemét, hogy a társadalomnak legyen ideje alkalmazkodni.

"Ez az első olyan biztonsági incidens, amelyet nagyon zsigerileg éreztem" - mondta Altman az "Invest Like the Best" podcastban kedden, hozzátéve, hogy "kicsit meglepődött", hogy nem több embernek van hasonló reakciója.

Nem ez volt az első alkalom, hogy egy mesterséges intelligencia modell a fejlesztői irányításon kívül működött, de a legutóbbi incidenst széles körben különösen riasztónak tartották.

Elértük az AI szingularitást?

Néhány nappal korábban a Relentless podcastban adott interjúban Altman azt mondta, hogy elértük azt a pontot, ahol a mesterséges intelligencia felülmúlja az emberi intelligenciát, és gyorsabban kezd fejlődni, mint ahogy azt az emberek megjósolhatják vagy irányíthatják – ez a "szingularitás" néven ismert.

Altman arra gondolt, hogy a szingularitás egy évtizeddel ezelőtt távoli, félig tréfás témája volt a kollégák ebédidőben folytatott beszélgetéseinek, de ez most megváltozott.

Később ugyanebben a megjelenésben Altman visszaszorította az AI vezetőit, akik figyelmeztették a technológia veszélyeire, anélkül, hogy közvetlenül megnevezte volna az Anthropicot, bár Dario Amodei vezérigazgatója ismert ilyen figyelmeztetésekről.

Azt mondta, aktívan kíván szembeszállni a mesterséges intelligencia jövőjével kapcsolatos, általa "rémisztő" alternatív elképzelésekkel.