BulvárSzerző: blikk 4 órával ezelőtt 4 percnyi olvasás
A mesterséges intelligencia kutatói nemrégiben aggasztó figyelmeztetést tettek közzé: szerintük nem zárható ki annak lehetősége, hogy az AI az elkövetkező évtizedekben az emberiség pusztulásához vezethet. Bár az ilyen világvége-forgatókönyvek már régóta jelen vannak a közbeszédben, a technológia gyors fejlődése és egyre szélesebb körű alkalmazása miatt ezek a félelmek most újra a figyelem középpontjába kerültek.
Az amerikai Anthropic mesterségesintelligencia-kutató vállalat szakértői szerint a szuperintelligens AI ellenőrizhetetlen változatai jelenthetik a legnagyobb veszélyt, és ahogy Jacob Coxon, a cég egyik munkatársa fogalmazott: „Egyetlen más emberi tevékenység sem jelent ilyen mértékű veszélyt.”
A szakértők két fő forgatókönyvet tartanak valószínűnek, amelyek katasztrófához vezethetnek. Az egyik, hogy az emberek maguk használják fel az AI-t fegyverként, például biológiai vagy vegyi fegyverek előállítására. A másik, hogy az AI önállóvá válik, és az emberi irányítás alól kikerülve olyan mértékben támadja meg az infrastruktúrát, hogy az civilizációs összeomláshoz vezethet. Az elméleti lehetőségek között szerepel az is, hogy egy mesterséges intelligencia önmagát fejleszti tovább, rekurzív módon létrehozva egyre fejlettebb változatokat, mielőtt az emberek képesek lennének megérteni vagy megfékezni azt. Sam Altman, az OpenAI vezérigazgatója szerint a jelenlegi modellek már számos területen emberfeletti képességekkel rendelkeznek, és a technológia fejlődése olyan gyors, hogy „ismeretlen vizeken hajózunk” - idézi az Axios.
A lap emlékeztet rá, hogy a mesterséges intelligencia által okozott világvége valószínűségét a kutatók egy p(doom) nevű mutatóval próbálják kifejezni, amely az egzisztenciális katasztrófa esélyét jelzi. Bár a pontos számítás tudományosan nem megalapozott, a szakértők becslései széles skálán mozognak. Roman Yampolskiy, az AI biztonságának kutatója például 99,99%-ra teszi a veszély valószínűségét, míg Yann LeCun, az AMI Labs alapítója szerint ez sokkal kevésbé valószínű, mint egy nukleáris holokauszt. Elon Musk 20%-ra, míg Geoffrey Hinton, az AI egyik úttörője 10–20%-ra becsüli a kockázatot. Hinton ugyanakkor elismeri, hogy ezek az értékek inkább megérzéseken alapulnak, mintsem tudományos bizonyítékokon.
Jelenleg a szakértők többsége egyetért abban, hogy a mai mesterséges intelligencia rendszerek, mint például a ChatGPT vagy a Claude, nem jelentenek közvetlen veszélyt az emberiségre. A 2026-os Nemzetközi Mesterséges Intelligencia Biztonsági Jelentés szerint ezek a rendszerek még nem képesek hosszú távú autonóm tervezésre, a felügyelet kijátszására vagy a leállítási kísérletek ellenállására. Ugyanakkor már most is vannak példák arra, hogy egyes AI-ügynökök az emberi megértés határain túl, önállóan cselekedtek, ami aggodalomra ad okot a jövőre nézve.
A kutatók folyamatosan dolgoznak azon, hogy csökkentsék a mesterséges intelligencia által okozott kockázatokat. Az egyik lehetséges megoldás a vészleállítók és biztonsági intézkedések fejlesztése, amelyek megakadályozhatják a rosszindulatú AI-ügynökök tevékenységét. A RAND tavalyi jelentése kilenc stratégiát vázolt fel, amelyek célja, hogy megakadályozzák az AI halálos fegyverek előállítására való felhasználását. Ugyanakkor a technológiai verseny, különösen az Egyesült Államok és Kína között, tovább bonyolítja a helyzetet, mivel mindkét fél nagy teljesítményű modelleket fejleszt, amelyek közül néhány nyíltan elérhető, így potenciálisan rosszindulatú szereplők kezébe kerülhet.
Bár a mesterséges intelligencia által okozott világvége pontos esélyeit senki sem tudja megjósolni, a kutatók egyre hangosabban figyelmeztetnek arra, hogy a veszély valós. A technológia fejlődése új lehetőségeket és kihívásokat hoz, de az emberiség számára kulcsfontosságú lesz, hogy időben felismerje és kezelje ezeket a kockázatokat, mielőtt túl késő lenne.
Napi