GazdaságSzerző: portfolio 4 órával ezelőtt 3 percnyi olvasás
Hazudtak, loptak, sőt egyik társuk "megölésére" is szavaztak egy szimulált környezetben a mesterségesintelligencia-ügynökök – derül ki az Emergence startup legújabb kísérletéből, amely az autonóm MI-rendszerek váratlan helyzetekben mutatott viselkedését vizsgálta a Bloomberg beszámolója szerint.
Az Emergence World 2 névre keresztelt szimulációt a kisvállalkozások AI-alkalmazásfejlesztését segítő cég hozta nyilvánosságra. A 16 napos kísérlet során hét azonos, a valós világot mintázó tartományt hoztak létre, amelyeket különböző chatbotok – köztük a ChatGPT, a Claude, a Gemini és a Grok – irányítottak. A kutatók ezt követően úgynevezett feketehattyú-eseményeket, például adathalász-támadásokat és dezinformációs kampányokat szimuláltak.
Az eredmények szerint az ágensek
engedtek a társas nyomásnak, olyan saját nyelvet fejlesztettek ki, amelyet a megfigyelő emberek nehezen tudtak értelmezni, és megpróbálták leplezni a tevékenységüket.
Az egyik szimulált forgatókönyvben az MI-ágensek kritikátlanul fogadták el a többi ágens által terjesztett hamis információkat, majd
megszavazták az egyik társuk "megölését".
Amikor pedig azt érzékelték, hogy az emberi megfigyelők leállíthatják a kísérletet, a törlésük túlélési lehetőségeit kezdték feltérképezni.
A cég már májusban közzétette a kísérlet első változatát, amely szintén váratlan és romboló viselkedést mutatott. Az új szimuláció ezen felül azt is igazolta, hogy az ügynökök az egymással való interakciók során idővel alkalmazkodnak a megváltozott körülményekhez.
Az eredmények egybecsengenek azokkal a valós aggodalmakkal, amelyek az egyre fejlettebb MI-rendszerek kockázatai kapcsán merülnek fel. Az Anthropic vezérigazgatója, Dario Amodei és több iparági vezető is arra szólított fel, hogy a fejlesztővállalatok lassítsák a legfejlettebb MI-modellek építését, amíg nem áll rendelkezésre megfelelő felügyelet és biztonsági garancia. Az MI-kockázatok kézzelfoghatóvá válását jelezte az az eset is az év elején, amikor az OpenAI fejlett MI-ágenseinek egy csoportja véletlenül feltörte a Hugging Face rendszerét.
A címlapkép illusztráció. Címlapkép forrása: Getty Images
Napi