Az egik legfontosabb mesterségesintelligencia-fejlesztőnek számító cég vezetőjének álláspontja illeszkedik az elmúlt hetekben egyre erősödő, a vezető vállalatok által is osztott nézetekkel, melyek szerint erősebb szabályozásra lenne szükség ahhoz, hogy az AI biztonságosan működjön.

Jack Clark, az Anthropic hét alapítójának egyike a BBC-nek nyilatkozva kijelentette, hogy a legtöbb AI-laboratóriumnak már van valamilyen módszere a rendszerei leállítására, ám

a jogalkotóknak törvényben kellene előírniuk egy ilyen vészleállító alkalmazását.

Clark szerint az eszköz ellenőrizhetőségét egy külső, független félnek kellene biztosítania, és ennek a mesterséges intelligencia szabályozásáról szóló párbeszéd szerves részét kell képeznie. A szakember úgy fogalmazott, óriási kockázatokat vállal az iparág, hozzátéve, hogy a mesterséges intelligencia teljes szabályozatlansága kifejezetten rossz ötlet.

Az Anthropic vezérigazgatója, Dario Amodei a múlt héten közzétett esszéjében az AI-fejlesztés ütemének lassítását és szorosabb felügyeletét szorgalmazta, ugyanakkor kiemelte, hogy mindennek a kereskedelmi előnyök feláldozása nélkül kellene megtörténnie. A vállalat körül egyre intenzívebbé válik a vita a biztonsági kérdésekről, miután a múlt héten vírusszerűen terjedt el egy távozó kutatójuk bejegyzése, aki az emberiség kipusztulásától való félelmében mondott fel. Válaszul az Anthropic egyik tudósa, Evan Hubinger úgy nyilatkozott, szerinte tíz százaléknál is nagyobb az esélye annak, hogy a mesterséges intelligencia az emberiség kihalását okozza a következő évtizedben. Geoffrey Hinton Nobel-díjas számítógéptudós, az AI keresztapja ezt a becslést reálisnak nevezte.

Nem mindenki osztja azonban ezeket az aggodalmakat. Clement Delangue, a Hugging Face fejlesztői platform vezetője szerint a kihalási kockázatokról szóló figyelmeztetéseket érdemes a helyükön kezelni. George Arison, a Grindr vezérigazgatója pedig egyenesen azt állította, hogy a fejlesztőcégek csupán a saját üzleti érdekeik alátámasztására használják a félelemkeltést. Arison szerint a csillagászati cégértékeléseket – az Anthropic értékét 965 milliárd, az OpenAI-ét pedig 852 milliárd dollárra becsülik – csak úgy lehet igazolni, ha a vállalatok azt ígérik, hogy minden iparágat és munkahelyet átvesznek.

Az Egyesült Államokban a törvényhozók már benyújtották az úgynevezett Kill Switch Act törvényjavaslatot, amely kötelezővé tenné a vészleállítási funkciót, és jogot adna egyes kormányzati szerveknek az AI-eszközök leállítására vagy korlátozására. Donald Trump elnök viszont élesen elutasította az AI-fejlesztések fékezésére irányuló törekvéseket: a közösségi médiában átverésnek nevezte az AI jelentette fenyegetést, és a globális felmelegedéssel kapcsolatos félelmekhez hasonlította azt.

A címlapkép mesterséges intelligenciával készült. Forrás: Portfolio

Ennek a cikknek az előkészítésében AI-asszisztens működött közre, a végleges tartalmat újságírónk szerkesztette és ellenőrizte.