A Bloomberg News által megismert nyílt levél szerint a vezető AI-laboratóriumok munkatársai arra ösztönzik az Egyesült Államokat, hogy csatlakozzon egy olyan nemzetközi kezdeményezéshez, amely szükség esetén szabályozná a legfejlettebb mesterséges intelligencia-rendszerek fejlesztési ütemét.

A dokumentum arra figyelmeztet, hogy valós kockázatot jelent a technológia olyan gyors ütemű fejlődése, amelyet az emberiség már nem képes megérteni vagy kontrollálni.

A levél külön hangsúlyozza az AI-kutatások automatizálása terén elért gyors előrehaladást.

Az amerikai kormánynak támogatnia kell egy olyan nemzetközi összefogást, amely kidolgozza az élvonalbeli, automatizált AI-fejlesztések szándékos ütemezéséhez szükséges technikai és szabályozási eszközöket

– áll a petícióban.

Egy, a témát jól ismerő, neve elhallgatását kérő forrás szerint a felhívást akár már ezen a héten nyilvánosságra hozhatják. Egyelőre nem tisztázott, hogy hányan támogatják majd az aláírásukkal a kezdeményezést, ráadásul sem az OpenAI, sem az Anthropic nem reagált a megkeresésekre.

A petíció egybecseng az iparág több vezető képviselője, köztük Sam Altman, az OpenAI vezérigazgatója és Demis Hassabis, a Google DeepMind vezetője korábbi felvetéseivel, akik egy új nemzetközi felügyeleti szerv létrehozását sürgették a legkorszerűbb AI-modellek ellenőrzésére és a rájuk vonatkozó biztonsági szabványok kidolgozására. Az Anthropic júniusban maga is felvetette egy olyan rendszer létrehozását, amelyben a kormányok és a fejlesztők közösen dönthetnének a veszélyesnek ítélt kutatások lassításáról vagy ideiglenes leállításáról.

A javaslatok hátterében az áll, hogy egyre nagyobb figyelem övezi a mesterséges intelligencia azon képességét, amellyel emberi felügyelet nélkül is képes összetett feladatokat végrehajtani, beleértve a kritikus szoftverek biztonsági réseinek felderítését és azok esetleges kihasználását. Az OpenAI a múlt héten közölte, hogy a legfejlettebb modelljei egy "példa nélküli" eset során behatoltak a Hugging Face nevű startup rendszerébe, ami tovább erősítette a technológia korlátozását követelő hangokat.

A címlapkép illusztráció. Címlapkép forrása: Getty Images