Amodei egy hárompontos tervet vázolt fel, amely szerinte úgy fékezné a fejlesztés tempóját, hogy közben nem veszélyeztetné sem a piaci versenyelőnyt, sem az Egyesült Államok vezető pozícióját a mesterséges intelligencia terén. Első lépésként az Anthropic egyoldalúan vállalta, hogy külső értékelők számára alkalmazotti szintű hozzáférést biztosít a biztonsági gyakorlatok ellenőrzéséhez és az incidensek jelentéséhez. A második lépés a demokratikus országok vezető MI-vállalatainak közös biztonsági szabványok kialakítására irányuló együttműködését szorgalmazza, míg a harmadik a demokratikus és az autoriter kormányok közötti koordinációt célozza.

A vasárnapi CBS-interjúban Amodei elismerte, hogy javaslatának "legkeményebb dilemmája" az, mi történik, ha a rivális hatalmak – mindenekelőtt Kína – nem csatlakoznak a lassításhoz.

Nagyon nehéz lesz, mert az előnyszerzés ösztönzői és az ebből fakadó katonai előnyök rendkívül nagyok. Őszintén szólva nem tudom, hogy lehetséges-e, de meg kell próbálnunk

– mondta.

Az esszé az iparág számára kritikus időszakban jelent meg, hiszen az MI-cégek a közvélemény és a washingtoni szabályozási nyomás kereszttüzében állnak, miközben az Anthropic és az OpenAI is potenciálisan történelmi méretű tőzsdei bevezetésre készül.

Sam Altman, az OpenAI vezérigazgatója szombaton jelezte, hogy cége idén valószínűleg nem lép tőzsdére, részben biztonsági aggályok miatt. Altman egyúttal támogatásáról biztosította Amodei javaslatát, és X-bejegyzésében úgy fogalmazott, egyetért azzal, hogy "tempót kell szabni az élvonalnak". A kezdeményezés előzménye, hogy az elmúlt hetekben iparági kutatók drámai figyelmeztetéseket fogalmaztak meg a technológia kockázatairól; az Anthropic egyik kutatója, Jacob Coxon lemondott, mondván, a cég és az OpenAI "az életünkkel játszik".

A Google DeepMind elnöke, Demis Hassabis szintén pozitívan reagált, mondván, az írás "a helyes irányba mutat", még ha a részleteket ki is kell dolgozni. Elon Musk, aki korábban éles kritikusa volt az Anthropicnak, a SpaceX és az Anthropic közötti, havi 1,25 milliárd dolláros kapacitásbérleti megállapodás megkötése óta enyhített a hangnemén, és támogatásáról biztosította a versenytársak közötti biztonsági felülvizsgálat ötletét. A Meta MI-részlegét vezető Alexandr Wang közvetlenül nem reagált az esszére, de jelezte, hogy a Meta Superintelligence Labs egyre nagyobb erőforrásokat fordít az úgynevezett alignmentre, vagyis az MI-rendszerek emberi értékekhez való igazítására.

David Sacks, a Trump-adminisztráció korábbi MI- és kriptovaluta-biztosa szkeptikusabb hangot ütött meg. Szerinte ha az OpenAI és az Anthropic valóban úgy véli, hogy modelljei elég veszélyesek a lassításhoz, akkor

egyszerűen tegyék meg, de ne állítsák be úgy, mintha bárki más engedélyére lenne szükségük.

Sacks rámutatott, hogy mindkét cég számára már puszta üzleti érdek is a felelős fejlesztés, mivel hatalmas termékfelelősségi kockázattal néznének szembe, ha rendszereik például súlyos kibertámadásokat segítenének elő. "Adjátok fel a nyers teljesítmény egy részét a megbízhatóságért – ez egyszerűen jó üzlet" – írta, hozzátéve, hogy a saját szabályozási keretrendszerük kikényszerítése politikai zsarolásnak tűnne.

A címlapkép mesterséges intelligenciával készült. Forrás: Portfolio

A jelen írás nem minősül befektetési tanácsadásnak vagy befektetési ajánlásnak. Részletes jogi információ

Ennek a cikknek az előkészítésében AI-asszisztens működött közre, a végleges tartalmat újságírónk szerkesztette és ellenőrizte.