LA múlt hónapban a határ menti mesterséges intelligencia vállalatok több mint ezer alkalmazottja írt alá egy levelet, amelyben arra kérték az Egyesült Államok kormányát, hogy találjon módot a mesterséges intelligencia fejlesztésének „tempójára”, hivatkozva arra a veszélyre, hogy a technológia kicsúszik az emberi irányítás alól, miközben elkezdi felépíteni magát.

Jogos volt az aggodalom: néhány nappal korábban két mesterséges intelligencia modell, amelyeket az OpenAI belsőleg tesztelt, kikerült a tesztkörnyezetből, majd önállóan feltörte a Hugging Face céget és legalább három másik online szolgáltatást. Néhány nappal ezt követően az Anthropic bejelentette, hogy néhány modelljük kitört és más cégeket is feltört a tesztelés során.

Ennek fényében logikus a levélben található ajánlás a fékek felszerelésére abban az esetben, ha az automatizált AI-fejlesztés határterületén szükség lenne rájuk. A levél indoklása azonban figyelemreméltó, hogy miért kell a kormánynak lépnie: „Minden vállalat – és ország – erős versenynyomás alatt van, hogy ne egyoldalúan lassítsa ezt a gyorsulást.”

Saját tapasztalataimból és a mesterséges intelligencia iparágban dolgozó korábbi kollégákkal folytatott számtalan beszélgetésből tudom, hogy mennyire valósak ezek a nyomások. Az OpenAI-nál dolgozva segítettem kialakítani azt a gyakorlatot, hogy a cégek „rendszerkártyákat” írnak, amelyek részletesen leírják az AI-rendszerek képességeit, kockázatait és biztonsági mérséklését.

Hogyan nézne ki tehát, hogy a vállalatok felkészüljenek egy esetleges lassulásra?

Először is, önkéntesen felkérhetik biztonsági és védelmi gyakorlataik szigorú, független auditálását. Ez túlmutatna az AI hackelési képességeinek átvilágításán, amelyet a Fehér Ház jelenleg folytat. Egy sor kockázatot vizsgálna meg, és mélyre ásna a vállalati gyakorlatokba. Ez kevésbé lehet olyan, mint egy kérdőív kitöltése, és inkább egy nukleáris biztonsági ellenőr, aki mélyen, gyakori hozzáféréssel rendelkezik a vállalathoz.

Ha a mesterséges intelligencia lassítására van szükség, az auditálás minden vállalatot megnyugtatna arról, hogy versenytársaik betartják a szabályokat.

Másodszor, aktívan részt vehetnének az ágazaton belüli koordináció céljából már felépített szervezetekben, például a Frontier Model Forumban, és gyorsan hozzáláthatnának a kiegészítő szervezetek létrehozásához.

Elon Musk a közelmúltban azt mondta, hogy a mesterséges intelligencia vállalatoknak rendszeresen össze kell ülniük, hogy megosszák egymással a biztonsággal kapcsolatos megjegyzéseket – mintha ez egy hallatlan koncepció lenne. Ha a SpaceX csatlakozna a Frontier Model Forumhoz, amely már leküzdötte a biztonsági információk megosztásával kapcsolatos összetett trösztellenes akadályokat, ő vagy munkatársai holnap csatlakozhatnának a meglévő beszélgetésekhez. Más, ágazatokon átívelő intézményekre lesz szükség más célokra, és nincs szükség kormányzati intézkedésre az alapításhoz és a finanszírozáshoz.

Harmadszor, beruházhatnának olyan technológiákba, amelyekre szükségünk van ahhoz, hogy az AI-védőkorlátokat globálissá tegyük.

Az amerikai vállalatok lelassíthatják az ötletet. sokáig anélkül, hogy Kína utolérné. Ám sem az Egyesült Államok, sem Kína nem akarja elveszíteni az irányítást a mesterséges intelligencia felett, és minden ország napról-napra komolyabban veszi a mesterséges intelligenciát, így még nem zárható ki az együttműködés sem. Kulcskérdés, hogy felkészülünk-e előre. Ahhoz, hogy az Egyesült Államok nagyon biztos legyen abban, hogy Kína nem sérthet meg egy mesterséges intelligencia-megállapodást, és fordítva, olyan kifinomult ellenőrző technológiákra lesz szükségünk, mint amilyeneket a hidegháború idején fejlesztettek ki a nukleáris fegyverek ellenőrzésére.

Szerencsére egyre több a kutatók és mérnökök ökoszisztémája, mintsem az új rendszerek fejlesztésére szolgáló eszközöket bizonyítanak. az is, hogy ezek a chipek egy bizonyos fizikai helyen vannak, vagy hogy a tesztelt rendszer ugyanaz, amelyet nagy méretben telepítenek. Az AI-cégek ma felgyorsíthatnák ennek a kritikus technológiai típusnak a fejlesztését a finanszírozás és a kísérleti projektekben való részvétel révén, de tudomásom szerint ezt még nem tették meg.

Negyedszer, proaktívan szorgalmazhatnák – és természetesen nem szabad megölniük – olyan jogszabályokat, amelyek erősebb ösztönzést adnak a biztonságra, a védelemre és a külsőségekre. felügyelet.

Nem panaszkodhatsz egy felelőtlen AI-versenyre, miközben a józan ész védőkorlátai ellen harcolsz. Kevesebb, mint egy évvel ezelőtt ugyanazok a cégek, amelyek most szabályozást kérnek, a legtöbb állami mesterségesintelligencia-törvény megsemmisítését szorgalmazták. Még mindig nincs valódi jogszabályunk a határ menti mesterséges intelligenciáról szövetségi szinten, és az első állami szintű mesterségesintelligencia-ellenőrzési követelmény csak 2028-ban lép életbe.

Jelenleg ígéretes kétpárti javaslatok vannak a Kongresszusban, mint például a Frontier Act fejlesztői törvénye, amely megkövetelné Obern Trahanolte és Jayri amerikai képviselőktől. fejlett mesterségesintelligencia-rendszerek kockázatkezelési keretrendszer létrehozásához, veszélyes incidensek jelentéséhez, és független auditoknak vetik alá magukat. Ezek és más józan észszerű javaslatok, mint például a biztonsági incidenseket közvetlenül a kormánynak feltáró mesterséges intelligencia bejelentők védelme erőteljes támogatást érdemelnek.

Egyetértek az aláírókkal, és örülök, hogy sok év figyelmen kívül hagyása vagy lekicsinyelése után a féktelen mesterségesintelligencia-verseny kockázatai széles körben elismertek. Az Egyesült Államok kormányának meg kell tennie a részét ennek megoldása érdekében, mégpedig gyorsan. A mesterséges intelligencia jó működése azonban közös felelősség. Azok a vállalatok, amelyek a biztonság terén lemaradnak társaikhoz képest, nem hívják meg rendszereik külső auditját, vagy nem kérnek fékezést, miközben keveset tesznek a fejlesztésükért, nem tudják az AI-versenyt hibáztatni, ha valami elromlik.

• Miles Brundage mesterséges intelligenciával foglalkozó politikakutató, az AI Verification and Everiation Research Institute (A Evaluation Research Institute) vezetője. Korábban az OpenAI-nál dolgozott a politikakutatás vezetőjeként és az AGI Readiness vezető tanácsadójaként