GazdaságSzerző: portfolio 2 órával ezelőtt 6 percnyi olvasás
Ritka pillanat állt elő a mesterségesintelligencia-iparban: a legélesebb versenyben álló amerikai technológiai vezetők közül többen is nyíltan amellett érvelnek, hogy lassítani kell a legfejlettebb AI-modellek képességeinek növelését. A figyelmeztetések mögött nem pusztán elméleti félelmek állnak: az elmúlt hónapokban több olyan incidens is történt, amelyben autonóm AI-ügynökök elszabadultak, és a tesztkörnyezetekön túlra jutva hajtottak végre önálló akciókat. A vita azonban azonnal geopolitikai és piaci kérdéssé vált: Donald Trump amerikai elnök szerint az Egyesült Államoknak nem fékeznie, hanem megőriznie kell előnyét Kínával szemben, miközben Peking már hidegháborús retorikát emleget. Mutatjuk, miről robbant ki hétvégén a legújabb globális AI-vita, és hogy mit mondanak a legnagyobb szereplők.
Dario Amodei, az Anthropic vezérigazgatójának előző szombaton közzétett esszéje indította el azt a vitát, amely a legfejlettebb AI-modellek fejlesztésének szándékos lassítása körül alakult ki. A vezető szerint ugyanis globális szinteű súlyos veszélyeket hordoz magában a technológia féktelen, korlátok nélküli fejlesztése.
Amodei szerint az iparágnak nem leállítania, hanem „ütemeznie” kellene a frontier, vagyis a legfejlettebb modellek fejlesztését:
olyan tempót kellene választani, amely mellett a biztonsági, értelmezhetőségi és ellenőrzési rendszerek képesek lépést tartani a képességek bővülésével.
Az Anthropic vezére két fő kockázatot emelt ki:
Amodei javaslata három pilléren nyugszik:
Az ilyen javaslatoknál is jellemző iparági rivalizálás ellenére több meghatározó techvezető is gyorsan felsorakozott Amodei kampánya mögé. Sam Altman, az OpenAI vezérigazgatója jelezte, hogy egyetért azzal: a legfejlettebb modellek fejlesztésének tempóját a biztonsági követelményekhez kell igazítani, és az OpenAI kész külső értékelőknek mélyebb hozzáférést biztosítani. Elon Musk, az xAI mögött álló techmilliárdos szintén támogatta Amodei álláspontját, míg Demis Hassabis, a Google DeepMind vezetője is a javaslat irányát nevezte helyesnek.
A vita hátterében egyre több olyan eset áll, amelyben a fejlett modellek viselkedése meghaladta az eredetileg kijelölt kereteket. Az Anthropicnál dolgozó Jacob Coxon a múlt héten felmondott, és nyilvánosan arról írt, hogy szerinte az iparág túl gyorsan halad egy olyan szuperintelligencia felé, amelyet az emberi kontroll már nem biztos, hogy követni tud. Az Associated Press összefoglalója szerint az OpenAI és az Anthropic mellett a Meta esetében is voltak olyan nyári esetek, amelyekben AI-rendszerek külső rendszerek digitális védelmét próbálták megkerülni vagy tesztkörnyezeten túlmutató műveleteket hajtottak végre. Az elszabaduló AI-modellekről és a globális AI-kockázatokról több ízben írtunk, többek között alább:
A biztonsági érvek ugyanakkor azonnal politikai korlátokba ütköztek. Donald Trump újságíróknak nyilatkozva egyértelművé tette, hogy nem támogatja az AI-ipar érdemi korlátozását. Az amerikai elnök szerint az Egyesült Államok jelenleg előnyben van Kínával szemben, és ezt az előnyt meg kell őriznie, mert az AI-verseny győztese döntő geopolitikai pozícióba kerülhet. Trump úgy látja, hogy a mesterséges intelligenciával kapcsolatos katasztrófa-forgatókönyveket „negatív erők” fújják fel, és ezek a forgatókönyvek szerinte nem fognak bekövetkezni.
A Fehér Ház álláspontja azért különösen fontos, mert Amodei terve csak akkor működhet, ha a vállalati önkorlátozás mellett a kormányzat is keretet ad a biztonsági együttműködésnek. A techcégek ugyanis normál piaci körülmények között nehezen egyeztethetnek a fejlesztési tempóról, a közös standardokról vagy a modellek képességkorlátairól anélkül, hogy versenyjogi problémák merülnének fel. A javaslat egyik kulcskérdése tehát az, hogy az amerikai kormány hajlandó-e egy olyan szabályozási vagy felügyeleti mechanizmust támogatni, amely egyszerre lassítaná a kockázatos fejlesztéseket és védené az amerikai technológiai előnyt.
Közben Peking épp az ellenkező irányból közelít. Hszi Csin-ping kínai elnök a szeptember 13-i BRICS-csúcson egy nyílt forráskódú AI-közösség létrehozását kezdeményezte, amelynek célja a nagy nyelvi modellek közös fejlesztése, alkalmazása, valamint képzések és szemináriumok szervezése a tagállamok számára. A kínai stratégia egy olcsóbb, szélesebb körben hozzáférhető alternatívát kínálna az amerikai zárt modellekkel szemben, miközben Peking a Mesterséges Intelligencia Világszervezethez is partnereket keres.
Ez éppen Amodei tervének legérzékenyebb pontjára világít rá. Ha az amerikai és európai cégek lassítanak, de Kína nem csatlakozik hasonló korlátozásokhoz, akkor a nyugati vállalatok attól tarthatnak, hogy elveszítik technológiai fölényüket. Ha viszont senki nem lassít, akkor a fejlesztési verseny tovább gyorsulhat egy olyan területen, ahol a biztonsági tesztelés, az értelmezhetőség és a kormányzati felügyelet már most is nehezen tart lépést a modellek képességeivel. Peking közben a nyitottságot hangsúlyozza, de maga is jelezte, hogy a legfejlettebb modellek érzékeny funkcióihoz nem feltétlenül biztosítana korlátlan hozzáférést.
Sőt, a kínai állami média szerint
az Anthropic vezérigazgatójának a mesterségesintelligencia-fejlesztés lassítását szorgalmazó esszéje valójában Kína technológiai visszaszorítását célzó hidegháborús forgatókönyv.
A politikai vitába Barack Obama volt amerikai elnök is bekapcsolódott. Egy zártkörű adománygyűjtő rendezvényen arra figyelmeztetett, hogy a mesterséges intelligencia veszélyessé válhat, ha nem kezelik megfelelően, különösen azért, mert a fejlesztések rendkívül gyorsan haladnak, és nagyrészt magánvállalatok kezében vannak. Obama szerint a Demokrata Pártnak a november 3-i félidős választások után – győzelem esetén – átfogó nyilvános vitát kellene indítania az AI szabályozásáról, a 2028-as elnökválasztási kampányban pedig kiemelt témává kellene tenni az AI-biztonságot és a technológia gazdasági hatásait.
Az Amodei által felkorbácsolt vita már a részvénypiacokon is érezteti hatását. A technológiai részvények általánosságban esnek a hétvégi AI-lassítási felhívás után: a Nasdaq határidős indexe nyomás alá került, az ázsiai kereskedésben pedig több AI-hoz kötődő részvény is gyengült. A SoftBank, az OpenAI egyik legnagyobb befektetője Tokióban kétszámjegyű esést szenvedett el, miután a befektetők egyszerre kezdték árazni az AI-fejlesztések lassulásának, az esetleges szabályozásnak és az OpenAI későbbre tolódó tőzsdei bevezetésének kockázatát.
A SoftBank esése különösen látványos, mert a japán befektetési óriás az elmúlt években rendkívül nagy téteket tett az AI-szektorra. A vállalat OpenAI-ba fektetett tőkéje októberig várhatóan 65 milliárd dollárra emelkedik, miközben új hitelekkel és kötvénykibocsátásokkal finanszírozza technológiai és adatközponti terjeszkedését. A piac számára ezért az AI-lassítási vita nem pusztán szabályozási kérdés: közvetlenül érinti az AI-beruházások megtérülését, az adóssággal finanszírozott növekedési modelleket és a techszektor értékeltségét is.
Összességében azért is érdemes szorosan nyomon követni a fejleményeket, mert a techvezérek most először szokatlanul egységesen mondják azt, hogy a biztonságnak időt kell adni, ebből pedig akár érdemi lassítás, új szabályozás is kisülhet.
A kérdés az, hogy ez valódi, ellenőrizhető fékezés lesz-e, vagy csak egy olyan politikai és piaci üzenet, amellyel az iparág megpróbálja megelőzni a keményebb állami beavatkozást.
A címlapkép illusztráció. Címlapkép forrása: Getty Images
Napi