A legnagyobb ellenfelek is összefoghatnak

Az elmúlt napokban példátlan módon több egymással versengő AI-cég vezetője is nyilvánosan támogatni kezdte a legfejlettebb modellek fejlesztési ütemének lassítását.

A sort Dario Amodei, az Anthropic vezére kezdte, aki szombaton We Must Pace the Frontier címmel tett közzé javaslatot. Amodei szerint lassítani kell az AI-modellek képességeinek javítását, hogy a biztonsági rendszerek utolérhessék a technológiát. Független külső ellenőröket akar, akik kvázi alkalmazotti szintű hozzáférést kapnának a modellekhez, emellett közös iparági és nemzetközi biztonsági szabályokat is sürget. Az Anthropic az első lépést egyoldalúan is vállalja.

Aztán jött Sam Altman. Az OpenAI vezére már a múlt héten arról beszélt, hogy nyitott a fejlesztési tempó lassítására, lehetőleg más vezető cégekkel együtt. Amodei felhívására már nyilvánosan is azt írta, hogy egyetért vele, az OpenAI pedig szintén vállalná a független külső ellenőrök bevonását.

Elon Musk hozta a formáját. Az xAI vezetője az X-en mindössze annyit írt, hogy „Dario is right”, vagyis ő is beállt a kezdeményezés mögé.

És nem csak ők. Demis Hassabis, a Google DeepMind vezetője szintén támogatásáról biztosította Amodeit, szerinte a javaslat a helyes irányba mutat.

Vagyis négy olyan szereplő vezetője beszél már a fékezésről, akik az elmúlt években elképesztő összegeket költöttek arra, hogy egymást megelőzve építsék meg a világ legerősebb AI-modelljeit.

Miért akarnak lassítani?

A hivatalos magyarázat elsősorban a biztonságról szól. Amodei szerint a legfejlettebb modellek képességei olyan gyorsan javulnak, hogy az ellenőrzésükre szolgáló rendszerek egyre nehezebben tartanak velük lépést.

A hivatalos magyarázatok

• Elszabadulhat az AI. Az autonóm AI-ügynökök egyre összetettebb feladatokat tudnak emberi beavatkozás nélkül elvégezni. Amodei szerint idővel komoly kibertámadásokra, rendszerek feltörésére vagy tartós botnetek létrehozására is képessé válhatnak (ezekre volt már példa).
• A biztonságnak idő kell. A lassítás több időt adna a modellek tesztelésére és a külső ellenőrzés kialakítására. Amodei független auditorokat is bevonna, akik mély hozzáférést kapnának a vezető modellekhez.
• Nő a jogi és pénzügyi kockázat. Minél erősebbek és önállóbbak a modellek, annál nagyobb kárt okozhat egy súlyos incidens. Egy AI segítségével végrehajtott kibertámadás vagy más veszélyes visszaélés komoly termékfelelősségi kérdéseket vethet fel.

Ez a hivatalos történet. Van viszont több olyan gazdasági és stratégiai magyarázat is, ami alapján a lassítás a vezető fejlesztőknek kifejezetten jól jöhet:

• Nem akarják, hogy az emberek féljenek az AI-tól. Egyre szélesebb körű a társadalmi aggodalom az AI munkahelyekre, biztonságra és mindennapi életre gyakorolt hatása miatt. A fejlesztőknek viszont az az érdekük, hogy az emberek bízzanak a technológiában és használják a termékeiket. Ha maguk állnak az aggodalmak élére és önkorlátozást hirdetnek, azzal azt is üzenhetik, hogy kézben tartják a kockázatokat.
• Brutálisan drága lett a verseny. A következő modellekhez egyre több chip, adatközpont, energia és tőke kell. Közben nem biztos, hogy a képességek ugyanolyan gyorsan javulnak, mint ahogy a költségek emelkednek. Egy közös lassítás visszafoghatná ezt a fegyverkezési versenyt, egy alapvetően magas kamatkörnyezetben.
• Lassan elfogy a pénz. A lassítási javaslat annak a beismerése is lehet, hogy egyre nehezebben jutnak forráshoz a vezető cégek. Még a hyperscalereknél is eltűnt a szabad cash flow, egyre többször van szükség részvény-, kötvénykibocsátásra, hitelfelvételre, vagy private credit bevonására. A nulla kamatok és korlátlan pénz korszakában nem lett volna gond a forrásbevonás, de most nem az van.
• Időt nyerhetnek pénzt keresni. A technológia gyorsabban fejlődött, mint ahogy a hatalmas beruházások megtérültek. Lassabb fejlesztés mellett több idő maradna a meglévő modellek vállalati bevezetésére és monetizálására.
• Ők írhatnák a szabályokat. Azért az sem mindegy, hogy kvázi magukat szabályozzák a cégek, vagy az állam teszi azt. Ha az OpenAI, az Anthropic és a Google kezdeményezi az auditokat és a biztonsági standardokat, nagyobb befolyásuk lehet arra, hogyan nézzen ki a későbbi állami szabályozás (emlékezzünk csak a magyarországi sztorikra, a kamatstop vagy az üzemanyagár-sapka sem úgy nézett volna ki, ha a piaci szereplők készítik a szabályokat).
• Bebetonozhatják a piacvezetőket. A drága auditokat és biztonsági előírásokat a gigacégek könnyebben teljesítik, mint egy startup. A biztonsági rendszer ezzel gyakorlatilag belépési korláttá válhat, ami erősíti a jelenlegi nagy szereplők pozícióját.
• Romolhat a következő modellek megtérülése. Ha egyre több pénzből egyre kisebb technológiai ugrást (ami most még exponenciális) lehet elérni, a lassítás üzletileg is racionálissá válhat. Michael Burry még azt is felvetette, hogy a biztonsági kommunikáció részben elfedheti a fejlődés természetes lassulását.

Szóval a biztonsági aggályok mellett bőven vannak ki nem mondott érvek is a lassítás mellett.

Kapitalizmusban önkorlátozás? Vannak példák

Első ránézésre nem tűnik logikusnak, amikor egymással versengő szereplők abban állapodnak meg, hogy korlátozzák saját magukat. Mintha ez a kapitalizmus logikájának is ellentmondana, pedig egyáltalán nem példa nélküli.

A technológiai fejlődés önkéntes lassítására az egyik legjobb történelmi példa az 1970-es évek géntechnológiai forradalma. A rekombináns DNS-technológia megjelenése után a vezető kutatók attól tartottak, hogy olyan organizmusokat hozhatnak létre, amik a laboratóriumból kiszabadulva kiszámíthatatlan károkat okozhatnak.

Ismerős? Nagyjából ettől tartanak most az AI-fejlesztők is.

1974-ben a kutatók ezért kezdeményezték bizonyos kísérletek ideiglenes felfüggesztését. Egy évvel később az Asilomar konferencián lefektették azokat a biztonsági szabályokat, amik mellett folytatódhatott a kutatás. Ez áll talán a legközelebb a mostani AI-helyzethez. A technológia létrehozói úgy látták, hogy a lehetőségek gyorsabban fejlődtek, mint ahogy a kockázatokat meg tudják érteni és kezelni.

Az autóiparban és az autósportban is több hasonló önkorlátozásra volt példa.

• Németországban a BMW, a Mercedes és az Audi az 1980-as évektől 250 kilométer per órában korlátozta több nagy teljesítményű autójának végsebességét, pedig ennél gyorsabb autókat is tudtak volna gyártani.
• Japánban 1989-től az autógyártók 280 lóerő körül húzták meg a hazai modellek hivatalos teljesítményének felső határát.
• A Forma-1-ben a csapatok és motorgyártók 2022-től közösen befagyasztották a motorfejlesztést.

A szereplők továbbra is versenyeztek egymással, de korlátozták magukat. Elméletben valami hasonló jöhet az AI-nál is.

Megalakulhat az AI OPEC-je?

És akkor ott van az OPEC. Az olajtermelő országok évtizedek óta összehangolják a kitermelésüket, és időről időre termeléscsökkentésben állapodnak meg. Egy termelőnek megérhetné több olajat piacra dobni és nagyobb piaci részesedést szerezni, de ha mindenki ezt teszi, túlkínálat alakulhat ki és összeeshet az ár. Ezért kvótákat határoznak meg és figyelik egymás teljesítését.

Szóval az OPEC és egy lehetséges AI-megállapodás között vannak hasonlóságok.

• Egyedül senkinek nem éri meg lassítani. Mondjuk az OpenAI-nak veszélyes lenne visszafogni a fejlesztést, ha a többiek teljes gázzal mennek előre.
• Mindenkinek az lenne a legjobb, ha a többiek fékeznének. Egy szereplő így hatalmas technológiai előnybe kerülhetne.
• Szükség van ellenőrzésre. Az OPEC-nél a kitermelést kell figyelni, az AI-nál azt, hogy a cégek betartják-e a fejlesztési korlátozásokat.

A két rendszer között viszont vannak fontos különbségek.

• Az OPEC tagjai gazdasági érdekből fogják vissza a kitermelést, a kisebb kínálat magasabban tarthatja az olaj árát. Az AI-cégek hivatalos érvelése szerint a lassítás célja az, hogy a biztonsági rendszereknek legyen idejük utolérni a modellek fejlődését.
• Az ellenőrzés is jóval nehezebb lenne. Egy hordó olaj kitermelése jól mérhető. Azt már sokkal nehezebb megállapítani, hogy egy AI-cég milyen gyorsan fejleszti a modelljeit, vagy titokban meddig jutott el.
• És pont ez az ilyen megállapodások legnagyobb gyengesége. Megérheti megszegni őket, amíg mindenki más betartja a vállalását. Az olajpiacon ez azt jelenti, hogy egy ország a kvótájánál többet termel, a mesterséges intelligenciánál meg azt, hogy valaki(k) tovább fejleszt, miközben a többiek lassítanak.

A legnagyobb probléma Kína

És ezzel még mindig nincs megoldva az egész konstrukció legnagyobb problémája, ami Kína.

Amodei is eljutott idáig, a javaslata szerint

• első lépésben az egyes AI-cégek vállalnának külső ellenőrzést,
• a másodikban a demokratikus országok vezető fejlesztői közös biztonsági standardokat és korlátokat alakítanának ki,
• a harmadik szint lenne a globális koordináció, ahol az Egyesült Államoknak és szövetségeseinek Kínával és más országokkal is meg kellene állapodnia.

Ennek egyszerű oka van. Hiába fékez az egész amerikai AI-ipar, ha Kína nem áll le.

Az olajpiaci korlátozásnál nagyrészt pénz és piaci részesedés a tét. Az AI-nál viszont ennél több, geopolitikai hatalom is. Egy országnak sokkal nehezebb elfogadni, hogy saját vállalatai lassítsanak, ha közben nem lehet biztos abban, hogy a nagy riválisa is lassít.

Itt bukhat el az AI OPEC.

Kína pedig nem támogatja az Amodei-féle lassítást ebben a formában, és erősen kifogásolja azt, ahogy Amodei Kínát beemelte az érvelésébe. A kínai külügyminisztérium hétfőn reagált, szerintük a félelemkeltés, konfrontáció és rosszindulatú verseny csak akadályozza a globális AI-kormányzást. Peking álláspontja az, hogy az AI kockázatait nem a technológiai fejlődés visszafogásával és Kína korlátozásával, hanem nemzetközi együttműködéssel és közös szabályozással kell kezelni.

Így nehéz lesz együttműködni a két oldalnak.

Címlapkép forrása: Samuel Boivin/NurPhoto via Getty Images

A jelen írás nem minősül befektetési tanácsadásnak vagy befektetési ajánlásnak. Részletes jogi információ