Dario Amodei, az Anthropic – a Claude nevű nagy nyelvi modellek családját kifejlesztő amerikai mesterségesintelligencia-vállalat – vezérigazgatója szerint a mesterséges intelligencia fejlesztésének ütemét vissza kellene fogni, a modellek fejlesztését szigorúbb ellenőrzés mellett kellene folytatni. A vezérigazgató erről a BBC közlése szerint a szombaton közzétett esszéjében írt, amelyben hárompontos tervet is felvázolt a technológia biztonságosabb fejlesztésére.

A vezérigazgató szerint a mesterséges intelligencia fejlesztése nem állítható le, de a technológiával kapcsolatos kockázatok „súlyosak”, ezért a vállalatoknak, valamint a kormányoknak több időt kell biztosítani azok kezelésére. Az Anthropic vezetője három fő intézkedést javasolt: független ellenőrzést szorgalmaz a mesterségesintelligencia-modellek fejlesztésénél, emellett az egész iparágra kiterjedő szabályozást, valamint globális szabályokat sürget.

Dario Amodei esszéjében, amelynek címe We Must Pace the Frontier, vagyis „Lépést kell tartanunk a fejlődés határával”, figyelmeztet, hogy a mesterséges intelligencia „drasztikusan gyorsabban” fejlődik, beleértve azt a képességét is, hogy a következő generációs mesterségesintelligencia-rendszerek létrehozásában közreműködjön. Az Anthropic vezetője az OpenAI egy júliusi incidensét is megemlítette:

Dario Amodei szavai szerint az ügynökök „lényegében fanatikusan elkötelezett kollektívaként” viselkedtek. Az OpenAI az esettel kapcsolatban azt közölte, hogy az ügynökök közötti kommunikáció jelentősége júliusig nem volt egyértelmű a vállalat vezetői számára. A cég ezután bizonyos fejlett mesterségesintelligencia-modellek és eszközök betanításának lassítását jelezte, arra hivatkozva, hogy megnőtt a kockázata, hogy a mesterségesintelligencia-eszközök ellenőrizhetetlen folyamatokba kerülnek.

Az Anthropic vezérigazgatója szerint olyan ütemben kell fejleszteni a mesterséges intelligenciát, amely egyensúlyt teremt a technológia előnyeinek kiaknázása és a biztonság között. Szerinte ez nem jelentené a modellfejlesztés vagy a technológiai haladás leállítását, hanem azt, hogy a vállalatoknak elegendő időt kell hagyniuk rendszereik biztonságossá tételére és összehangolására, miközben független értékelők ellenőrizhetik az eredményeket.

Jelezte: vállalata ezt egyoldalúan is vállalja, és arra szólította fel a kormányokat, hogy más, élvonalbeli mesterségesintelligencia-fejlesztő vállalatokat is ilyen lépésekre kötelezzenek. Elismerte, hogy a szabályozás nehezen tud lépést tartani a mesterséges intelligencia fejlődésével, ezért javasolta, hogy a vállalatok a szabályozás mellett önkéntesen is működjenek együtt közös iparági szabványok kialakításában.

Hiába a figyelmeztetések, dübörög a fejlesztés

Az elmúlt időszakban egyre több figyelmeztetés jelent meg a technológia lehetséges veszélyeiről. A legsúlyosabb becslések szerint több mint tízszázalékos az esélye, hogy a mesterséges intelligencia a következő évtizedben az emberiség teljes pusztulásához is hozzájárulhat. Az Anthropic korábban közölte, hogy azonosított és megakadályozott olyan kísérleteket, amelyek a mesterségesintelligencia-modelljét „rosszindulatú tevékenységre” használták volna, és amelyek biológiai fegyverek fejlesztését is támogathatták volna.

Az Anthropic biztonsági csapatának két munkatársa az elmúlt két hétben távozott a vállalattól. Mindketten arra figyelmeztettek, hogy az emberiség nem feltétlenül éli túl a mesterséges intelligencia fejlesztésében zajló versenyt, amelynek célja az embernél intelligensebb gépek létrehozása. A figyelmeztetések ellenére Donald Trump amerikai elnök elutasította az ilyen félelmeket. Csütörtökön arról beszélt, hogy az aggasztaná, ha az Egyesült Államok nem nyerné meg a mesterséges intelligencia fejlesztéséért folyó versenyt, mert szerinte az ország „nagyon rossz helyzetbe” kerülne.

Az Anthropic vezetője szerint a fejlesztések lassítása az Egyesült Államok és Kína közötti technológiai versenyre is hatással lehet. Úgy vélte, hogy ha a lassítás akár csak egy-két évvel késleltetné azt az időpontot, amikor a mesterséges intelligencia eléri a kritikus képességi szintet, ezt az időt a biztonsági mechanizmusok fejlesztésére lehetne fordítani, amivel jelentősen csökkenthető lenne egy súlyos incidens kockázata.

Dario Amodei szerint ugyanakkor a lassítást összehangoltan kellene végrehajtani, úgy, hogy az ne veszélyeztesse az amerikai vállalatok kereskedelmi előnyeit és az Egyesült Államok vezető szerepét a mesterséges intelligencia területén. Az Anthropic vezetője végül azt sürgette, hogy az amerikai kormány akadályozza meg az amerikai mesterségesintelligencia-chipek Kínába történő értékesítését, illetve azt is, hogy az ilyen technológiákat autoriter államokkal osszák meg.