Donald Trump elutasította azokat a figyelmeztetéseket, amelyek szerint a mesterséges intelligencia fejlődése idővel olyan rendszerek létrejöttéhez vezethet, amelyek veszélyt jelentenek az emberiségre. Az amerikai elnök csütörtökön Dallasból történő távozásakor újságírói kérdésre azt mondta,

nem tart attól, hogy az AI az emberiség kihalását okozhatja.

Trump szerint az Egyesült Államok számára jelenleg sokkal fontosabb kérdés, hogy megőrizze vezető pozícióját a Kínával zajló technológiai versenyben. Az elnök úgy látja, hogy Amerika jelenleg jelentős előnyben van Kínával szemben az AI fejlesztésében. Ezt az előnyt egy évre becsülte, ami szerinte ezen a gyorsan fejlődő területen már jelentős különbségnek számít.

Az AI biztonságáról szóló vita az elmúlt napokban új lendületet kapott az Egyesült Államokban. Jacob Coxon kutató távozott az Anthropic cégtől, majd nyilvánosan arra szólította fel az iparágban dolgozókat, hogy gondolják át, milyen technológia létrehozásában vesznek részt.

Coxon saját közlése szerint az elmúlt három évben az Anthropicnál és az OpenAI-nál is dolgozott. A kutató azzal vádolta a két vállalatot, hogy felelőtlenül fejleszt olyan egyre fejlettebb AI-rendszereket, amelyek idővel saját képességeik javítására is alkalmassá válhatnak.

Coxon szerint az ilyen rendszerek rövid időn belül emberfeletti képességeket érhetnek el, képesek lehetnek informatikai rendszerek feltörésére, teljes tudományterületek gyors átalakítására, valamint valós gazdasági és egyéb erőforrások megszerzésére. A kutató azt állította, hogy az AI fejlesztésében részt vevő szakemberek között is vannak olyanok, akik

reális lehetőségnek tartják, hogy a technológia még az évtized vége előtt súlyos egzisztenciális veszélyt jelentsen az emberiség számára.

Az Anthropic egyik jelenlegi munkatársa, Evan Hubinger szintén komolyan veszi ezt a kockázatot. Hubinger az X-en azt írta, személyes becslése szerint 10 százaléknál nagyobb annak az esélye, hogy a következő évtizedben ilyen veszélyhelyzet alakuljon ki.

Az aggodalmakat az AI-iparág vezető szereplői sem söprik teljesen félre. Sam Altman, az OpenAI vezérigazgatója a héten arról beszélt a vállalat dolgozóinak, hogy a cég fontolóra veheti a legfejlettebb AI-modellek fejlesztési ütemének lassítását. A Bloomberg értesülése szerint Altman abban bízik, hogy egy ilyen lépéshez más AI-vállalatok is csatlakoznának.

A vita mögött egyre élesebb dilemma rajzolódik ki. Az AI-cégeknek és az amerikai döntéshozóknak egyszerre kell kezelniük a gyors technológiai fejlődésből eredő kockázatokat és a Kínával zajló stratégiai versenyt. Egyoldalú lassítás esetén fennáll annak veszélye, hogy az Egyesült Államok elveszíti technológiai előnyének egy részét, miközben a fejlesztések korlátozásának hívei attól tartanak, hogy ellenőrzés nélkül egyre nehezebben kezelhető rendszerek jöhetnek létre.

Címlapkép forrása: Andrew Harnik/Getty Images