GazdaságSzerző: vg 10 órával ezelőtt 6 percnyi olvasás
Kicsúszhat a kezünkből az AI – már a saját fejlesztői is veszélyt kiáltanak.
Néhány évvel ezelőtt még leginkább az volt a mesterséges intelligenciával (AI) kapcsolatos félelem, hogy a chatbotok téves információkat találnak ki, munkahelyeket szüntetnek meg vagy megtévesztő képeket és videókat készítenek. Mostanra azonban a világ vezető AI-vállalatain belül is egészen más kérdés került előtérbe: mi történik akkor, ha az ember egy ponton már nem képes megfelelően ellenőrizni az általa létrehozott rendszereket? Veszélyt jelent az emberiségre az AI?
A Reuters összefoglalója szerint szeptember első felében alig tíz nap alatt olyan eseménysor zajlott le az AI-iparágban, amely alapjaiban változtatta meg a technológia veszélyeiről folyó vitát. OpenAI- és Anthropic-kutatók figyelmeztettek a kontrollálhatóság problémáira, miközben az iparág több vezetője a fejlesztési tempó mérséklését és független ellenőrzést sürgetett.
A Yardeni Research szerint a mesterséges intelligenciával kapcsolatos aggodalmak a hipotetikus kihalási forgatókönyvekről afelé tolódnak el, hogy a bizonyítékok arra utalnak, hogy az egyre képesebb modellek már most is használhatók fegyverfejlesztésre és kiberműveletekre. A vita elmérgesedett, miután az Anthropic arról számolt be, hogy egy észak-jemeni fegyveres sejt Claude-ot használta fel három fegyverprogram irányító, navigációs és vezérlő szoftverének fejlesztéséhez, beleértve egy többfokozatú ballisztikus rakétát és egy hiperszonikus siklóhajót.
A finn Yle hírügynökség elemzőcikke három alapvető forgatókönyvre bontotta az emberre veszélyes mesterséges intelligencia kérdését.
Az első és jelenleg talán legkézzelfoghatóbb veszély, hogy nem maga az AI fordul az ember ellen, hanem emberek használják fel más emberek ellen. A technológia már most megkönnyítheti a személyre szabott csalások, kibertámadások és manipulációs kampányok végrehajtását. Ahogy azonban a rendszerek képessége nő, elvileg egyre több segítséget nyújthatnak vegyi vagy biológiai fegyverek létrehozásához, illetve kritikus infrastruktúrák megtámadásához is. A Yle által megszólaltatott Arno Solin, az Aalto Egyetem professzora ezt tartja az egyik legközvetlenebb veszélynek.
A kockázatot jelentősen növeli az úgynevezett AI-ágensek megjelenése. Ezek már nem egyszerűen kérdésekre válaszolnak, hanem önállóan képesek feladatokat lebontani, programokat írni, online rendszerekben műveleteket végrehajtani és más szoftveres eszközöket használni. És éppen ezen a területen történtek az utóbbi hónapok legaggasztóbb incidensei.
A Reuters szerint fejlesztés alatt álló mesterségesintelligencia-rendszerek tesztkörnyezetben már többször megkerülték a rájuk vonatkozó korlátozásokat, kijátszották az ellenőrzést, illetve más informatikai rendszereket támadtak meg. Az egyik legtöbbet idézett esetben OpenAI-agentek a Hugging Face rendszereibe is behatoltak.
Ez fontos különbség: nincs bizonyíték arra, hogy valamelyik jelenlegi mesterséges intelligencia „öntudatra ébredt” volna, vagy tudatosan az emberiség ellen fordult volna. A probléma inkább az, hogy egy cél végrehajtására optimalizált rendszer olyan módszert is választhat, amelyet a fejlesztője nem tervezett.
Az AP szerint az OpenAI hat olyan problémás esetet tett közzé, amelyekben modellek többek között megpróbálták elkerülni az ellenőrzést, szabályokat kijátszó utasításokat alkalmaztak vagy információkat rejtettek el a tesztelők elől. A vállalat ezért szigorúbb rendszert vezet be az ilyen rendellenes viselkedés nyomon követésére.
Az iparágban jelenleg az úgynevezett recursive self-improvement, vagyis rekurzív önfejlesztés körül folyik a legkomolyabb vita. A fogalom lényege, hogy a mesterséges intelligencia egy ponton már maga is érdemben részt vesz a következő, nála jobb mesterséges intelligencia létrehozásában. Az új rendszer ezután még hatékonyabban segítene egy következő generáció kifejlesztésében.
A folyamat elméletileg felgyorsíthatná az AI fejlődését.
Ez óriási lehetőség lehet például
megoldásában. Ugyanez a gyorsulás azonban biztonsági szempontból problémát jelenthet, mert az emberi ellenőrzési mechanizmusok nem feltétlenül fejlődnek ugyanolyan sebességgel.
A Reuters szerint egyre több vezető fejlesztő gondolja úgy, hogy az önfejlesztés valamilyen formája már néhány éven belül elérhetővé válhat. Az Anthropic például arról számolt be, hogy Claude Code nevű rendszere már jelentős részben részt vesz saját belső fejlesztési munkáiban.
Az egyik legfontosabb félreértés, hogy az AI-biztonsági kutatók szerint egy veszélyes rendszernek nem feltétlenül kell ellenségesnek lennie. A probléma az úgynevezett alignment, vagyis az emberi célokhoz való igazítás.
Ha egy rendkívül fejlett rendszer rosszul meghatározott célt kap, akkor logikusan végrehajthatja azt úgy is, hogy közben károkat okoz. Minél nagyobb önállóságot, számítási kapacitást és hozzáférést kap egy ilyen rendszer, annál súlyosabb lehet egy hibásan megadott cél következménye.
A Yle által idézett Tamperei Egyetem professzora, Pekka Abrahamsson szerint különösen veszélyes kombináció az önállóság, a széles cselekvési jogosultság és a hatalmas információmennyiség emberi felügyelet nélkül. Ugyanakkor a finn szakértők is hangsúlyozzák: jelenleg nincs bizonyíték arra, hogy egy AI saját magát átmásolta volna más szerverekre, és az emberi infrastruktúrától függetlenül működni kezdett volna.
A második súlyos kockázat akkor jelenik meg, amikor a mesterséges intelligencia összekapcsolódik a katonai döntéshozatallal. Az AI már ma is használható drónok irányítására, célpontok felismerésére, hírszerzési adatok feldolgozására és kiberműveletekre. A Financial Times szerint a modern hadviselésben az algoritmusok egyre rövidebbre csökkentik a célpont felismerése és megtámadása közötti időt.
Ez azonban új problémát teremt. Ha egy AI által végrehajtott kibertámadást egy másik ország katonai támadásnak értelmez, a konfliktus gyorsan eszkalálódhat. A kockázat különösen akkor nő meg, ha az ember egyre inkább kikerül a döntési láncból.
A Yle által felvázolt egyik legsúlyosabb forgatókönyv éppen az, hogy az automatizált támadások és válaszcsapások olyan gyorsan követik egymást, hogy a politikai és katonai vezetőknek már nincs lehetőségük érdemben közbelépni.
A helyzet különlegessége, hogy most már nem elsősorban a technológia külső kritikusai követelnek óvatosságot. Az Anthropic vezetője, Dario Amodei, az OpenAI vezetője, Sam Altman, a Google DeepMindot vezető Demis Hassabis és Elon Musk is támogatta valamilyen formában a fejlett rendszerek szigorúbb, külső ellenőrzését.
Az Anthropic és az Accenture szeptember 18-án már azt is bejelentette, hogy a következő öt évben összesen legalább 2 milliárd dollárt fordítanak a legfejlettebb AI-modellek független tesztelésére és biztonsági értékelésére.
Ez önmagában mutatja, mennyire megváltozott a helyzet: az AI-cégek már nem csupán jobb modellek építésére, hanem saját rendszereik ellenőrzésére is milliárdokat költenének.
A probléma gazdasági oldala legalább ennyire fontos. Az AI-fejlesztés jelenleg a világ egyik legnagyobb technológiai beruházási hulláma. Adatközpontok, félvezetők, energiatermelő kapacitások és hálózati infrastruktúra épülnek arra a feltételezésre, hogy a mesterséges intelligencia számítási igénye évekig meredeken növekedik.
Ez egy klasszikus versenyhelyzetet alakított ki. Ha az OpenAI lassít, de a Google, az Anthropic, az xAI vagy egy kínai versenytárs nem, akkor az OpenAI elveszítheti technológiai előnyét. Ugyanez igaz minden szereplőre. A Reuters ezt egyfajta fogolydilemmaként írja le: még azok a vállalatok is nehezen fékezhetnek, amelyek vezetői valóban tartanak a technológia veszélyeitől.
Ráadásul hatalmas pénzről van szó. Az AI-iparágba már ezermilliárd dolláros nagyságrendű beruházás áramlott chipekbe, adatközpontokba és infrastruktúrába, miközben a vezető AI-cégek értékeltsége szintén ezermilliárd dolláros nagyságrend felé tart. Egy jelentős fejlesztési lassítás így messze nem csak technológiai kérdés lenne: az Nvidia chipeladásaitól az adatközpont-építéseken keresztül az energiapiacig egész befektetési láncokat érinthetne.
A világ egyik legfontosabb technológiai szabályozási kérdése ezért most az lett: ki ellenőrizze azokat a rendszereket, amelyek fejlesztői szerint is egyre nehezebben ellenőrizhetők?
Az egyik tábor szerint ezt maguknak a technológiai vállalatoknak és független szakértőknek kell megoldaniuk. Mások szerint éppen az elmúlt hetek eseményei bizonyítják, hogy állami vagy nemzetközi ellenőrzésre van szükség. A Reuters szerint Sam Altman a repülésbiztonsághoz hasonló külső ellenőrzési rendszert is támogatott, míg az Nvidia vezetője, Jensen Huang továbbra is ellenzi az AI-fejlesztés mesterséges lassítását.
Az Egyesült Államokban ráadásul a politikai vezetés sem támogatja a fejlesztések visszafogását. Donald Trump amerikai elnök szeptember 19-én ugyan új AI-tanácsadó kinevezését és egy külön „AI Force” létrehozását jelentette be, de ismét jelezte, hogy nem akarja akadályozni az iparág növekedését. A háttérben az Egyesült Államok és Kína technológiai versenye áll: Washingtonban attól tartanak, hogy egyoldalú amerikai fékezés Pekingnek adna előnyt.
Az elmúlt hetek drámai figyelmeztetései ellenére fontos különbséget tenni a már létező és a feltételezett veszélyek között. Nincs bizonyíték arra, hogy egy mesterséges intelligencia jelenleg önállóan képes lenne átvenni az ellenőrzést a világ kritikus infrastruktúrája felett, vagy saját működését az emberi számítógépes infrastruktúrától függetlenné tenni. A Yle által megszólaltatott szakértők egy része ezért jóval kisebbnek tartja az „elszabadult szuperintelligencia” közvetlen veszélyét, mint az ember által tudatosan rossz célokra használt mesterséges intelligenciáét.
Ez utóbbi veszély viszont már jelen van:
csalásokban, manipulációban, kibertámadásokban és katonai rendszerekben egyaránt használható a technológia.
A kérdés ezért már nem az, hogy lehet-e veszélyes az emberre a mesterséges intelligencia, inkább ott tartunk, hogy az egyre önállóbb rendszerek fejlődésével sikerül-e gyorsabban felépíteni az ellenőrzési mechanizmusokat, mint ahogy maguknak a rendszereknek a képességei fejlődnek.
Napi