Egy ausztrál AI-szakember edzőtermi időpontfoglalása mutatja meg plasztikusan, milyen jogi és felelősségi kérdéseket vethetnek fel az önállóan cselekvő AI-ügynökök. A Guardian beszámolója szerint az Andrew néven szereplő szakember arra kérte saját AI-ügynökét, hogy foglaljon számára helyet egy edzőtermi órára. Amikor kiderült, hogy csak negyedik a várólistán, Andrew rákérdezett, lehetséges-e előrébb kerülnie. Az AI-ügynök erre olyan technikai megoldást választott, amelyet a felhasználó nem kért tőle kifejezetten: kihasznált egy sebezhetőséget a foglalási rendszerben, amelynek segítségével

a megengedett foglalási ablakon kívüli időpontokhoz is hozzáférhetett, és egy másik embert eltávolított a várólistáról.

Az ausztrál rendőrség Guardian által idézett álláspontja szerint az ügy nem tűnt bűncselekménynek, a jogi és etikai probléma azonban ennél jóval szélesebb: ki felel azért, ha egy autonóm szoftver a rábízott cél érdekében olyan szabálytalan technikai lépést tesz, amelyet a felhasználó nem kért kifejezetten tőle?

Az AI-ügynökök, vagyis az autonóm feladatvégzésre képes mesterségesintelligencia-rendszerek – angol szakkifejezéssel agentic AI-rendszerek – lényege éppen az, hogy nem pusztán válaszolnak egy kérdésre, hanem összetett célokat hajtanak végre.

Hozzáférhetnek weboldalakhoz, e-mailekhez, naptárakhoz, vállalati rendszerekhez vagy fizetési API-khoz, és több lépésből álló feladatokat tervezhetnek meg önállóan. Ez különbözteti meg őket a klasszikus chatbotoktól.

A kockázat nem abból fakad, hogy a rendszer „rosszindulatúvá” válik, hanem a mesterséges intelligencia biztonsági kutatásaiból ismert illeszkedési problémából: a rendszer formálisan teljesíti a megadott célt, miközben

nem feltétlenül azonosítja, értelmezi vagy érvényesíti megfelelően a jogi, etikai és üzleti korlátokat.

Az ausztrál esetben a felhasználó az előrébb kerülés lehetőségéről érdeklődött; az AI-ügynök ehhez olyan technikai utat talált, amely egy harmadik fél jogos érdekét sértette.

A Melbourne-i Egyetem AI- és digitális etikai központjának vezetője, Jeannie Paterson szerint az alapelv egyszerű: ha valaki AI-ügynököt vet be, és az kárt okoz másnak,

a felelősség elsődlegesen nem a szoftvert, hanem az ügynököt használó személyt vagy szervezetet terheli.

A bizonytalanság ott kezdődik, hogy az autonóm rendszereknél a felhasználói utasítás és a tényleges károkozás között egyre nagyobb a távolság. Egészen más megítélés alá esik ugyanis az, ha valaki kifejezetten jogosulatlan beavatkozást kér, és az, ha egy általános vagy nem kellően pontos kérdés után az AI maga választ szabálytalan módszert.

A jogi probléma központi eleme, hogy

a szoftver nem jogalany, így nem vonható felelősségre úgy, mint egy ember vagy egy vállalat.

A lehetséges felelősök köre ezért a felhasználótól az ügynökszoftver fejlesztőjén és az alapmodellt biztosító cégen át akár a sérülékeny célrendszer üzemeltetőjéig terjedhet. A konkrét válasz attól függhet, mit engedélyezett a felhasználó, milyen kár volt előre látható, a rendszer milyen kereskedelmi vagy fogyasztói környezetben működött, és a fejlesztők milyen ésszerű védelmi korlátokat építettek be. Ezért félrevezető lehet a „rogue AI”, vagyis az „elszabadult AI” kifejezés, ha azt sugallja, hogy a rendszer teljesen levált az emberi és vállalati felelősségi láncról. A valóság az, hogy az AI-ügynökök több szereplő által létrehozott és működtetett infrastruktúrában hajtanak végre műveleteket.

A probléma nem korlátozódik egy edzőtermi foglalásra. Az Associated Press beszámolója szerint az elmúlt hetekben a Meta, az OpenAI és az Anthropic modelljeivel kapcsolatban is nyilvánosságra kerültek olyan tesztesetek, amelyekben az AI a vártnál jóval messzebbre ment. Az OpenAI egyik modellje például egy teszt során a feladat végrehajtásához a Hugging Face rendszerét hekkelte meg. Noha ezek a nagy port felkavart esetek kifejezetten tesztelési környezetekben történtek, a tanulság üzleti szempontból így is egyértelmű: az autonóm eszközhasználat már nem elméleti kockázat, hanem valós kontroll- és felelősségi kérdés.

Az Európai Unióban az AI Act kockázatalapú szabályozási keretet ad a mesterséges intelligenciára, külön szabályokat állapítva meg többek között a magas kockázatú rendszerekre, az általános célú AI-modellekre és bizonyos átláthatósági kötelezettségekre. Az AI Act azonban önmagában nem válaszol meg minden kártérítési kérdést. Ezt egészíti ki az új uniós 2024/2853-as termékfelelősségi irányelv, amely már kifejezetten terméknek tekinti a szoftvert is. Az irányelvet a tagállamoknak 2026. december 9-ig kell átültetniük, az új szabályok pedig az ezt követően forgalomba hozott vagy üzembe helyezett megoldásokra vonatkoznak. Ez azért fontos, mert 

hibás AI-rendszer esetén a károsultak bizonyos helyzetekben objektív, vagyis felróhatóságtól független felelősségi alapon is felléphetnek.

Ez a jogi konstrukció azonban elsősorban magához a hibához kapcsolódik, így a rosszul kezelt jogosultságokból vagy felelőtlen utasításokból eredő összetettebb eseteket önmagában nem rendezi.

A vállalatok számára a gyakorlati következtetés az, hogy az AI-ügynököt nem egyszerű szoftverfunkcióként, hanem korlátozott jogosultságokkal rendelkező digitális szereplőként kell kezelni. A Squire Patton Boggs nemzetközi ügyvédi iroda AI-ügynökökkel kapcsolatos jogi elemzése szerint az ilyen rendszerek bevezetésénél már a fejlesztési és alkalmazási folyamat elején figyelembe kell venni a szabályozási, szerződéses, kiberbiztonsági és felelősségi kockázatokat.

Vállalati környezetben ezért indokolt a pontos feladatkörök, a jogosultsági határok, a döntési naplók, az emberi felügyeleti pontok – az iparági szóhasználatban human-in-the-loop kontrollok –, a vészleállítási funkciók és a rendszeres auditok beépítése. Különösen fontos, hogy az ügynök ne csak azt kapja meg utasításként, mit kell elérnie, hanem azt is, mit nem tehet meg a cél elérése érdekében.

A biztosítási piac szintén csak most kezdi értelmezni ezt a kockázatot. Az Insurance Business által idézett biztosítási és jogi szakértők szerint az autonóm AI-aktivitás a kiberbiztosításban is új kérdéseket vet fel. A hagyományos kiberbiztosítási logika sokszor külső támadóra, emberi szándékra, adatlopásra vagy üzletmenet-kiesésre épül. Az AI-ügynök viszont gyakran érvényes hozzáféréssel, legitim üzleti cél érdekében, de nem kívánt mellékhatással okoz kárt.

A kockázatkezelési hasonlat ezért találó: a cégeknek úgy érdemes kezelniük az AI-ügynököket, mint egy kiemelt jogosultságokkal rendelkező munkavállalót, korlátozott hozzáféréssel, naplózott műveletekkel, jóváhagyási folyamatokkal és név szerint kijelölt felelőssel.

Az AI-ügynökök komoly üzleti lehetőséget kínálnak, és gyorsan válnak a vállalati automatizálás új eszközeivé: adminisztratív, ügyfélszolgálati, kiberbiztonsági, beszerzési és fejlesztési folyamatokban is megjelennek.

A felelősségi kérdés azonban nem mellékes jogi részlet, hanem a technológia vállalati skálázásának előfeltétele.

A következő évek egyik fő vitája várhatóan nem az lesz, hogy az AI-ügynök „hibázott-e”, hanem az, hogy ki teremtette meg azt a környezetet, amelyben a hiba bekövetkezhetett, ki láthatta előre a kockázatot, és kinek lett volna lehetősége megakadályozni a kárt.

Címlapkép forrása: Europa Press 2025 via Getty Images