A mesterséges intelligencia bevezetésénél szinte automatikusan megnyugtató válaszként kerül elő, hogy a végső döntést majd úgyis ember hozza meg. Martin L. Skorczynski, az amerikai Government Accountability Office (GAO) feltörekvő technológiákért és kiberbiztonsági kutatásokért felelős igazgatóhelyettese szerint azonban ez önmagában egyáltalán nem garancia a jobb döntésre.

Az AI Summit Budapest 2026 konferencián bemutatott gondolatmenetének központi állítása szerint az ember és a mesterséges intelligencia két különböző módon korlátozott döntéshozó, amelyek együttműködése nem szükségszerűen szünteti meg egymás hibáit. Sőt, a legveszélyesebb helyzet éppen az lehet, amikor ugyanarra a rossz következtetésre jutnak, mert az egyetértés olyan magabiztosságot adhat a döntésnek, amely átviszi azt a szervezet ellenőrzési pontjain.

Skorczynski az Egyesült Államok Kongresszusát támogató, független ellenőrző intézmény Innovation Labjében dolgozik, ahol AI-eszközök fejlesztésével és gyakorlati tesztelésével is foglalkozik. A GAO Innovációs Laboratóriuma egyaránt fejleszt belső adatelemzési eszközöket és támogatja az intézmény mesterséges intelligenciával kapcsolatos ellenőrzési munkáját.

Az ember sem optimális döntéshozó, de az AI sem az

A gondolatmenet kiindulópontját Herbert Simon Nobel-díjas közgazdász „korlátozott racionalitás” elmélete adta. Simon már az 1950-es években szakított azzal az idealizált képpel, amely szerint az ember minden rendelkezésre álló lehetőséget felmér, majd kiválasztja a lehető legjobb döntést. A valóságban időnk, információnk és figyelmünk korlátozott, ezért sokszor nem optimalizálunk, hanem addig keresünk, amíg találunk egy megfelelően jó megoldást. Simon ezt nevezte satisficingnak.

Skorczynski szerint érdemes hasonló módon tekinteni a nagy nyelvi modellekre is, azzal a fontos különbséggel, hogy az ember és az AI korlátai teljesen eltérő természetűek. Az ember elfárad, figyelme lankad, nem képes egyszerre hatalmas mennyiségű információt feldolgozni. Egy modell nem fárad el délután négy órára, viszont korlátozza a tanításához használt adat, a kontextusablak, valamint az, hogy milyen információt és milyen kérdés formájában adtak számára. Mindkettő csak részleges képből következtet, és mindkettő képes egy olyan válasznál megállni, amely elég jónak tűnik. Ez egészen más tervezési problémát jelent annál a ma még gyakori megközelítésnél, amely szerint az AI az „okos” szereplő, az ember pedig a hibaforrás, akit lehetőleg ki kell venni a folyamatból. Ha ugyanis két különböző korlátokkal rendelkező döntéshozó dolgozik együtt, a kérdés inkább az, hogyan kombinálódnak a vakfoltjaik.

Ráadásul a kormányzati működésben megjelenik egy harmadik korlátozott „döntéshozó” is: maga az intézmény. Egy állami szervezetet jogszabályok, belső szabályok, minőségbiztosítás, engedélyezési folyamatok és többszintű felülvizsgálat vesz körül. Ezt sokan bürokratikus súrlódásként érzékelik, azonban ezek a procedúrák valójában korábbi tapasztalatokból felhalmozott intézményi ítéleteket tárolnak. Egy állami intézménynél a magabiztosan meghozott rossz döntés társadalmi ára rendkívül magas lehet, ezért az ellenőrzés sok esetben szándékosan lassítja a folyamatot. A mesterséges intelligencia beemelése emiatt nem egyszerűen azt jelenti, hogy egy ember kap egy új eszközt. Megváltozik az is, hogy milyen információ kerül az ellenőrzést végző ember elé, milyen formában érkezik, és milyen magabiztosság társul hozzá.

Néha az ember és az AI együtt rosszabb, mint külön

Ezt az elképzelést már kutatási eredmények is alátámasztják. Egy 2024-ben a Nature Human Behaviour folyóiratban megjelent metaanalízis 106 kísérlet 370 eredményét vizsgálta meg, amelyekben össze lehetett hasonlítani az ember, az AI, valamint az ember és AI közös teljesítményét. A kutatók meglepő eredményre jutottak: az ember–AI páros átlagosan jobban teljesített ugyan, mint az ember önmagában, de rosszabbul, mint az adott feladatban az ember és az AI közül a jobbik önmagában. Különösen a döntési feladatoknál jelentkezett teljesítményveszteség, míg kreatív tartalom előállításánál nagyobb volt az együttműködésből származó nyereség.

Skorczynski szerint ebből két ellentétes emberi reakció következhet. Ha egy munkatárs sorozatosan jó válaszokat kap a modelltől, idővel kevesebbet ellenőriz, kialakul a túlzott ráhagyatkozás. Egy magabiztosan megfogalmazott tévedés így bekerülhet egy későbbi döntés alapjául szolgáló anyagba. A másik végletet egyetlen rossz élmény – például egy kitalált hivatkozás – válthatja ki: a szakember elveszíti a bizalmát, és többé akkor sem használja az AI-t, amikor az valóban segíthetne.

A legveszélyesebb pillanat, amikor mindenki egyetért

Skorczynski négy alaphelyzettel szemléltette az ember és AI kapcsolatát. A legegyszerűbb esetben ugyanarra a helyes következtetésre jutnak, és megerősítik egymást. Lehet azonban olyan is, hogy nem értenek egyet: ilyenkor az egyik szereplő bizonytalansága visszafoghatja a másik magabiztosságát. Ez kívülről kudarcnak vagy súrlódásnak tűnhet, valójában azonban maga a vita értékes információ. A negyedik eset a kritikus: az ember és az AI egyetért, de mindketten tévednek. Ilyenkor a két hibás ítélet nem kioltja, hanem felerősíti egymást. A döntéshozó azt látja, hogy saját szakmai véleményét a modell is megerősítette, a modell válasza pedig hitelesebbnek tűnik, mert illeszkedik az ember előzetes értékeléséhez. Az egyetértés önmagában azonban semmilyen bizonyítékot nem jelent a helyességre.

Skorczynski szerint emiatt az egyik legfontosabb rendszertervezési követelmény a megfigyelhetőség. Nem elegendő a végső döntést eltárolni. Külön kell megőrizni azt is, milyen következtetésre jutott az ember és mire jutott a modell, mert csak így rekonstruálható később, hogyan jött létre a hibás eredmény. Ez elsőre technikai részletnek tűnhet, valójában azonban alapvető kormányzási kérdés. Ha csak azt látjuk, hogy a rendszer hibázott, de nem tudjuk szétválasztani a döntéshez vezető emberi és gépi ítéletet, nem tudjuk megállapítani, honnan érkezett a hiba, és hogyan akadályozható meg a következő alkalommal. Minden hibát megakadályozni valószínűleg lehetetlen. Egy dolgot azonban tudatosan lehet tervezni: mennyi idő telik el addig, amíg kiderül, hogy valami rosszul ment.

Nem elég mindent naplózni, valakinek felelnie is kell érte

Az adatok rögzítése azonban még önmagában nem ellenőrzés. Valakinek meg kell néznie a keletkező információt, és olyan felhatalmazással kell rendelkeznie, hogy be is avatkozhasson. Ezért Skorczynski szerint minden ellenőrzési pont mögött név szerint azonosítható felelősre van szükség. Ez különösen fontossá válik akkor, amikor egy szervezetben spontán terjedni kezdenek az AI-eszközök. Az egyik csapat bevezet egy chatbotot, majd összeköti dokumentumtárakkal. Ezután készít egy agentet egy ismétlődő feladatra. Egy másik részlegnek az első rendszer nem felel meg, ezért létrehoz egy sajátot. Egy tehetséges, kezdeményező elemző pedig észrevesz egy problémát, amelyhez nincs hivatalos eszköz, ezért beköt egy külső szolgáltatást.

Minden egyes döntés önmagában racionálisnak tűnhet. Együtt azonban rövid idő alatt olyan rendszer alakulhat ki, amelyben rengeteg eszköz fér hozzá érzékeny adatokhoz különböző jogosultságokon, integrációkon és szerződéses kapcsolatokon keresztül.

A válasz erre azonban nem az innováció letiltása, hanem olyan kereteket kell létrehozni, amelyeken belül szabad kísérletezni. Az érzékeny adatokhoz vezető utaknak ellenőrzött pontokon kell áthaladniuk, hogy utólag rekonstruálható legyen, mi történt. A governance-nak ezért meg kell előznie a technológiát, nem pedig utólag kell ráépülnie.

Az ember feladata nem az, hogy egész nap az AI vállánál álljon

A hagyományos „human in the loop” elképzeléssel szemben Skorczynski azt is hangsúlyozta, hogy az ember feladatát rosszul értelmezzük, ha egyszerűen folyamatos megfigyelőként képzeljük el. Az emberi figyelem maga is véges erőforrás, ezért nem lehet tartós biztonsági kontrollt arra építeni, hogy valaki minden egyes modellválaszt folyamatosan figyel. Sokkal fontosabb az intézményben már meglévő tudás megfelelő pillanatban történő becsatornázása.

Egy saját, kontrollált kiberbiztonsági tesztjükben például az AI hatalmas adatmennyiségben talált meg anomáliákat, amelyeket egy ember kézzel aligha tudott volna végignézni. Egy esetben azonban túl magas súlyossági szintet rendelt egy valódi jelzéshez. A modell magát az anomáliát helyesen azonosította, de tévedett abban, mit jelent az adott környezetben, mert nem ismerte azokat a további védelmi mechanizmusokat, amelyek már működtek. Az információ létezett, dokumentálva is volt, csak éppen nem jutott el a modellhez abban a pillanatban, amikor következtetett.

Skorczynski szerint ez sokkal fontosabb probléma annál, hogy önmagában „elég jó-e” egy modell. A helyes kérdés inkább az: eljut-e az intézményben már meglévő tudás a döntéshozóhoz abban a pillanatban, amikor szükség van rá?

A modell elvégezheti a munkát, de a felelősséget nem lehet kiszervezni

Az amerikai szövetségi kontrollstandardok szerint a vezetés delegálhatja a feladatokat és a szükséges hatáskört, de egyértelmű felelősségi rendszert, dokumentációt és megfelelő ellenőrzési mechanizmusokat kell fenntartania. A GAO AI Accountability Frameworkje ugyanezt az elvet viszi tovább a mesterséges intelligencia világába: világos célok és felelősségek, dokumentált adatforrások, mérhető teljesítmény, emberi felügyelet és folyamatos monitoring szükséges. A modell tehát felelhet egy feladat végrehajtásáért abban az értelemben, hogy az készíti el a kódot, keresi meg az anomáliát vagy fogalmazza meg az elemzést. Elszámoltatható azonban továbbra is az ember és az intézmény marad.

Ebből az is következik, hogy az AI sebességéhez hozzá kell igazítani az intézményi kontrollokat. A mai ellenőrzési kapuk egy bizonyos munkatempóra születtek. Ha ugyanaz a csapat AI segítségével ugyanannyi hét alatt többször annyi kódot, elemzést vagy döntés-előkészítő anyagot tud létrehozni, akkor a régi ellenőrzési rendszer könnyen szűk keresztmetszetté válik.

A GAO laboratóriumi tapasztalatai szerint az AI használatával az emberi munka sem feltétlenül tűnik el: inkább áthelyeződik. Kevesebb idő mehet például a kézi kódírásra, és több az ötletalkotásra, architektúrára, tesztelésre és felülvizsgálatra. A fejlesztési és tesztkörnyezet határa azonban megmarad: az AI által előállított kód nem kerülhet automatikusan működő rendszerbe emberi jóváhagyás nélkül.