GazdaságSzerző: vg 4 órával ezelőtt 3 percnyi olvasás
A mesterséges intelligencia szigorúbbnak látja az embereket, mint amilyenek valójában.
A nagy nyelvi modellek már számtalan témában képesek meggyőző válaszokat adni, az emberi viselkedés előrejelzése azonban továbbra is komoly kihívást jelent számukra. A Pennsylvaniai Egyetem és a Világbank kutatói arra jutottak, hogy a vizsgált AI-modellek következetesen túlbecsülik, milyen gyakran büntetik vagy ítélik el az emberek a társadalmi normák megsértőit.
A kutatók azt vizsgálták, mennyire egyeznek a nagy nyelvi modellek, vagyis az LLM-ek előrejelzései azzal, ahogyan valódi emberek értékelnek különböző társadalmi helyzeteket. Az arXiv felületén megjelent tanulmány szerint ezen a területen jelentős eltérés mutatkozik.
A korábbi fejlesztések elsősorban arra összpontosítottak, hogy a mesterséges intelligencia felismerje az alapvető társadalmi normákat. Egy modellnek például meg kell értenie, hogy a lopást a társadalom elfogadhatatlannak tartja. Sunny Rai, Jinyi Kuang és kutatótársaik szerint azonban a társadalmi intelligenciához ennél több kell.
Az is számít, hogy a modell képes-e megjósolni, ki és milyen módon reagál egy szabály megsértésére.
Ezeket a másodrendű társadalmi elvárásokat nevezik metanormáknak; a kutatók pedig saját módszertant dolgoztak ki annak mérésére, mennyire képesek az LLM-ek megérteni ezeket a helyzeteket. Két területet vizsgáltak: milyen érzelmeket tulajdonítanak a normasértőnek és a környezetének, illetve milyen reakciót várnak a szemtanúktól.
Ehhez létrehozták a NormReact nevű adatbázist, amely 450 normasértési helyzetet tartalmaz. A szituációkat ellátták az érzelmekre és a várható viselkedésre vonatkozó jelölésekkel. Figyelembe vették a normasértő nemét, valamint azt is, milyen kapcsolatban áll vele a történteket megfigyelő személy.
Hat nagy nyelvi modellt teszteltek: a GPT-5.2-t, a Claude-4.5-Opust, a Gemini-3-Prót, a GPT-OSS-20B-t, a Llama-4-Scout-17B-t és a Gemma-3-12B-t.
Mindegyik modell ugyanazt a 16 kérdésből álló felmérést kapta. A különböző helyzetekben meg kellett becsülniük,
Ugyanezekre a kérdésekre emberek is válaszoltak, így közvetlenül össze lehetett vetni az emberi várakozásokat a modellek becsléseivel.
Az eredmény mind a hat vizsgált modellnél ugyanabba az irányba mutatott; az LLM-ek az embereknél gyakrabban számítottak negatív következményekre, például rosszallásra, konfrontációra, pletykára vagy a normasértő kerülésére.
Különösen feltűnő volt az eltérés azokban a helyzetekben, amelyekben az emberi válaszadók szerint a környezet várhatóan semmit sem tenne. A modellek ezekben az esetekben is gyakrabban számítottak elítélő vagy büntető reakcióra.
A Pennsylvaniai Egyetem és a Világbank kutatóinak megfogalmazása szerint a jelenlegi LLM-ek „szigorúbb társadalmi világot” ábrázolnak: olyan helyzetekben is negatív szankciókat várnak, amelyekben az emberek inkább tétlenségre számítanak. Az emberi és gépi válaszok közötti összhang ráadásul annál gyengébbé vált, minél nagyobb volt a társadalmi távolság az érintettek között.
Ennek gyakorlati következményei is lehetnek. Ha egy mesterségesintelligencia-rendszert konfliktusok kezelésére, társadalmi folyamatok modellezésére vagy szakpolitikai szimulációkra használnak, a torzítás félrevezető eredményekhez vezethet.
A modellek a ténylegesnél nagyobb szerepet tulajdoníthatnak a büntetésnek és az elítélésnek, ezzel párhuzamosan alulbecsülhetik a toleranciát, a visszafogottságot és azt, hogy az emberek reakcióikat a közöttük lévő kapcsolat jellegéhez igazítják.
A kutatás eredményei így új feladatot jelölnek ki a fejlesztőknek: az MI-nek már nem csupán azt kell megtanulnia, milyen szabályokat tartanak be az emberek, hanem azt is, mi történik a valóságban akkor, amikor valaki megszegi őket.
Különös fénytörésbe helyezi a tanulmányt, hogy többek közt Kína és az Egyesült Államok gyors tempóban fejleszti a harctéri körülmények közt bevethető, autonóm döntésekre képes MI-vezérelt robotokat.
Ahogyan arról a Világgazdaság beszámolt: korábban már a kínai Népi Felszabadító Hadsereg hivatalos lapja, a PLA Daily arra szólította fel a kutatókat, hogy gyorsítsák fel a legmodernebb technológiák átadását a laboratóriumokból a katonai gyakorlóterekre, ahol robot „harcosok” kiképzésére lehet szükség.
Egyelőre még számos technikai akadálya van, hogy robotokat vessenek be éles harci helyzetekben, ugyankkor egyéb problémák is felmerültek a fejlesztések során. Többek közt megállapították, hogy a humán etika értelmezése is nehézségeket okoz a mesterséges intelligenciának.
A Vöröskereszt Nemzetközi Bizottsága például korábban arra figyelmeztetett, hogy az autonóm fegyverek számára különösen nehéz lehet a megadás jeleinek megbízható értelmezése, mivel ehhez gyakran a helyzet, a viselkedés és a szándék együttes értékelése szükséges.
Tehát hasonlóan bonyolult mintázatról van szó, mint a Pennsylvaniai Egyetem kutatói által vizsgált társadalmi normaszegések esetei. Ezeket pedig a kutatások jelen állása szerint a mesterséges intelligencia képtelen megfelelően értelmezni.
Napi