index Egyéb

Könyörtelen pszichológiai csapdába ejtenek minket a chatbotok

Szerző: index 4 napja 5 percnyi olvasás


Könyörtelen pszichológiai csapdába ejtenek minket a chatbotok

Dr. Veszelszki Ágnes AI Summiton tartott előadásán arra kerestük a választ, érdemes-e udvariasnak lenni a mesterséges intelligenciával.


Ahhoz, hogy megértsük a jelenség gyökereit, érdemes visszatekinteni a természetes nyelvfeldolgozás történetére. A kutató rögtön le is szögezte az alapvetést: „Ezek mögött még nem volt valós nyelvi megértés, de a kérdés-válasz szekvenciák ily módon létrejönnek. Tehát látszólag egy intelligens rendszert mutat.” Az illúzió ráadásul évtizedes múltra tekint vissza: már az 1960-as években az ELIZA nevű programnál kiderült, milyen elemi erővel vetítünk személyiséget egy egyszerű algoritmusba.

A szoftver szintaktikai alapon kiválasztotta a mondatok kulcsszavait, és kérdésként visszaforgatta őket. Ha a beszélgetőpartner megemlítette az édesanyját, a gép visszakérdezett a kapcsolatukra: „Nagyon megszerették a társalgópartnerek ezt a rendszert, nagyon érzékenynek, empatikusnak tűnt, miközben valójában csak arra volt képes, hogy a szintaxis alapján kiválassza az egyes mondatokból a kulcsszavakat” – emlékeztetett az előadó.

Később a rendszerek – mint például a CoreNLP – megtanulták a szigorú nyelvtani struktúrákat és a szókincset, nagyjából úgy, ahogyan az iskolában tanítják az idegen nyelveket: szabályok és bemagolt szavak alapján. A mai nagy nyelvi modellek (LLM-ek), mint a ChatGPT vagy a Gemini, viszont már nem szabálykönyvekből dolgoznak, hanem milliárdos szövegkorpuszokon edzett valószínűségszámítási motorok.

Redditből és YouTube-ból épített emberi hang

A modellek ráadásul ma már nem csupán steril szótárakból táplálkoznak. Egy 600 millió hivatkozást vizsgáló elemzés szerint a fejlesztők egészen hétköznapi forrásokhoz nyúlnak:

  • A ChatGPT hátterében a Wikipédia után meglepő módon a Reddit és a Forbes áll a dobogón,
  • a Google-féle Gemini leginkább a Redditre, a YouTube-videók leirataira és a Quorára épít,
  • a Perplexity pedig szintén a Reddit és a YouTube leirataira, valamint a Gartner elemzéseire támaszkodik a leggyakrabban.

„De mire mutat rá a változás, miszerint már nem online lexikonokat és szakkönyveket használnak elsősorban a tréningezéshez, hanem a Redditet és a YouTube-nak a leiratozott változatait?” – tette fel a kérdést Veszelszki Ágnes, majd rögtön meg is válaszolta: „Arra, hogy a mai modellek már a hétköznapi beszédet próbálják utánozni, és természetes, emberszerű társalgásokat próbálnak meg lebonyolítani.”

Ez a közvetlen hangvétel hamar ledönti a távolságtartást. A nyelvész saját, több mint 300 fős kérdőíves felméréséből kiderült, hogy a felhasználók jelentős része antropomorfizálja a felületet: sokan konkrét nevet adnak a chatbotnak, így lesz a szoftverből Alex, Barátom, Leila, vagy éppen Csettó, Csettike, esetleg Csipiti. A válaszadók közel harmada minden egyes beszélgetést köszönéssel nyit, és huszonöt százalékuk a kapott válasz után reflexszerűen bepötyögi a „köszönömöt” is. Teszik ezt annak ellenére, hogy sokan pontosan tudják: a felesleges szavak tokeneket fogyasztanak, ami szerveroldalon áram- és hűtővízpazarlással jár.

Amikor azonban az udvariasság gazdasági és környezeti terhéről Sam Altmant, az OpenAI vezérigazgatóját kérdezték az X-en, a cégvezér meglepő választ adott: úgy reagált, „hogy ez bizony jól elköltött pénznek számít, tehát fontosnak tartja fejlesztőként is az udvariasságot”. A kutatások szerint a normális hangnem a gyakorlatban is kifizetődő: a szakirodalom igazolja, hogy ha higgadtan, strukturáltan kérünk a modelltől, az valóban jobb minőségű, pontosabb válaszokat képes adni. 

Ami pedig a felhasználói indokokat illeti: a kitöltők háromnegyede a megszokás és a neveltetés miatt fogalmaz udvariasan a géppel, de akadt egészen jövőbe látó magyarázat is: „Ha a robotok egyszer életre kelnek, akkor szeretnének életben maradni, és jó viszonyban lenni a robotokkal.”

De miért kérünk elnézést egy maroknyi kódtól?

A kutatás leginkább elgondolkodtató fejezete az volt, hogyan viselkedünk akkor, amikor nem a gép, hanem mi magunk hibázunk egy feladat során. Arra semmilyen technikai vagy logikai indok nincs, hogy elnézést kérjünk a rendszertől, a felmérés szerint mégis sokan cselekednek így. A kitöltők indoklásai jól mutatják a kialakuló pszichés kötődést:

  • „Rosszul fogalmaztam meg egy kérdést, ami miatt félreértettük egymást.”
  • „Nyelvtani hibával írtam, és nem értette.”
  • „Kifelejtettem az adatok egy részét, amiből feladatot kértem tőle, elnézést kértem, és megírtam a kimaradt adatokat.”
  • „A like jel helyett véletlenül a dislike gombra kattintottam, nagyon rossz érzés volt.”
  • Néhányan pedig egész egyszerűen amiatt éreztek bűntudatot, mert úgy gondolták: „Már megint zavarja a ChatGPT-t.”

A hallgatóság körében végzett gyors szavazáson sokan beismerték: a mesterséges intelligenciát sokszor udvariasabbnak találják az emberek többségénél, és előfordult már az is, hogy szívesebben beszélgettek a képernyővel, mint hús-vér társaikkal. A gépek humanizálása azonban komoly veszélyeket rejt. Az előadás zárásaként Veszelszki Ágnes egy olyan idézetet osztott meg, amely pontos látleletet ad korunk digitális magányáról: „Ha elkezdünk egy gépet a dehumanizálódó világunkban humanizálni, mert nem tudjuk humanizálni a világunkat, annak nem lesz jó vége.”

(Borítókép: Dr. Veszelszki Ágnes 2026. szeptember 7-én. Fotó: Szollár Zsófi / Index)

ad

További tartalom Önnek