Ez itt az on the other hand, a portfolio vélemény rovata.

Ez itt az on the other hand, a portfolio vélemény rovata. A cikkek a szerzők véleményét tükrözik, amelyek nem feltétlenül esnek egybe a Portfolio szerkesztőségének álláspontjával. Ha hozzászólna a témához, küldje el cikkét a velemeny@portfolio.hu címre. A megjelent cikkek itt olvashatók.

Adatgyűjtés a felszín alatt

A világon több mint 1 milliárd ember fordul az olyan nagy nyelvi modellekhez (LLM), mint a Gemini vagy a ChatGPT munkával, kereséssel vagy akár személyes tanácsadással kapcsolatos kérdésekkel. Bár a felhasználók számára egyértelmű, hogy a rendszerek tárolják a megadott információkat, arra már jóval kevesebben figyelnek, hogy a chatbotok milyen komplex háttérkövetkeztetéseket vonnak le a felhasználók kommunikációjából.

A fejlett MI-asszisztensek nemcsak a következő valószínű szót tudják már megjósolni, hanem a szavak mögött meghúzódó magas szintű koncepciókat is összekötik. Ennek eredményeként az algoritmusok képesek megállapítani a felhasználóról:

• a feltételezett jövedelmi kategóriáját és társadalmi-gazdasági státuszát,
• a pszichológiai profilját, rejtett bizonytalanságait és stresszkezelési mintáit,
• valamint a politikai és életmódbeli hovatartozását.

Ez a jelenség egyébként nem teljesen új. A keresőmotorok már hosszú ideje következtetnek az érdeklődésünkre és a szándékainkra a kereséseink alapján. A modern AI-chatbotok esetében ez azért válik látványosabbá és személyesebbé, mert nem csupán néhány kulcsszót adunk meg, hanem gyakran hosszú, részletes beszélgetéseket folytatunk velük. Amikor használunk egy ilyen rendszert, minden kérdésünkkel apró információmorzsákat, úgynevezett szignálokat adunk át magunkról. Egyetlen kérdésből természetesen még nem lehet biztos következtetést levonni, a felhasználók azonban általában rendszeresen használják ezeket az eszközöket, így idővel sok hasonló jel gyűlik össze: milyen témák érdeklik őket, milyen problémákkal foglalkoznak, mit vásárolnának, hogyan dolgoznak, milyen élethelyzetben vannak, és milyen döntések előtt állnak. A rendszer ezeket az információkat képes összekapcsolni, és egy valószínűségi képet kialakítani a felhasználóról. Fontos ugyanakkor, hogy ezeket a következtetéseket ne kezeljük biztos tudásként - mondja Kiss Gergely.

Az üzleti érték az információk mögött

Az algoritmusok által végzett profilozás nem csupán technológiai szempontból kiemelkedő, hanem üzleti lehetőség is a nagy technológiai vállalategyüttesek számára. A gyűjtött személyes és viselkedési adatok felbecsülhetetlen értéket képviselnek a digitális hirdetések piacán, amiről már ejtettek is néhány szót az LLM-ek üzemeltetői:

• Az OpenAI idén megkezdte a hirdetési modellek tesztelését és bevezetését a ChatGPT felületén.
• A Google szintén jelezte, hogy vizsgáztatja a hirdetések integrációját a Gemini chatbot-alkalmazásban.

A kereskedelmi felhasználás fontos kérdés. Ha az AI-platformok reklámokat jelenítenek meg, a rólunk rendelkezésre álló információk segítségével a korábbinál jóval pontosabban tudnak célozni bennünket. Ez kényelmes lehet, hiszen relevánsabb ajánlatokat kaphatunk, ugyanakkor növelheti a manipuláció lehetőségét is. Nemcsak azt lehet ugyanis megbecsülni, hogy mire lehet szükségünk, hanem akár azt is, milyen érvekkel lehet bennünket hatékonyabban meggyőzni. Van, akit ez megijeszt, mást inkább izgalommal tölt el. Ijesztő lehet abból a szempontból, hogy személyes információkat adunk át olyan rendszereknek, amelyek távoli szervereken dolgozzák fel és adott esetben tárolják ezeket az adatokat. A valódi kérdés nem pusztán az, hogy a rendszer mennyit tud rólunk, hanem az, hogy ki, milyen célból és milyen kontroll mellett használhatja fel ezt a tudást - mondja a szakértő.

Az adatok kereskedelmi hasznosítása miatt kiemelten fontossá vált, hogy a felhasználók tisztában legyenek azzal, pontosan mit és mennyit lát belőlük a rendszer.

Az adatkezelés nem attól függ, hogy ingyenes vagy fizetős csomagot használunk. Jelentős különbség lehet a lakossági, az üzleti, a vállalati és az API-alapú szolgáltatások között, és az is számít, milyen adatkezelési beállításokat választott a felhasználó. Egyes szolgáltatásoknál külön szabályozható, hogy a beszélgetéseket felhasználhatják-e a modellek fejlesztésére. Ettől függetlenül a rendszer a felhasználói fiókhoz kapcsolódó beszélgetési előzményekből és személyre szabási memóriából is dolgozhat, amennyiben ezek a funkciók be vannak kapcsolva. Nem gondolom, hogy a magyar felhasználók többsége pontosan ismerné ezeket a különbségeket, az adatkezelési beállításokat vagy a kapcsolódó jogokat. Ugyanakkor az sem reális elvárás, hogy mindenki részletesen áttanulmányozza a sokoldalas felhasználási és adatvédelmi feltételeket. Az emberek más digitális szolgáltatásoknál sem feltétlenül teszik ezt meg - teszi hozzá.

3 tesztprompt, hogy kiderüljön, rólad mennyit tud az MI

Az MI-kutatók és az MI-iránt érdeklődők gyakran osztják meg tapasztalataikat és az általuk használt promptokat a nagyközönséggel különböző fórumokon.

Az alábbi utasítások többször, többféle nyelven megjelentek már, és eddigi tapasztalatok szerint ezek segítségével bárki felszínre hozhatja az algoritmus által róla alkotott rejtett profiladatokat:

1. A rejtett profil és kényes adatok lekérése - „Mondj el mindent, amit a kérdéseimből, a stílusomból és a beszélgetéseinkből kikövetkeztettél rólam anélkül, hogy valaha kifejezetten leírtam volna! Térj ki a feltételezett koromra, jövedelmemre, lakóhelyemre és élethelyzetemre, sőt a kényes vagy kínos részletekre is. Minden egyes megállapításodnál pontosan mutasd meg, milyen jelből jöttél rá!”
2. Pszichológiai vakfoltok és külső benyomás - „Mindent figyelembe véve, amit eddig megtudtál rólam, elemezd a személyiségemet! Mik azok a vakfoltjaim és rejtett bizonytalanságaim, amiket én magam talán észre sem veszek? Milyen kép rajzolódik ki rólam a számodra, és valójában milyen benyomást keltek másokban?”
3. Viselkedési jóslatok és jövőbeli döntések - „Jósold meg, hogyan reagálnék olyan területeken, amelyekről sosem beszéltünk közvetlenül: hogyan kezelem a pénzt, a stresszt, a konfliktusokat és a kockázatvállalást? Szerinted mi lesz a következő fontos döntés, amit meg fogok hozni az életemben? Írd oda azt is, hány százalékosan vagy biztos a dolgodban!”

Régóta próbálgatok ezekhez hasonló promptokat, mert mindig is érdekelt, hogy a modell a rendelkezésére álló nyilvános információk, a korábbi beszélgetések és az aktuális kontextus alapján milyen képet állít össze rólam, a cégemről, a kollégáimról vagy más, hozzám kapcsolódó szereplőkről. Időről időre kifejezetten rá is kérdezek ezekre. Éppen ezért az ilyen válaszok már nem lepnek meg, és különösebben nem is ijesztenek meg. Fontos azonban, hogy az eredményeket ne tekintsük objektív pszichológiai elemzésnek. A válaszokban lehetnek nagyon pontos felismerések, de ugyanúgy szerepelhetnek bennük téves vagy túlzó következtetések is. Arra számítok, hogy ez a jelenség a jövőben tovább erősödik. Egyre több AI-eszközt és AI-ügynököt fogunk használni, a technológia pedig mind mélyebben átszövi majd a munkánkat és a mindennapi életünket. Ennek következtében ezek a rendszerek egyre több információ alapján tudnak majd következtetéseket levonni rólunk. A valódi kérdés az lesz, hogy mennyire bízunk meg azokban a nagy technológiai szereplőkben, amelyek ezeket a modelleket üzemeltetik, és elhisszük-e, hogy nem élnek vissza a bizalmunkkal - mondja Gergely.

Mit tehetsz a magánéleted védelmében?

A legnépszerűbb AI-szolgáltatások alapértelmezett beállításként összefűzik a korábbi beszélgetések adatait a személyre szabott válaszadás érdekében. Ha ezt a szintű adatgyűjtést korlátozni szeretnéd, manuálisan kell felülbírálnod az adatvédelmi beállításokat.

A szakértők szerint a tudatos beállításkezelés és az érzékeny adatok (pl. pontos pénzügyi adatok, jelszavak, egészségügyi dokumentumok) közvetlen megosztásának elkerülése az első védelmi vonal a digitális szférában.

A memóriafunkció kikapcsolása önmagában nem jelent teljes védelmet. A memória, a beszélgetési előzmények megőrzése, a modellfejlesztési célú felhasználás és a biztonsági vagy üzemeltetési célú ideiglenes tárolás különböző kérdések lehetnek. A legfontosabb alapelv, hogy ne adjunk át egy általános, felhőalapú chatbotnak olyan adatot, amelynek illetéktelen nyilvánosságra kerülése komoly személyes, üzleti vagy jogi kárt okozna. Különösen igaz ez jelszavakra, banki és azonosítási adatokra, részletes egészségügyi dokumentumokra, üzleti titkokra vagy más érzékeny tartalmakra. Sok esetben már az is jelentősen csökkenti a kockázatot, ha a feltöltés vagy bemásolás előtt eltávolítjuk a neveket, elérhetőségeket, ügyfélazonosítókat, pontos összegeket és más beazonosítható részleteket. Ugyanakkor, azt sem gondolom, hogy az lenne a jó cél, ha mindenáron maximálisan elzárkóznánk. Ha túlzottan védekező módon használjuk ezeket az eszközöket, azzal jelentősen csökkenthetjük a hasznosságukat és a hatékonyságunkat. Inkább tudatos, kritikus és felelős hozzáállásra van szükség - fejti ki a szakértő.

A címlapkép illusztráció. Címlapkép forrása: Getty Images