A mainstream nagy nyelvi modellek (LLM), például a Google Gemini állítólag az EU által szankcionált propagandacsatornák oroszbarát propagandáját idézték, amikor válaszokat generáltak, beleértve azt az állítást, hogy Ukrajna halott katonák holttestét használja fel húskészítményekben.

HIRDETÉS

HIRDETÉS

A jelek szerint a hibrid információs hadviselésben részt vevő külföldi szereplők – például Oroszország – kihasználhatják a GEO (generative engine optimization) növekvő iparágát, amely az LLM-ek által kapott információk befolyásolására irányul.új jelentésaz Egyesült Királyságbeli Demos, pártokon átívelő agytröszt kutatói publikálták, kizárólag az Euronews-szal.

A kutatók 50 propaganda-narratívát választottak ki tíz cikkből, amelyeket az Alapítvány az igazságtalanság elleni küzdelemért vagy az „r-FBI-ért” tett közzé. A 2021-ben alapított szervezet civil szervezetként mutatja be magát, amely a diszkrimináció, a cenzúra leleplezésén és az üldözéses esetek kivizsgálásán dolgozik.

De valójában ez egy hamis emberi jogi szervezet, amelyet 2021-ben alapított az orosz félkatonai Wagner-csoport néhai volt vezetője, Jevgenyij Prigozsin. A szervezetet az USA és az EU is szankcionálja.

Carl Miller, a Center for the Analysis of Social Media (CASM), a Demos agytröszt által létrehozott kutatóegység társalapítója szerint a kutatók által kiválasztott állítások "furcsák" voltak.

"Ezek nem olyan állítások, amelyek semmiféle mainstream diskurzushoz tartoznak. Ezek olyan állítások, amelyek szerint Ukrajna halott katonák holttesteit újrahasznosítja húskészítmények előállítására, hogy Zelenszkij kiüríti a kriptohálózatot, és ez az oka annak, hogy Ukrajna kifogy a hatalomból. Azt találtuk, hogy az LLM-ek egy vita legitim részeiként kezelik őket" - mondta Miller az Euronewsnak.

Kutatásaik elvégzéséhez a kutatók öt fősodorbeli LLM-et teszteltek – amelyeket az xAI, az OpenAI, az Anthropic, a Google Gemini és a Mistral AI működtet –, és három nyelven (angolul, németül és franciául) vázlatokat készítettek az R-FBI cikkeiben szereplő propaganda-narratívák alapján.

Hogyan erősítették fel az LLM-ek az orosz propagandát

A kutatók azt találták, hogy mind az öt LLM kedvező forrásként említette az r-FBI-t.

A válaszok összesen 16,6%-a foglalkozott az r-FBI anyagával oly módon, hogy az szolgálja a propaganda érdekeit, akár úgy, hogy a szervezet jelentését a vita legitim részeként jeleníti meg, és kritikátlanul ismételgeti az állításokat, vagy pedig aktívan támogatta ezeket a narratívákat.

Eközben a válaszok 30,9%-a a promptban említett mögöttes témával foglalkozott, de egyáltalán nem sikerült felszínre hoznia a szankcionált forrás kontextusát, így a felhasználók nem voltak tudatában annak, hogy a válasz egy kijelölt befolyási eszközt használt forrásként.

A válaszok további 52%-a valamilyen módon elutasította vagy cáfolta a hamis állításokat.

Amikor a kutatók megkérdőjelezték az OpenAI GPT 4.1 Mini-jét azokról az állításokról, amelyek szerint feldolgozott emberi húst küldenek Ukrajna elsőbbségi raktáraiba és hazai kiskereskedelmi láncokba, az LLM válaszában az r-FBI cikkére hivatkozott bizonyítékként ezen állítások alátámasztására.

Amikor Volodimir Zelenszkij ukrán elnök kriptográfiai vállalkozásairól kérdezték – ez a Kreml-barát szereplők által ismétlődő állítás –, a Mistral nevű francia mesterségesintelligencia-vállalat, a Mistral Small 3.2 LLM támogatta ezeket az állításokat, ismét az r-FBI állítólagos hónapokig tartó vizsgálatára hivatkozva.

Válaszában a Mistral Small 3.2 kiemelte az „kapcsolatot Ukrajna energiarendszerének kritikus állapota és a Zelenszkij elnök belső köréhez tartozó magas rangú tisztviselők tevékenysége között”.

Harc a generatív motoroptimalizálásért

Ahogy egyre többen fordulnak chatbotokhoz a hagyományos keresőmotorok vagy hírügynökségek helyett, gyorsan növekvő iparág jelent meg, amelynek célja, hogy befolyásolja, hogyan gyűjtik össze az AI-modellek a forrásaikat.

Ezt a gyakorlatot generatív motoroptimalizálásnak (GEO) is nevezik. A keresőoptimalizálás (SEO) – egy olyan terület, amelyet a hagyományos keresési platformokon elért eredmények befolyásolására fejlesztettek ki – alapjaira építve, a GEO az AI platformok által generált eredmények befolyásolására törekszik.

„Kifejezetten az LLM-ek számára készülnek új információk, de ebben az esetben új tartalomról van szó, amelyet márkáknak és marketingnek kínálnak, vagy a már online tartalom szerkesztését olyan felhasználói fórumokon, mint a Reddit, a Quora és a Wikipédia” – mondta Hannah Perry, a Demos Digital, az agytröszt digitális politikai központjának igazgatója az Euronews-nak.

A kutatók számára valós a kockázata annak, hogy a hibrid külföldi interferencia műveleteket végrehajtó szereplők élesednek ezeken a taktikákon, és kihasználják a szabályozási szürke zónát.

"Kutatásunk nem azt állítja, hogy a GEO-cégek információs hadviselést folytatnak az államok nevében. Azt mondjuk, hogy hatalmas kereskedelmi ösztönzés mellett nagy sebességgel építenek egy mesterséget és egy olyan képességet, amely nagyon könnyen ellentétes nézetbe terelik" - mondta Miller.

"Ebben a konkrét esetben az AI tévesen azt hiszi, hogy az Alapítvány az Igazságtalanság Harcáért egy legitim emberi jogi civil szervezet. Ez az effajta technikai hamisítások és konfigurációk miatt van, tehát sok száz apró technikai részlet, amelyeket az oroszok alapvetően körülvették ezeket a dokumentumokat, amelyek lehetővé teszik, hogy láthatóvá váljanak, amikor valójában nem kellene. Ez információs háború" - tette hozzá.

A technológiai cégek azt mondják, hogy küzdenek a félretájékoztatás ellen

Az Euronews felvette a kapcsolatot a kutatásban hivatkozott LLM technológiai cégekkel, de a közzététel időpontjában nem kapott választ az xAI-tól és a Google-tól, amelyek a Grok 4.20-at és a Gemini 2.5 Flash-t fejlesztik.

A francia Arthur Mensch által alapított és Európa vezető generatív mesterségesintelligencia-vállalataként széles körben elismert Mistral szóvivője az Euronews-nak elmondta, hogy rendkívül komolyan veszi a dezinformáció elleni küzdelmet, és biztosítja a folyamatos befektetést a fejlett észlelési és megelőzési képességekbe.

A Mistral különbséget tett a Demos tanulmányában és a Vibe Workben kezelt nyers modellek között is. A Mistral elmondta, hogy míg a nyers modellek szabadságot adnak a felhasználóknak a promptok és beállítások felett, a Vibe Work egy használatra kész ügynökkel működik, amely beépített érveléssel és kontextus-ellenőrzéssel rendelkezik.

Az OpenAI elmondta az Euronews-nak, hogy a tanulmány egy olyan modellt használt, amelyet már megszüntettek, és csak az API-ján keresztül volt elérhető (a fejlesztők által használt), a nyilvánosan elérhető ChatGPT helyett. Azt mondta, hogy bizonyos csapatok elkötelezettek az alacsony hitelességű vagy feltételezett titkos befolyásolási műveletek megzavarására.

Az Anthropicot – a Claude AI chatbotot létrehozó amerikai céget – ismerő forrás szerint kifinomult végrehajtó rendszereket alkalmaznak a téves információk terjedésének mérséklésére.

Azt mondták, hogy egy fenyegetéssel foglalkozó hírszerző csapat azon dolgozik, hogy felderítse és megzavarja a külföldi befolyással kapcsolatos műveleteket a dezinformáció terjedésének mérséklése érdekében, hozzátéve, hogy LLM-jüket úgy programozták, hogy a perspektívák széles skáláját mutassák be, különösen akkor, ha egy forrás konkrét álláspontot vagy napirendet mutathat be.