A világ már ismeri a géppel generált szöveg szokásos trópusait: a „mélyedés” szó túlzott használatát, a kötőjelek túlzott mértékű használatát és a „nem X, hanem Y” csilingelő, kérlelhetetlen felépítését.

De vajon még rosszabb lesz?

A hétvégén az Anthropic kiadott egy frissítést, amely szerint megváltoztatja azt, ahogy Claude AI-modellje prózát generált. Ez megfelel egy uniós rendeletnek, amely megköveteli, hogy decembertől kezdődően minden mesterséges intelligencia által generált szöveget vízjellel kell ellátni.

Az Anthropic szerint a változtatásokat azon a szemcsés, véletlenszerű szinten hajtják végre, amelyen a modelljei szöveget generálnak, és az átlagolvasó számára észrevehetetlenek lennének.

De legalább egy kommentelő másképp gondolja. „Ez az egész törekvés az írás jelentésének perverz hamisítása” – írta John Gruber, egy veterán technológiai blogger. Azzal érvelt, hogy a vízjel korlátozza Claude-ot, és összességében rosszabb, kevésbé pontos szóválasztásra kényszeríti. Bár ez nem teszi kevésbé pontossá a modell írását, azt javasolta, hogy ezek a határok rontanak a helyzeten.

Van egy sztochasztikus elem a kis döntésekben, amelyeket egy AI-modell tesz egy mondat keretezésekor: például „szürkének” vagy „borultnak” nevez egy napot, vagy „patakként” vagy „patakként” hivatkozik a folyó vízre.

Az Anthropic új vízjele megváltoztatja ezeket a véletlenszerű választásokat, és olyan mintát hagy maga után, amelyet maga az Anthropic és azok is észlelhetnek, akiknek van kulcsa a dekódoláshoz.

Steven Murdoch, a University College London számítástechnika professzora szerint a változásnak „valószínűleg nem lesz észrevehető hatása”.

Úgy tűnik, hogy Gruber panasza arra a tényre összpontosul, hogy a vízjelezés miatt a nagy nyelvi modell kevésbé szabadon dönthet arról, hogy melyik szó következik a mondatban, ezért előfordulhat, hogy nem a legjobb választást választja.

Az LLM-ek azonban már most sem a legjobb döntéseket hozzák. „Ebben a nagy nyelvi modellekben már véletlenszerűség is benne van” – mondta Murdoch. "Elég nélkülözhetetlen a működésükhöz. Ha nem lenne ez a véletlenszerűség, akkor elakadnának a hurkokban, és újra és újra ismételgetnék ugyanazt a dolgot."

Más szóval, a chatbot nem feltétlenül dönt úgy, hogy a folyóvizet „pataknak” nevezi a „patak” helyett, mert az utóbbinak lehet régimódibb regisztere. A modell nem mérlegeli ezeket a választásokat, hanem véletlenül teszi azokat.

Ezt a közelmúltban igazolták, amikor egy vezető kémiai folyóiratban megjelent cikket vissza kellett vonni, mert úgy tűnt, hogy a szerzők mesterséges intelligencia eszközt használtak a publikáció egy részének megfogalmazásához. Az eszköz az „egy etnikai csoport tömeges megölése” kifejezést használta a „végső megoldás” alternatívájaként, bár a szóban forgó bekezdés egy cink nanogélről szólt.

A frissítéssel kapcsolatban Murdoch azt mondta: "Nem lesz észrevehető különbség. Ugyanazok a véletlenszám-generátorok vannak ott – csak korábban teljesen véletlenszerű volt, most pedig statisztikailag kiszámítható, de még mindig véletlenszerű."

Az EU-ban működő összes mesterséges intelligencia-vállalatra érvényes szabályozás azt jelenti, hogy hónapokon belül el kell helyezniük ezeket a vízjeleket. Ez megnehezítheti a hallgatók, jogászok és egyetemi oktatók számára, hogy a chatbot által írt tartalmakat sajátjukként adják át.

Másik oka is van azonban az AI-tartalom vízjelezésére, mondta Murdoch: már annyi van belőle, hogy károsíthatja magukat a modelleket. A mesterséges intelligencia által írt tartalomra oktatott mesterséges intelligencia „modellösszeomlást” eredményez, ami a modellek összekeverését eredményezi.

Más szóval, a vízjel nem csak egy csendes, hatékony módja a dezinformáció leküzdésének – ez egy mélyen átalakító rendszer, amely biztosítja, hogy a chatbotok ne menjenek el. Ha elmélyedsz benne.