GazdaságSzerző: forbes 2026. 08. 16. 14 percnyi olvasás
Most, hogy az Anthropic elkezdte vízjelekkel ellátni a Claude AI kimenetét, ez felkeltette az érdeklődést a vízjeleltávolító alkalmazások iránt. Légy nagyon óvatos! Az AI Insider elemzése és adatlapja.
Mai rovatunkban a hazugságok és csalások özönét vizsgálom azon vízjeleltávolító alkalmazások mögött, amelyek állítólag képesek eltávolítani a generatív mesterséges intelligencia és a nagy nyelvi modellek (LLM) kimeneteiben található digitális vízjeleket. Bár az ilyen hazugságok és átverések már jó ideje léteznek, új és kirívó életet éltek át, miután az Anthropic bejelentette, hogy vízjellel látja el Claude mesterségesintelligencia által generált kimenetét.
Miért tenné fel a dolgokat az Anthropic bejelentése? Mivel az, hogy egy nagy LLM már alkalmazza az összes mesterséges intelligencia kimenetének automatikus vízjelét, emberek tömegei rohannak keresni a vízjel leküzdésére. Ezeknek az embereknek nem tetszik, hogy a mesterséges intelligencia kimenetét úgy lehet észlelni, mintha MI-től származna. Kétségbeesett kísérletként, hogy elkerüljék, hogy ujjaik beleszoruljanak a sütisüvegbe, döbbenetes sprint folyik egy olyan vízjel-eltávolító alkalmazás megtalálása felé, amely képes kiszedni a digitális vízjeleket. A probléma az, hogy a vízjel-eltávolító alkalmazások népszerűsítői felismerik, hogy a piac őrülete zajlik, és néhányan gátlástalanul kihasználják ezt a hirtelen megnövekedett keresletet. A félreértések, a hamis állítások, a csalások és más megtévesztő erőfeszítések arra késztetik az embereket, hogy egy vízjel-eltávolító alkalmazás csodákra képes, miközben a valóság az, hogy az eredmények legfeljebb félig keverednek, vagy kárt okoznak.
Beszéljünk róla. A mesterséges intelligencia áttöréseinek ez az elemzése része a Forbes-rovatomban a legújabb AI-ról szóló cikkemnek, beleértve a kulcsfontosságú AI-bonyolultságok azonosítását és elmagyarázását (lásd a linket itt).
Kezdje az Anthropic vízjelekkel kapcsolatos legutóbbi bejelentésének megvitatásával. Olyan volt, mint egy indító pisztoly robbanása egy sor nem szándékos káros következményért, amint azt egy pillanat múlva látni fogod.
Az Anthropic Claude támogatási oldalán 2026. augusztus 11-én közzétett bejegyzésben a népszerű mesterségesintelligencia-gyártó bejelentette, hogy elkezdik vízjelekkel ellátni mesterségesintelligencia-kimeneteiket. Az ügy mélyreható elemzéséhez lásd az itt található linket. Ennek eredménye az, hogy amikor a Claude-ot használja kérdések megválaszolására vagy válaszok megadására, a generált egyszerű szöveg ezentúl titkos vízjelet fog tartalmazni. A szöveg teljesen normálisan fog kinézni. Szabad szemmel semmi sem érzékelteti, hogy a szöveget vízjellel látták el. Nincsenek fülbemászó hangulatjelek vagy furcsa karakterek.
Hogyan rejthetnek el egy vízjelet a közönséges szövegben, de te nem látod? Aha, ez okosság a matematikában és a számítási hangszerelésben, hogy olyan szavakat válasszunk ki, amelyeknek végső soron finom, de kimutatható statisztikai mintázata van. Amikor a mesterséges intelligencia választ ír, gondosan választja ki a szavakat, amelyek nem csak a kérdésre vagy a lekérdezésre válaszolnak, hanem tükrözik a használt szavak mintás választását is, ami egyfajta nem nyilvánvaló jelként működik.
Gondold ezt így. Tegyük fel, hogy bármely adott mondat olyan szavakból állhat, amelyeknél többféle szó közül választhat, hogy melyik szót használja a mondatban. Például egy mondat azt mondhatja, hogy egy macska ült a földön. Ugyanezt a mondatot egy másik módja annak jelzése, hogy egy macska a földön élt. Tételezzük fel, hogy ezek a szavak, mint például a macska a macska, a sat szó, a föld pedig a padló helyett mind második választás, mégis teljesen ésszerű választás. Az AI-n belüli algoritmus kiválasztja azokat a szavakat, amelyek egy mintát testesítenek meg, például mindig kiválasztja a szókiválasztás második lehetőségét, amelyek később észlelhetők.
Azt hiszem, láthatja, hogy ezt a statisztikai emelkedést meglehetősen nehéz lesz észlelni. Az emberek nem valószínű, hogy meglátják a vízjelet, ha bármilyen mintát keresnek a megfogalmazásban. Továbbra is minden mondatnak van értelme, és betartja a szóban forgó témát. A második statisztikailag életképes szó kiválasztásának finomsága a vízjel előállításának szinte rejtett módja.
Hogyan állapítja meg egy felhatalmazott észlelőeszköz, hogy van-e vízjel?
Aha, ez azáltal, hogy tudja, milyen megközelítést alkalmaztak az induláskor, miközben a szöveget vízjellel látták el. Csekély az esélye annak, hogy bármely szokásos észlelési módszer kiszúrja a vízjelet. Az adott módszer ismeretében felépített eszköz képes megvizsgálni a mondatokat, és összehasonlítani a szóválasztásokat a mesterséges intelligencia által általában meghozott szóválasztási mintával. Ha a második szóválasztás következetesen előfordul a vizsgált szövegben, ez erősen jelzi, hogy valóban a mesterséges intelligencia hozta létre ezt a tartalmat.
Ezt a módszert sokkal robusztusabbá tehetjük. Talán ahelyett, hogy mindig a második választást választaná, a vízjel folyamat valami mást csinál. Tegyük fel, hogy az esetek 50%-ában a második választás, 30%-ában a harmadik választás, és az esetek 20%-ában a negyedik választás történik. Ez még nehezebbé teszi a dolgok feltörését és a vízjel megtalálását. Egy még erősebb módszer egy titkos kriptográfiai kulcs, amely a vízjelezési folyamatot a preferált token minták felé irányítja.
Eddig azt magyaráztam, hogyan történik a szöveg-orientált vízjelezés. A statisztikai emelkedési séma egyike a sok használható matematikai és számítási módszernek. Sokkal egyszerűbb megközelítések is használhatók, de ezek általában nagy erőfeszítés nélkül legyőzhetők. Ha a szöveg hangulatjeleket vagy speciális karaktereket tartalmaz vízjelként, akkor kétségtelenül habozás nélkül eltávolítja ezeket a látható zavarokat. Lehetnek úgynevezett láthatatlan karakterek is, például fehér alapon fehér betűtípus használata. Ez megint csak triviális megtalálni és kitörölni.
A mesterséges intelligencia által generált digitális fényképek és grafikus képek vízjelezése a motorháztető alatti bitszinten történik. Az emberek ezt nem látják könnyen. Mindenféle beültetett egyes és nulla nem befolyásolja a képet, de az érintett bináris reprezentáció vizsgálatával kimutatható. Lehetőség van kifinomult matematikai algoritmusok használatával a bitek feltöltésére oly módon, hogy később szinte senki más, csak az algoritmussal felvértezett személy tudja észlelni, hogy egy speciális minta része.
A közönséges szövegek vízjellel való megjelölése egészen másfajta vadállat. Bármi, amit a szöveggel tesznek, potenciálisan megváltoztatja a látott szavakat, és befolyásolja a szöveg jelentését. Ha lenne egy algoritmusa, amely egyszerűen azt mondaná, hogy az „of” szót „és” szóra kell cserélni, az eredményül kapott szöveg, amely ma már feltehetően mesterséges intelligencia által írtként is felismerhető, értelmetlen lesz az emberi használatra.
A statisztikailag emelt vízjelezési módszer egyre népszerűbb a mesterséges intelligencia-készítők körében, mivel egyfajta mintázatot vagy valódi vízjelet csepegtet a kimenetre kerülő szavak generálása során. Ennek célja annak biztosítása, hogy a válasz továbbra is olvasható és ésszerű legyen a beírt prompt számára. És természetesen megtestesíti a „rejtett” vagy titkos szókiválasztási mintát, amelyet később felismerhetnek a hozzáértők.
Az Anthropic azt mondta, hogy a vízjelük megmarad, ha a szöveg máshol is szerkeszthető, és némileg együtt lesz. Gondolkodjunk el ezen. Először is, a szöveg, ha teljesen érintetlen marad, a vízjelet fogja hordozni, mivel rendelkezik a szóválasztás titkos mintájával. A rejtélyes kérdés az, hogy mennyit lehet szerkeszteni, mielőtt a vízjel tönkremegy, és már nem lesz jelentős.
Képzeld el, hogy felveszem azt a mondatot, ami azt mondja, hogy macska, és megváltoztatom a szót macskára. Most elrontottam a vízjelet. Nem azzal a szándékkal tettem ezt, hogy aláássák a vízjelet; valóban, fogalmam sem volt, hol van a vízjel. Csak néhány kívánt szerkesztést végeztem. A vízjelészlelés továbbra is azt mondja, hogy a szöveg vízjeles? Tegyük fel, hogy a „föld” szót „padló” szóra cserélem, és hasonlóképpen teszem, ha a „resid” szót „ült” szóra cserélem. Majdnem eltüntettem a vízjelet. A vízjel szinte teljesen megrongálódott vagy le van bontva.
A vízjel statisztikai jelének elég magas küszöbértéken kell maradnia ahhoz, hogy a vízjel ésszerűen sértetlen maradjon. Minél többet szerkesztek a szövegen, valószínűleg annál kevesebb vízjel marad. Ha a vízjelek mondjuk csak a szöveg 10%-án maradnak meg a szerkesztéseim után, akkor a dolgok most kezdenek elfajulni. Az észlelőeszköz vékony jégen lesz, és arra a következtetésre jut, hogy a vízjel valóban ott van.
Más problémák merülnek fel. Fontolja meg ezt. Tegyük fel, hogy nem szerkesztem az AI által generált választ. egy cseppet sem változtattam rajta. De úgy döntök, hogy beillesztem a szöveget egy sokkal nagyobb szövegbe. Az egyetlen mondat nem lesz elég a szöveg túlsúlya ahhoz, hogy a vízjel életképes jelzéseként szolgáljon. Elvész a szövegtengerben. A statisztikai jelet egyre felhígítja a vízjel nélküli tartalom.
A statisztikailag felemelő vízjelezési módszert, amely szinte minden szöveges vízjeles módszerhez hasonlít, egy sóval kell értékelni. Ha a felhasználó összegyűjti a mesterséges intelligencia által generált vízjeles szöveget, és belemeríti egy nagy mennyiségű vízjel nélküli szövegbe, a vízjel kevésbé életképes lesz.
Sokkal több menekülési útvonal van. Ha a felhasználó az egyik mesterséges intelligenciához megy, hogy szöveget generáljon, majd átírja a szöveget egy másik AI-nak, akkor az esélye annak, hogy a kapott szövegben a végén már nem lesz életképes vízjelkoncentrációja. A másik mesterséges intelligencia meg fogja hozni a döntéseit, hogy melyik szavakat válassza ki, és már nem kötődik a második választási preferenciához.
Most, hogy megvannak az alapok az asztalra, vegyük figyelembe az állítólagos vízjelek eltávolításának témáját. kimenetek.
Először is meg kell fontolnunk, hogy az AI által generált tartalom milyen típusú vízjellel rendelkezik, amelyet szeretnénk eltávolítani. Ha digitális fényképről vagy képről van szó, az alkalmazásnak feltehetően meg kell találnia és „eltávolítania” a vízjel részét képező biteket. Ez magában foglalhatja a különböző egyesek nullákra és nullák egyesekre való átállítását. Az „eltávolítás” szót idézőjelbe tettem, mert azon tréfálkodik, hogy a bitek megváltoztatása úgy, hogy többé ne tükrözze a vízjelet, önmagában ugyanaz-e, mint az „eltávolítás”. Ragaszkodhat ahhoz, hogy a vízjelet elrontották vagy lebontották, ahelyett, hogy azt mondanák, hogy eltávolították.
Ha a tartalom szöveg, akkor az „eltávolítás” első szintje az lenne, hogy a szövegben átvizsgálják a vízjelek nyilvánvalóbb formáit. A rejtett karakterek általában könnyen észlelhetők, és valóban eltávolíthatók a szövegtörzsből. Ugyanez vonatkozik a furcsa karakterekre és a hangulatjelekre. Ezek eltávolíthatók.
A keményebb anyát a statisztikailag felemelő vízjelek jelentik. Szinte nulla esély van annak megállapítására, hogy milyen vízjelezési megközelítést használtak, hacsak az alkalmazás készítője nem tudja, hogy milyen algoritmust alkalmaztak. Még ha ismerik is az algoritmust, ez attól függ, hogy tudják, mik voltak a szóválasztások. Mindent összevetve csekély esély van arra, hogy maguk a mesterséges intelligencia-készítők rendelkezzenek mindezzel.
Az Anthropic bejelentés egyik figyelemre méltó vonatkozása az, hogy nem árulják el, hogy milyen konkrét módszert használnak a vízjelzéshez. Egyrészt hangsúlyozhatnád, hogy tartsák titokban a módszerüket. Ha elárulják, hogyan működik, az emberek kétségtelenül megtalálják a módját, hogy legyőzzék. Ergo értelmes maradni a titkos módszerükkel kapcsolatban.
Az érem másik oldala, hogy a nyilvánosságnak jelenleg nincs kész módja annak kiderítésére, hogy a vízjel létezik-e egy tartalomban vagy sem. Ha nem ismerjük a módszert, hogyan állapíthatjuk meg, hogy ott van-e a vízjel? Az Anthropic bejegyzésben a válasz az, hogy az Anthropic azt jelzi, hogy dolgoznak ezen a szemponton („Azon is dolgozunk, hogy a felhasználók és más harmadik felek észlelhessék Claude beágyazott vízjeleit és származási metaadatait”).
Feltehetően végül képes lesz arra, hogy az Anthro egy harmadik tartalom észlelése vagy egy olyan eszköz segítségével lefuttathassa azt. párt. A módszert a mellkasuk közelében fogják tartani. Biztos vagyok benne, hogy a hackerek erőteljesen megpróbálják visszafejteni az érzékelőket, és egyébként folyamatosan azon dolgoznak, hogy feltörjék a vízjelezés végrehajtásának kódját. Ez egyike azon kevés biztos fogadásoknak az életben.
Az Anthropic bejelentése arra késztette az embereket, hogy sietve keressenek egy vízjel-eltávolító alkalmazást, amely eltávolítja a Claudio által generált vízjelet. Valószínűleg nem veszik észre, hogy az eltávolítás inkább a vízjel megrongálódása vagy lebontása, mint a vízjel önmagában való eltávolítása. Ennek ellenére a legtöbb embert valószínűleg nem érdekli, hogy minek nevezzük, amíg a vízjel már nem észlelhető.
Sietésükben egyesek szalmaszálat markolnak. Találnak egy eltávolító alkalmazást, amely szerint csodákat tesz, azonnal letöltik és használják az alkalmazást. Tudnák egyáltalán, hogy sikerült-e az eltávolítás? Nem, most nem. Mivel nincs hivatalos módja a vízjel tesztelésének, nincs működőképes eszköze annak ellenőrzésére, hogy az eltávolító alkalmazás megtette-e a csodálatos tettet. Talán azt mondja, hogy megtörtént, ami valószínűleg pofátlanság.
A gonosztevők hamis vagy csaló eltávolító alkalmazásokat állítanak be, amelyek célja a számítógép vírussal való megfertőzése vagy más gonosz cselekedetek. Azok a ragaszkodó patkányok bátran kijelentik, hogy vízjeleltávolító alkalmazásukat kifejezetten az antropikus vízjelek kezelésére frissítették. Átverést hajtanak végre.
Egy másik változat, hogy bizonyos típusú vízjelekhez készíthetnek eltávolító alkalmazást, például csak a vízjeleket kezelik a digitális fényképeken és képeken, de az alkalmazást izgatottan letöltő személy nem olvassa el az apró betűs részt. Úgy gondolják, hogy ez magában foglalja a szöveges vízjeleket is. Valószínűleg nem veszik észre, hogy a szövegre nem lesz hatással az alkalmazás. Vagy lehet, hogy az eltávolítás a nyilvánvalóbb szövegalapú vízjelekkel, például rejtett karakterekkel foglalkozik, és nem képes statisztikailag emelni a vízjeleket.
Arany van bennük a dombok között, amikor vízjel-eltávolító alkalmazásról van szó. És csakúgy, mint egy letűnt korszak híres Aranylázában, sokan lesznek, akik anélkül keresik ezeket az alkalmazásokat, hogy egy cseppet sem tudnák, hogy működnek-e. Talán tisztában van vele, hogy az aranyásók aranybúvárbotokat vásároltak, amelyek állítólag jelezték, hol van eltemetve az arany. Átverés volt. Ugyanez történik egyes eltávolítóalkalmazások esetében is.
A legális eltávolítóalkalmazásnak egyértelműen jeleznie kell, hogy mit tehet és mit nem. Ennek félkövérnek és elöl-középen kell lennie. Nincs verés. Nincs apró nyomat. Ha az eltávolító alkalmazás állításai hihetetlenek, akkor valószínűleg hihetetlen. Ha az állításokat szaknyelven fogalmazzák meg, ez egy másik módja annak, hogy megpróbáljuk megzavarni az embereket, és azt gondolják, hogy sziklaszilárdnak kell lennie. Ezenkívül az állítások csak akkor hasznosak, ha azokat egy elfogulatlan, független, felismerhető, valós harmadik fél igazolja; egyébként erősen gyanús, és megbízhatatlan és megalapozatlan állításoknak kell tekinteni.
Sajnos elég sok rejtély van a kezünkben. Lesznek olyan emberek, akik nem ismerik az eltávolítási szempontokat, és vakon bedőlnek minden eltávolító alkalmazásnak. Vannak legitim eltávolító alkalmazások, amelyeket minden hamis és gonosz elront. A gonosztevők élvezik az ilyen típusú körülményeket. A zűrzavar közepette megúszhatják a vad hazugságokat és átveréseket. Ráadásul az üzlet virágzik.
Ez a probléma egyre súlyosabb lesz. Hogyan? A nagy mesterségesintelligencia-gyártók mindegyike elkerülhetetlenül vízjellel látja el az AI által generált kimeneteket. Ez sokkal több embert fog arra ösztönözni, hogy kétségbeesetten támaszkodjanak egy vízjel-eltávolító alkalmazásra. Körülbelül 1,5 milliárd ember használ népszerű LLM-eket és generatív mesterséges intelligenciát hetente. Véleménye szerint ebből a milliárdból hány százalék fog szívesen találni és használni egy vízjel-eltávolító alkalmazást? Nagyon sokat. Milliók vagy talán milliók sokasága.
Ez egy óriási probléma, amely jelenleg a radar alatt áll, és kevesen ismerik fel, milyen csúnya és rögös út vár a társadalomra.
Egy utolsó gondolat egyelőre. Az ókori görög drámaíró, Szophoklész ezt a határozott megjegyzést tette: „Vigyázz a veszélyre!” Ezt azért említem meg, mert egyesek azt hiszik, hogy ha olyan eltávolító alkalmazást választanak, amely nem éri el az eltávolítást, akkor nem esett különösebb bántódásuk (bár előfordulhat, hogy váratlanul éri őket, amikor egy vízjel-érzékelő tetten éri őket). A további veszély az, hogy az alkalmazásnak más rosszindulatú vagy huncut szándékai is lehetnek. Legyen óvatos, legyen szkeptikus, legyen óvatos, és tartsa nyitva a szemét a veszélyekre.
Napi