Az új üzemmód szigorúbb biztonsági intézkedéseket tartalmaz, például korlátozza az önkárosításról, erőszakról és étkezési rendellenességekről szóló beszélgetéseket, valamint lehetőséget ad a szülőknek arra, hogy felügyeljék gyermekeik tevékenységét. A szülők beállíthatnak „csendes órákat”, értesítéseket kaphatnak érzékeny témák felmerülésekor, és kezelhetik a fiók bizonyos funkcióit – számolt be róla a BBC.

Felismerték, hogy káros hatással van a gyerekekre a csevegőrobot

Az OpenAI lépése egy szélesebb körű trend része, amelyben a technológiai vállalatok, például a Meta, fokozott figyelmet fordítanak a tizenévesek online biztonságára. Ez részben a közösségi média és az AI-eszközök mentális egészségre gyakorolt hatásával kapcsolatos aggodalmakra, valamint a jogi és szabályozási nyomásra adott válasz. Az OpenAI-t már korábban is érte kritika és jogi kihívás, amelyek szerint a ChatGPT káros hatással lehet a gyermekekre, különösen azért, mert a csevegőrobotot sokan érzelmi támogatást nyújtó „társként” kezelik. Az új tini-fiókok bevezetésével a vállalat igyekszik minimalizálni ezeket a kockázatokat, és hangsúlyozza, hogy a ChatGPT mesterséges intelligencia, nem pedig érző lény.

Új funkciók érkeznek, figyelmeztet a ChatGPT

Az új funkciók között szerepel, hogy a felhasználók kikapcsolhatják az emberi hangú válaszadást, így a technológia kevésbé tűnik „emberinek”. Emellett rendszeres emlékeztetők figyelmeztetik a fiatalokat, hogy tartsanak szünetet a használatban valamint emlékeztetik őket arra, hogy a ChatGPT nem élőlény, hanem egy mesterséges intelligencia-alapú eszköz. Bár az OpenAI szerint nem konkrét probléma miatt vezették be ezeket az intézkedéseket, egyre nagyobb az aggodalom amiatt, hogy az emberek – különösen a fiatalok – hajlamosak érző lényként tekinteni az AI-eszközökre. Mustafa Suleyman, a Microsoft mesterséges intelligencia-részlegének vezetője korábban már kifejezte aggodalmát az „érzékelhetően tudatos” AI-termékek társadalmi hatásai miatt, amelyek szerinte komoly kihívásokat jelenthetnek.

A vállalat közleménye szerint a tizenévesek mesterséges intelligencia-használatának olyan védelmi intézkedésekkel kell járnia, amelyek támogatják fejlődésüket, erősítik a valós kapcsolataikat, és hosszú távon egészséges szokásokat alakítanak ki. Az új tini-fiókok alapértelmezettként lesznek beállítva azok számára, akik regisztrációkor tinédzserként azonosítják magukat, vagy akiket a rendszer 18 év alatti felhasználóként azonosít.