A Meta kiterjeszti a gyermekvédelmi rendszerét annak érdekében, hogy a szülőknek – és minden bizonnyal a hatóságoknak is – bizonyítsa: a platformjai számukra biztonságosak. Bevezetettek egy új biztonsági funkciót, amely szól a szülőknek, ha a gyermekeik AI-jal folytatott csevegéseiből arra lehet következtetni, hogy önkárosításon vagy öngyilkosságon gondolkodnak.

A Meta meg akarja mutatni, hogy biztonságos a közösségi média

Amikor egy tizenéves felhasználó öngyilkosságról vagy önkárosításról beszél, a Meta AI máris a krízis-segélyvonalakhoz irányítja, és arra ösztönzi őket, hogy forduljanak egy olyan felnőtthez, aki segíteni tud. Mostantól kezdve a vállalat (amelynek a tulajdonában van többek között a Facebook, az Instagram, a Threads és a WhatsApp) emellett értesíti a tizenéves felügyeletét ellátó szülőket vagy gondviselőket is arról, hogy gyermekük veszélyben van. Emellett tanácsokat is ad nekik arról, mit tehetnek a gyerekeikért.

Ez a funkció már elérhető azoknak a szülőknek, akik az Instagram szülői felügyeletét használják az Egyesült Államokban, az Egyesült Királyságban, Ausztráliában és Kanadában. Az év végére világszerte mindenki számára elérhetővé válik a vállalathoz tartozó közösségi médiában, aki a szülői felügyeletet használja.

• A vállalat emellett azon is dolgozik, hogy lehetővé tegye a segélyszolgálatok értesítését, ha egy felhasználó Meta AI-vel folytatott beszélgetése arra utal, hogy közvetlen öngyilkossági kockázatnak van kitéve, függetlenül attól, hogy kiskorú vagy felnőtt. 
• Májusban az OpenAI bevezetett egy olyan funkciót, amely szintén az önkárosítás megelőzését célozza. A „Trusted Contact for ChatGPT” névre keresztelt funkció lehetővé teszi a felhasználók számára, hogy kijelöljenek egy barátot, akivel a vállalat kapcsolatba léphet, ha fennáll a veszélye, hogy az illető maga ellen fordulna.
• A Meta „Korlátozott tartalom” beállítása pedig mostantól a Meta AI-val való interakciókra is vonatkozik. Ha egy szülő bekapcsolta az Instagramon a „Korlátozott tartalom” funkciót, amely kiszűri az érzékeny témákat tartalmazó tartalmakat – például a felnőtteknek szóló képi anyagokat és az önkárosítással kapcsolatos tartalmakat –, a gyerekek AI-vel való interakciói is korlátozottabbak lesznek.

A vállalat igyekvése minden bizonnyal nem véletlen. Az utóbbi időszakban egyre több országban felmerült a közösségimédia-platformok korlátozása vagy tiltása a gyerekeknek, az Európai Unióban pedig már egységes szabályozásra törekednek a legfelsőbb szinteken is.