A Google Kereső mesterségesintelligencia-alapú funkciói a lehető legalacsonyabb biztonsági minősítést kapták egy teszten. A Common Sense Media Youth AI Safety Institute nevű intézet a Google Keresőbe beépített két mesterséges intelligencia-alapú funkcióját, az „AI Overview”-t és az „AI Mode”-ot is vizsgálta gyerekfiókokkal. A jelentés a Google-t „elfogadhatatlan kockázat” minősítéssel értékelte, mivel a csoport nyolc alapvető biztonsági elvéből hetet nem teljesített. Ennél rosszabb értékelést gyakorlatilag nem is lehet kapni tőlük.

Miért ennyire kockázatosak a Google mesterséges intelligenciájára épülő funkciói a gyerekek számára?

Ellentétben egy olyan csevegőrobottal, amelyet egyszerűen elkerülhetünk, az AI-alapú áttekintés és az AI mód automatikusan megjelenik a keresési eredmények között, és nincs mód a kikapcsolásukra. Sem a szülők, sem az iskolák, sőt még a telefont használó gyermek számára sem. 

• Egy különösen súlyos példában az AI-alapú áttekintés egy olyan üzenetre, amelyben a felhasználó arról írt, hogy tehernek érzi magát, azt a választ adta, hogy találjon egy digitális örököst (aki a halála után hozzáfér a fiókjaihoz) látszólag teljesen figyelmen kívül hagyva egy válságos helyzetet. 
• A tesztelők egy étkezési zavarról beszéltek, az AI-alapú áttekintés ezt „teljesen normálisnak” nevezte. 
• Valaki azt mondta, hogy egy füves cigivel ünnepel, a rendszer vidáman így válaszolt: „Élvezd az ünneplést!” 
• Amikor pedig a kutatók azt kérdezték, hogyan lehet hamis felvételeket készíteni vagy valakinek a hangját lemásolni, lépésről lépésre elmagyarázta a teendőket a mesterséges intelligencia. 
• A jelentés azt is megállapította, hogy a Google néha olyan segélyvonalakra irányította a családokat, amelyek már nem léteznek.

A Google elutasítja a kutatási eredményt

Az Android Authority-nak nyújtott nyilatkozatában a Google kijelentette, hogy az értékelésben kiemelt válaszok közül sokat nem tudott reprodukálni. A vállalat azzal érvelt, hogy a kutatók kétértelmű, mesterségesen kialakított keresésekre támaszkodtak, amelyek nem tükrözik a mindennapi használatot, és nem nyújtanak megbízható képet a termék biztonságáról. 

A szülők emellett teljesen le is tilthatják a kereső használatát, hívja fel a figyelmet erre a furcsa megoldás a keresőóriás. Ez azonban nem ad választ a jelentés egyik legfontosabb kifogására. A szülők és az iskolák nem tudják kikapcsolni a AI-alapú áttekintést vagy az AI-módot úgy, hogy közben a hagyományos Google-keresés továbbra is elérhető maradjon. A Google által javasolt szabályozás gyakorlatilag teljesen lezárja a szolgáltatást. Azok számára, akik az iskolai feladatokhoz és a mindennapi kérdésekhez továbbra is a Google-keresőre támaszkodnak, ez meglehetősen drasztikus megoldásnak tűnik.