A Sainsbury's felfüggesztette az élő arcfelismerő technológia használatát az egyik londoni fiókjában, miután egy ügyfelet tévesen kihívtak bolti tolvajként, és távozásra szólítottak fel.

A 46 éves Matt Arnold az East Dulwich üzletben vásárolt, amikor a vezetőség megállította egy önkiszolgáló kasszánál.

Az élményt a "jövő félelmetes bepillantásaként" jellemezve arra figyelmeztetett, hogy a kiskereskedelmi felügyeleti technológia megalázza az ügyfeleket, és olyan rendszert hoz létre, amelyben a személyzet úgy érzi, hogy emberi logika nélkül kell automatizált riasztásokat követnie.

A szupermarket közölte, hogy bocsánatot kért Arnoldtól, és azt állította, hogy a hibát "emberi hiba okozta", de a kritikusok a technológia leállítását kérték.

Az incidens augusztus 6-án történt, amikor Arnold – a vígjátékok promóciója, aki a szomszédos Dulwich Hamlet Football Clubban rendezett stand-up eseményhez szerezte be a kellékeket – arra várt, hogy egy munkatárs jóváhagyja az alkoholvásárlást.

Miután már beszkennelte a tárgyait a Nectar hűségkártyája mellett, azt mondta, hogy odaintett egy kísérőt.

Ehelyett azt mondta, hogy a vezetőség két munkatársa megkereste, és közölték vele, hogy a hét elején történt incidens miatt nem tudják kiszolgálni.

"Odajöttek, és azt mondták, hogy mennem kell. A személyzet tagja azt mondta, hogy az MI azonosított, és a kamerák megjelöltek" - mondta a BBC Londonnak.

„Egy bolti tolvaj nem mászkál annyi bevásárlással, nem szkenneli át, nem teszi át a Nektárkártyáját.

"De az idegesített fel, hogy arra gondoltam, hogy ez lehet a jövő: az emberek csak hallgatják, mit mond nekik a gép, anélkül, hogy a következményekre gondolnának."

Miután kikísérték a helyiségből, Arnold azt mondta, hogy a bejárat felől visszanézett, és látta, hogy egy CCTV monitor figyelmeztette a fejét, és egy piros kör vette körül az arcát.

A Sainsbury központi irodája másnap felvette a kapcsolatot Arnolddal, hogy bocsánatot kérjen, fenntartva, hogy az incidenst "emberi hiba" okozta, nem pedig szoftverhiba.

Nem ez az első alkalom, hogy a Sainsbury arcfelismerő rendszere – amelyet a Facewatch technológiai cég szállított – egy ártatlan vásárló kihívásához vezetett.

Szeptemberben Warren Rajah-t elrendelték egy Elephant and Castle-i fiókból, miután ugyanaz a Facewatch szoftver tévesen megjelölte – a biztonsági cég később megerősítette, hogy nem is volt a rendszerén.

Ezt az incidenst a Sainsbury's és a technológiai cég is "emberi hibának" tulajdonította.

A Facewatch is részt vett hasonló ügyekben más, partnereként működő kiskereskedőkkel, többek között egy Home Bargains üzletben 2024-ben és egy Cardiff B&M-ben tavaly.

Arnold elmondta, hogy tapasztalatai alapján azt hitte, hogy a személyzet nehezen tudja működtetni a rendszert egy forgalmas bolti környezetben.

"Bár ami velem történt, az szörnyű volt, sajnálom a személyzetet" - mondta.

"Hibák fognak történni. Nincsenek felszerelve az AI megfelelő megvalósításához."

Arnold azzal érvelt, hogy még ha a technológia olyan pontos is, mint a Sainsbury's állítja, a 0,2%-os hibaarány "sok ember, amikor milliók mennek be egy Sainsbury üzletébe hetente".

"Nálam több embert kifogott ez" - tette hozzá.

A Sainsbury szóvivője megerősítette, hogy a technológiát szüneteltették a délkelet-londoni Dulwich üzletben a vizsgálat idejére, de a Facewatch arcfelismerő cég által szállított rendszer szélesebb körű bevezetését védte a kiskereskedelmi dolgozók elleni erőszak fokozódására hivatkozva.

Azt mondták: "Megkerestük Arnold urat, hogy elnézést kérjünk a dulwichi szupermarketben szerzett tapasztalataiért. Az incidenst emberi hiba okozta, nem az arcfelismerő technológia.

"Az ügyfelek megnyugodhatnak, hogy a Facewatch rendszer 99,98%-os pontossággal rendelkezik, és minden mérkőzést képzett menedzser ellenőriz."

A Facewatch szóvivője azt is elmondta, hogy ebben az esetben "nem a technológiájuk volt a hibás".

"Helyes riasztást küldtek a kiskereskedőnek, de később emberi hiba történt az üzletben történő kezelés során" - mondták.

A cég hozzátette, hogy az üzlet felfüggesztése "elővigyázatossági intézkedés", amellyel megakadályozható a további riasztások, amíg a személyzet további képzésen vesz részt.

A rendszer pontosságával kapcsolatos aggodalmakra tekintettel a Facewatch elmondta, hogy 99,98%-os adata kettős algoritmusos ellenőrzést és emberi elemzők által végzett, élő kiskereskedelmi teszteléseken alapul.

Hozzátette, hogy a fennmaradó 0,02%-os árrés nem "valódi téves azonosítási arány", hanem egy határ, ahol további emberi ellenőrzések szűrik ki a lehetséges hibákat a riasztások elküldése előtt.

A Facewatch szerint a riasztások legfeljebb egy óráig láthatóak maradnak a személyzet eszközein, és minden téves azonosítást naplóz.

A Sainsbury's kiemelte a Brit Kiskereskedelmi Konzorcium legutóbbi adatait, amelyek szerint országszerte napi 1600 erőszakos és bántalmazási incidens fordul elő a bolti dolgozókkal szemben, ami jelentősen meghaladta a 2019–2020 közötti napi 455-öt.

A kereskedő hozzátette, hogy az arcfelismerő rendszer kezdeti kipróbálása két üzletben 46%-kal csökkentette a naplózott lopások és antiszociális viselkedések számát, és az elkövetők több mint 90%-a nem tért vissza.

Silkie Carlo, a polgári jogi csoport, a Big Brother Watch igazgatója felszólította a Sainsbury's-t, hogy semmisítse meg a technológiát, azzal érvelve, hogy az "bűnözőkként kezeli az ügyfeleket".

"Az ehhez hasonló súlyos hibák elkerülhetetlenek, amikor egy nemzeti kiskereskedő több százezer személyazonosító ellenőrzést végez válogatás nélkül ezzel a baljós felügyeleti technológiával" - mondta.

Arnold, aki a Sainsbury's 150 GBP értékű jószolgálati utalványát adományozta egy helyi élelmiszerbanknak, megkérdőjelezte, miért marad aktív a rendszer máshol.

"Ha felfüggesztik ebben az East Dulwich üzletben, akkor elismerik, hogy probléma van vele. Miért nem függesztik fel minden üzletben?"

Hallgassa meg a BBC Radio London legjobb műsoraitHangokés kövesse a BBC LondontFacebook,külső,X,külsőésInstagram,külső. Küldje el történetötleteit a címrehello.bbclondon@bbc.co.uk,külső