Ian Clayton, un pensionar de 67 de ani din Chester, fost specialist în sănătate și securitate în muncă, a intrat într-un magazin și a fost abordat brusc de o angajată cu o atitudine severă.
„Scuzați-mă, puteți să lăsați tot jos și să părăsiți magazinul chiar acum?”, i-a spus aceasta.
Clayton povestește că a rămas șocat, iar abia când era condus grăbit spre ieșire, trecând pe lângă casele de marcat, a întrebat ce a făcut.
„Ați apărut în sistemul nostru numit Facewatch ca hoț din magazine. Este un afiș în geam.”
Clayton este doar unul dintre mai mulți oameni care au povestit pentru The Guardian că au fost identificați în mod eronat drept hoți de magazine care folosesc Facewatch, un sistem de recunoaștere facială live implementat în tot mai multe magazine din Marea Britanie pentru combaterea furturilor din retail.
Sistemul nu dă erori
Pe site-ul companiei se afirmă că sistemul care utilizează inteligența artificială are o rată de acuratețe de 99,98% și că luna trecută a trimis 50.288 de alerte privind „infractori cunoscuți” către magazine. Însă cei identificați greșit spun că, fie din cauza tehnologiei, fie a erorilor umane, au fost scoși din magazine fără explicații și fără să știe cum să conteste decizia sau să-și demonstreze nevinovăția.
Clayton spune că, după incident, a încercat să sune la numărul afișat pe posterul Facewatch, însă a fost întâmpinat de un mesaj automat care spunea că firma nu preia apeluri și că trebuie să trimită email.
Abia după ce a depus o cerere oficială de acces la datele personale, conform legislației privind protecția datelor, a aflat că fusese asociat în mod greșit cu un presupus furt dintr-o vizită anterioară.
„A fost ca și cum eram vinovat până la proba contrarie. Este un sentiment îngrozitor. Îți lasă un gol în stomac”, spune el. „Pare ceva desprins din Orwell. Suntem înregistrați constant și introduși în astfel de sisteme, dar ar trebui să fim acolo? Acum sunt hiperconștient de camerele video peste tot.”
Ulterior, magazinul care l-a dat afară i-a oferit scuze și un voucher de 100 de lire „ca gest de bunăvoință, fără admiterea vreunei responsabilități”, cu condiția păstrării confidențialității incidentului. Clayton a refuzat.
Explicațiile poliției
Pe măsură ce recunoașterea facială este extinsă atât în poliție, cât și în retail, comisarii britanici pentru biometrie avertizează că supravegherea legală este mult în urma dezvoltării rapide a tehnologiei.
Anul trecut, Ministerul de Interne britanic a recunoscut că sistemele de recunoaștere facială au șanse mai mari să identifice greșit persoane de culoare sau asiatice comparativ cu persoanele albe, precum și femei mai des decât bărbați.
Un alt caz este cel al lui Jennie Sander, în vârstă de 48 de ani, din Birmingham.
Femeia făcea cumpărături într-un magazin B&M când un agent de securitate i-a spus că sistemul Facewatch a semnalat-o și că trebuie să o însoțească prin magazin pentru a se asigura că nu fură.
„Am fost devastată. Erau mulți oameni în jur și m-am simțit umilită. I-am spus că vreau să plec, iar el m-a escortat afară”, povestește ea.
Ajunsă acasă, Sanders a început să se documenteze despre Facewatch și a aflat că informațiile sunt partajate între mai mulți retaileri.
„M-am gândit: o să fiu tratată ca hoț în fiecare magazin. Nu o să mai pot face cumpărături fizic niciodată.”
Pentru a afla de ce figura în sistem, i s-a cerut să trimită o copie a pașaportului către Facewatch.
Ulterior a aflat că fusese introdusă în baza de date pentru un presupus furt al unei sticle de vin din B&M, incident despre care spune că nu a avut loc niciodată. Magazinul i-a comunicat că nu mai deține nicio probă, inclusiv imaginile CCTV din ziua respectivă.
Numele ei a fost șters din sistem, iar compania i-a oferit un voucher de 25 de lire.
Ea afirmă că a depus plângere la Information Commissioner’s Office (ICO), autoritatea britanică pentru protecția datelor, însă la șapte luni după sesizare încă nu primise niciun răspuns.
Facewatch susține că aceste cazuri sunt extrem de rare și că sistemul este conceput pentru a sprijini, nu pentru a înlocui, decizia umană.
