Acusat de robatori un home negre per l'error d'un programa de reconeixement facial

Ha passat a Detroit, als Estats Units, i malgrat que la policia no tenia gaire més proves que la identificació de l'algorisme, li ha costat molt que el procediment judicial es tanqués
Acusat de robatori un home negre per l'error d'un programa de reconeixement facial
Michigan, Estats Units

Acusat de robatori un home negre per l'error d'un programa de reconeixement facial

Ha passat a Detroit, als Estats Units, i malgrat que la policia no tenia gaire més proves que la identificació de l'algorisme, li ha costat molt que el procediment judicial es tanqués
Josep Maria Camps Collet Actualitzat
TEMA:
Racisme
Acusat de robatori per identificació errònia d'un programa de reconeixement facial
Robert Williams, l'home negre de 42 anys de Detroit acusat per un programa d'ordinador de robar rellotges de luxe (Foto: ACLU)

Un dia de gener d'aquest any Robert Williams, un ciutadà negre de 42 anys que treballa en una empresa de recanvis d'automòbils a prop de Detroit, als Estats Units, va rebre una trucada de la policia.

Li reclamaven que anés a la comissaria per ser detingut, es va pensar que era una broma i no en va fer cas, però unes hores després el van detenir quan arribava en cotxe a casa seva.

A la comissaria els policies li van ensenyar unes quantes captures de càmeres de seguretat d'una botiga de luxe, on es podia veure un home negre com ell, però que no era ell, i els va dir:

"No, no soc jo, us penseu que tots els negres som iguals?"


5 rellotges de luxe

Més d'un any abans la persona gravada havia robat a la botiga cinc rellotges de luxe valorats en uns 3.400 euros, van posar les imatges en un programa d'ordinador i aquest va identificar Williams com el lladre.

Una dona que havia estat testimoni del robatori va confirmar la identificació, i amb això n'hi va haver perquè el detinguessin.

Però com que no hi havien més proves i, a més, ell sostenia que no havia estat a la botiga i a la imatge, malgrat que era molt ampliada i borrosa, es veia força clar que no era ell, el jutge va retirar l'acusació.

Denunciat per l'ACLU

El cas l'ha denunciat aquests dimecres la Unió Nord-americana per les Llibertats Civils, l'ACLU, que ha celebrat que una ciutat com Boston hagi prohibit utilitzar aquest tipus de tecnologia amb fins policials:

 

Entre altres mitjans, el cas l'ha relatat el diari New York Times, NYT, que assegura que és un dels primers d'identificació policial errònia amb algorismes informàtics.

Segons aquest relat, l'única relació de Williams amb el robatori l'havia establert el programa informàtic, i l'única investigació que va fer la policia va ser ensenyar les imatges a un dels dos testimonis.

Hi ha diversos estudis, com un del MIT de Boston, que asseguren que aquest tipus de programaris funcionen bé amb persones blanques, però malament amb les d'altres perfils racials.

El motiu és que per elaborar-los no es fan servir prou varietat d'imatges i, per tant, els resultats tenen molt sovint biaixos erronis que es poden considerar racistes.

La foto del carnet de conduir

Els mitjans nord-americans citen fonts policials i judicials que posen en dubte que hi hagi prou garanties d'èxit amb imatges de poca qualitat, com les de les càmeres de seguretat molt ampliades.

El programa informàtic de la policia de Michigan va comparar les imatges de la botiga amb la seva base de dades, d'uns 50 milions d'imatges, i la va associar amb la del carnet de conduir de Williams.

El cert és que els mateixos policies que van interrogar Williams, a instàncies d'aquest, van comparar les dues imatges i, segons ell, van dir llavors que "l'ordinador es devia haver equivocat".

A més, el document generat pel programa informàtic amb la identificació deixava clar que no és base suficient per detenir la persona, i que cal fer una investigació posterior, que en aquest cas no va ser gaire acurada.

Document policial generat en el cas de Robert Williams, que especifica que "no és una identificació positiva"

Malgrat això, les maquinàries policial i judicial no es van aturar, i no ha estat fins ara que s'ha divulgat la notícia i l'ACLU ho ha denunciat, que el jutge ha tancat definitivament el cas.

Mentrestant, Williams va estar detingut 30 hores, va haver de pagar una fiança de 1.000 dòlars, contractar advocat i veure com es desestimava el cas, però no es tancava per si l'altre testimoni també corroborava la identificació.

El mateix Williams ha explicat el cas en primera persona al diari Washington Post, en un article d'opinió en què expressa el dubte de què podria haver arribat a passar quan el van detenir si s'hagués deixat endur per la ràbia que va sentir, en una al·lusió indirecta a la mort de George Floyd:

"Com li hagués passat a qualsevol, estava molt empipat pel que m'estava passant. Com qualsevol altre home negre, vaig preguntar-me què podia passar si feia massa preguntes als policies o expressava la meva ràbia obertament, malgrat que sabia que no havia fet res mal fet."

 

San Francisco prohibeix l'ús de la tecnologia de reconeixement facial a la policia
El reconeixement facial es basa en patrons algorítmics
ARXIVAT A:
Racisme Tecnologia
Anar al contingut