viernes, junio 14

Un hombre reclama nueve millones a los almacenes Macy’s por usar reconocimiento facial para acusarlo de un robo que no cometió | Tecnología

Un hombre de 61 años ha demandado a los almacenes Macy’s y a la tienda de gafas de sol Sunglass Hut por usar contra él un sistema de reconocimiento facial para acusarlo injustamente de robar en sus tiendas a mano armada. Harvey Eugene Murphy Jr., como se llama el denunciante, fue detenido en octubre de 2023 por el atraco en una de estas tiendas en el área de Houston (EE UU). Mientras estuvo detenido, y hasta que se comprobó la coartada que probaba su inocencia, Murphy fue violado y golpeado, según consta en su denuncia. De confirmarse, sería un nuevo caso en los que los sistemas de reconocimiento facial aplicados a la seguridad ciudadana provocan errores de graves consecuencias.

La fatídica historia arranca en enero de 2022, cuando dos atracadores armados robaron miles de dólares y productos en una de estas tiendas de gafas de Houston. Casi dos años después, la policía detuvo a Murphy cuando se encontraba en Texas en una oficina para renovar su permiso de conducir. Según la denuncia que ha adelantado The Guardian, el arrestado asegura que fue un empleado de la matriz de Sunglass Hut (EssilorLuxottica), en colaboración con Macy’s, quien dio su nombre a las autoridades.

Mientras el departamento de policía de Houston investigaba el robo a mano armada, este empleado utilizó un programa de reconocimiento facial para identificar a Murphy como uno de los ladrones. A pesar de que la imagen que se introdujo en el sistema provenía de cámaras de baja calidad, según la demanda, el representante de EssilorLuxottica llamó a la policía para avisarles de que ya había identificado con esta tecnología a uno de los culpables. Además, señaló a Murphy, que por entonces vivía en California, como responsable de otros dos robos.

Murphy reclama ahora a Macy’s y a EssilorLuxottica 10 millones de dólares (algo más de nueve millones de euros) por el uso indebido de este sistema de reconocimiento facial que lo identificó erróneamente. Durante su detención de 10 días en la cárcel del condado de Harris (Texas), sufrió golpes y una violación en grupo, lo que le dejó graves secuelas físicas y psicológicas.

“El ataque le dejó lesiones permanentes con las que tiene que vivir todos los días de su vida”, dice la demanda. “Todo esto le sucedió a Murphy porque los demandados confiaron en la tecnología de reconocimiento facial, que se sabe que es propensa a errores y defectuosa”.

El caso de Murphy vuelve a destacar las deficiencias y los peligros del uso del reconocimiento facial, sobre todo en un ámbito tan sensible como el de la persecución de presuntos criminales, ya que es conocido por producir falsos positivos, especialmente contra personas negras. Su abogado, Daniel Dutko, ha explicado a los medios locales que esta tecnología es la única explicación plausible para su falsa identificación y arresto.

“Sabemos que los estudios muestran que los afroamericanos tienen una alta tasa de falsos positivos basados en software de reconocimiento facial. También se sabe que comparar personas mayores con fotos suyas cuando eran jóvenes tiene una tasa muy alta de hasta el 90% de falsos positivos”, argumenta Dutko. Murphy contaba con antecedentes penales de las décadas de 1980 y 1990, por eso aparecía en el sistema que le identificó por error. Este sería el primer caso conocido de hombre blanco acusado por equivocación por medio de esta tecnología. “La historia del señor Murphy es preocupante para todos los ciudadanos de este país”, aseguró Dutko en un comunicado. “Cualquier persona podría ser acusada indebidamente de un delito basado en un software de reconocimiento facial propenso a errores, tal como le ocurrió a él”.

En los últimos años, varios casos han alertado del peligro de confiar en estos algoritmos para arrestar ciudadanos, como sucedió con Robert Julian-Borchak Williams, detenido por la policía de Detroit, o el de Porcha Woodruff, que estaba embarazada y la verdadera ladrona no. Por ese motivo, el uso de reconocimiento facial para combatir el crimen ha sido uno de los puntos más controvertidos en el debate de la ley pionera de inteligencia artificial en la Unión Europea.

Puedes seguir a EL PAÍS Tecnología en Facebook y X o apuntarte aquí para recibir nuestra newsletter semanal.