Home / Noticias / El reconocimiento facial de Amazon igualó a 28 miembros del Congreso con fotografías policiales.

El reconocimiento facial de Amazon igualó a 28 miembros del Congreso con fotografías policiales.

La Unión Estadounidense de Libertades Civiles probó el sistema de reconocimiento facial de Amazon, y los resultados no fueron buenos.

Para probar la precisión del sistema, la ACLU escaneó las caras de los 535 miembros del congreso frente a 25,000 fotografías públicas, utilizando la API de Rekognition abierta de Amazon. Ninguno de los miembros del Congreso estaba en la alineación de la placa policial, pero el sistema de Amazon generó 28 coincidencias falsas, un hallazgo que la ACLU dice que plantea serias preocupaciones sobre el uso de Rekognition por parte de la policía.

«Una identificación, sea precisa o no, podría costarles a las personas su libertad o incluso sus vidas», dijo el grupo en un comunicado. «El Congreso debe tomarse en serio estas amenazas, pisar el freno y promulgar una moratoria sobre el uso de la aplicación de la ley para el reconocimiento facial».

Alcanzado por The Verge , un vocero de Amazon atribuyó los resultados a una mala calibración. Las pruebas de la ACLU se realizaron utilizando el umbral de confianza predeterminado de Rekognition del 80 por ciento, pero Amazon dice que recomienda al menos un umbral del 95 por ciento para las aplicaciones de la ley donde una identificación falsa podría tener consecuencias más importantes.

«Aunque el 80% de confianza es un umbral aceptable para las fotos de perros calientes, sillas, animales u otros casos de uso de las redes sociales», dijo el representante, «no sería apropiado identificar individuos con un nivel razonable de certeza». , Rekognition no aplica esa recomendación durante el proceso de configuración, y no hay nada que impida que las agencias de aplicación de la ley usen la configuración predeterminada.

La Rekognition de Amazon saltó a la fama en mayo, cuando un informe de ACLU mostró que el sistema era utilizado por varias agencias de aplicación de la ley, incluido un piloto de reconocimiento en tiempo real por la policía de Orlando. Vendido como parte de la oferta en la nube de servicios web de Amazon, el software era extremadamente económico, a menudo costaba menos de $ 12 por mes para todo un departamento. El piloto de Orlando ya expiró, aunque el departamento continúa usando el sistema .

El último experimento de la ACLU se diseñó con un ojo particular hacia la asociación de Rekognition con el Departamento del Sheriff del Condado de Washington en Oregon, donde se compararon las imágenes con una base de datos de hasta 300,000 fotografías.

«No es hipotético», dice Jacob Snow, que organizó la prueba para la ACLU del norte de California. «Esta es una situación en la que Rekognition ya se está utilizando».

La prueba también mostró indicios de sesgo racial, un problema de larga data para muchos sistemas de reconocimiento facial . 11 de los 28 partidos falsos identificaron erróneamente personas de color (aproximadamente el 39 por ciento), incluido el líder de derechos civiles, el representante John Lewis (D-GA) y otros cinco miembros del Congressional Black Caucus.

Solo el veinte por ciento de los miembros actuales del Congreso son personas de color, lo que indica que las tasas de coincidencias falsas afectaron a los miembros de color a una tasa significativamente más alta. Ese hallazgo se hace eco de las disparidades encontradas por el NIST Facial Recognition Vendor Test , que ha demostrado consistentemente mayores tasas de error para las pruebas de reconocimiento facial en mujeres y afroamericanos.

Ejecutar caras contra una base de datos sin coincidencias puede parecer una receta para el fracaso, pero es similar a las condiciones que enfrentan los sistemas de reconocimiento facial actuales todos los días. El sistema utilizado por la Policía Metropolitana de Londres produce hasta 49 coincidencias falsas por cada golpe , lo que obliga a la policía a ordenar manualmente los falsos positivos. Lo que es más significativo es la velocidad a la que aparecieron los falsos positivos en las pruebas de Rekognition, con más del cinco por ciento del grupo de sujetos desencadenando una falsa coincidencia de algún tipo.

En la práctica, la mayoría de las identificaciones de reconocimiento facial serían confirmadas por un humano antes de que conduzcan a algo tan concreto como un arresto, pero los críticos dicen que incluso el chequeo de la identidad de una persona puede dañarlo. «Imagínese a un oficial de policía que consigue una coincidencia falsa para alguien con un arresto de arma oculta», dice Snow. «Existe un peligro real si la información se revela al oficial durante una parada. No es difícil imaginar que se vuelva violento «.

La prueba también plantea inquietudes sobre la facilidad con que se puede implementar Rekognition sin supervisión. Todos los datos de la ACLU se recopilaron de fuentes disponibles públicamente, incluidas las 25,000 fotos de la taza. (La organización no quiso nombrar la fuente específica por razones de privacidad, pero muchos estados tratan las fotografías personales como registros públicos.) El sistema de Amazon también es significativamente más económico que las ofertas no basadas en la nube, y le cobran a la ACLU solo $ 12.33 por las pruebas.

La prueba ya ha inspirado una reacción significativa de tres miembros del Congreso. Poco después de la publicación de la prueba, el Senador Markey (D-MA), el Representante Gutiérrez (D-IL) y el Representante DeSaulnier (D-CA) firmaron una carta abierta al CEO de Amazon Jeff Bezos solicitando una lista completa de la ley agencias de aplicación que usan la tecnología e indagan acerca de las salvaguardas para usarla en niños menores de trece años.

«Se han expresado serias preocupaciones sobre los peligros que el reconocimiento facial puede representar para la privacidad y los derechos civiles», dice la carta, «especialmente cuando se usa como una herramienta de vigilancia gubernamental».

About JESUS TE AMA

Check Also

Respuesta del Pastor Esteban Bohr al presidente Adventista de Panamá

Apreciados Hermanos y Hermanas de Panamá: En los últimos días varias personas me han enviado …

Deja un comentario

Tu dirección de correo electrónico no será publicada. Los campos obligatorios están marcados con *