Reconocimiento facial de Amazon identifica a 28 congresistas estadounidenses como criminales

Reconocimiento facial de Amazon identifica a 28 congresistas estadounidenses como criminales

11 de ellos afroamericanos.

Amazon está otra vez en medio de la polémica, pero ahora por su sistema de reconocimiento facial, llamado Rekognition.

Según informa Gizmodo, una asociación pro derechos civiles corrió el software con la cara de los 533 miembros del Congreso.

¿El resultado? 28 de ellos fueron apuntados como delincuentes, siendo 11 de los "acusados" afroamericanos, lo que por cierto habla de cierta disparidad del software dado el ratio de blancos versus afroamericanos.

Según esta misma fuente, efectivamente el software funciona rutinariamente y sostenidamente peor en gente de color. La taza de error fue de 5%, pero en los miembros afroamericanos fue de un 39%.

La asociación que llevó a cabo las pruebas advirtió del peligro de que las fuerzas públicas ocupen esto contra gente de color, pudiendo ser incluso mortal si arroja un resultado equivocado sobre alguien que, por ejemplo, está tachado como armado.

 

Evidentemente Amazon se refirió al tema, defendiéndose con que su herramienta le sirve a la sociedad para ir en contra del tráfico de humanos, explotación infantil, niños perdidos y más.

Además, dicen que el test corrido se usó con un margen de error de un 80%, diciendo que para "contenido multimedia como reconocer un hot dog o una silla, está bien, peo no para temas policiales", donde recomiendan un 95% o más.

Siguen con que donde se usa este software (Orlando, por ejemplo), se ocupa exclusivamente para reducir los campos de acción, pero no para determinar categóricamente un culpable.