A polícia de Detroit, nos Estados Unidos, acusou erroneamente Porcha Woodruff, de 32 anos e grávida na época, de roubo após um programa de reconhecimento facial apontá-la como suspeita do crime. Porcha entrou com uma ação contra uma detetive e a cidade de Detroit no Tribunal Distrital dos EUA, alegando prisão equivocada e violação de direitos garantidos pela quarta emenda da Constituição dos EUA.
O erro do reconhecimento facial ocorreu quando o software combinou, por engano, uma foto de Porcha tirada há oito anos, quando foi detida por dirigir com a carteira de motorista vencida, com um vídeo da suspeita do crime. Isso levou à sua prisão em fevereiro, quando seis policiais chegaram à sua porta, deixando seus filhos em desespero ao perceberem que a situação era séria.
A situação tornou-se ainda mais grave quando a vítima do crime apontou, erroneamente, a foto antiga de Porcha como a suspeita. Mesmo após ser informada de sua gravidez e diabetes gestacional, a detetive Lashauntia Oliver continuou com a abordagem questionando-a sobre pessoas conhecidas e tatuagens. Apesar de saber que Porcha não estava envolvida no crime, a detetive a direcionou novamente para a cela, causando grande angústia emocional durante sua gravidez difícil.
O caso contra Woodruff foi arquivado em março, mas os danos emocionais e psicológicos causados pela prisão equivocada persistiram. Esse incidente suscitou preocupações sobre a confiabilidade e falhas inerentes ao uso da tecnologia de reconhecimento facial, especialmente quando se trata de identificar indivíduos negros.
Em contexto, ao menos dois outros casos semelhantes foram relatados em Detroit, levando o departamento de polícia a revisar suas diretrizes para limitar o uso do reconhecimento facial apenas a crimes violentos ou investigações de invasão de domicílio.
A tecnologia de reconhecimento facial é conhecida por suas falhas e falta de confiabilidade, especialmente quando se trata da identificação precisa de indivíduos negros como Porcha Woodruff. É fundamental entender que o reconhecimento facial, por si só, não pode ser usado como causa provável para prisões.
Em relação ao uso dessa tecnologia, não há dados abrangentes sobre quantas agências de aplicação da lei a utilizam, porém, um único provedor afirmou ter pelo menos 3,1 mil agências dos EUA como clientes. Outros países, incluindo China, Áustria, França, Alemanha, Itália e Finlândia, também adotaram essa tecnologia, apesar das preocupações de grupos de direitos civis e ativistas de privacidade.
Recentemente, legisladores dos EUA apresentaram um projeto de lei para regular e controlar o uso da tecnologia de reconhecimento facial pela aplicação da lei, a fim de proteger as liberdades civis dos cidadãos do país.