Um erro em um sistema automatizado de reconhecimento facial levou a polícia britânica a prender, por engano, um engenheiro de software de 26 anos por um furto ocorrido a cerca de 160 quilômetros de sua casa, segundo o jornal The Guardian. Alvi Choudhury foi detido em janeiro, em Southampton, após a tecnologia confundi-lo com um suspeito de um roubo de 3 mil libras (cerca de 21 mil reais) em Milton Keynes. Ele agora processa as corporações envolvidas e denuncia viés racial na ferramenta usada pelas autoridades.
Fofurômetro: Cão surdo aprende linguagem de sinais com a dona e emociona a web; vídeo
‘Para que nenhum ficasse sozinho’: Capivara e anta brasileira inseparáveis são sacrificadas juntas em zoológico na Inglaterra
Choudhury trabalhava na residência onde vive com os pais quando agentes bateram à porta, o algemaram e o mantiveram sob custódia por quase 10 horas. Ele foi liberado às 2h da manhã. A prisão foi executada pela polícia de Hampshire a pedido da Thames Valley Police, que utilizou um sistema de reconhecimento facial retrospectivo para comparar imagens de câmeras de segurança com fotos do banco de dados nacional.
Segundo documentos obtidos pelo grupo de direitos civis Liberty Investigates, o software associou o rosto de Choudhury ao de um homem filmado durante o furto. O engenheiro afirma que as diferenças eram evidentes.
— Eu fiquei muito irritado, porque o rapaz parecia cerca de 10 anos mais novo do que eu — disse. — Tudo era diferente. A pele era mais clara. O suspeito parecia ter 18 anos. O nariz era maior. Ele não tinha barba. Os olhos eram diferentes. Os lábios eram menores que os meus.
Ele também declarou que presumiu ter sido alvo de julgamento apressado.
— Só posso imaginar que o investigador viu que eu era uma pessoa de pele morena com cabelo cacheado e decidiu me prender.
As forças policiais do Reino Unido utilizam um algoritmo adquirido pelo Ministério do Interior junto à empresa alemã Cognitec. A ferramenta realiza cerca de 25 mil buscas mensais em um banco com aproximadamente 19 milhões de fotos de pessoas detidas. De acordo com o Conselho Nacional de Chefes de Polícia, os resultados devem ser tratados como inteligência investigativa, e não como prova conclusiva.
A Thames Valley Police afirmou que a decisão de prender Choudhury também se baseou em avaliação visual feita por um agente. Em nota, a corporação declarou que a prisão não foi ilegal e negou que tenha havido perfilamento racial.
— Embora peçamos desculpas pelo sofrimento causado, a decisão foi tomada com base na avaliação dos investigadores e não foi influenciada por discriminação racial — informou um porta-voz.
O veículo divulgou que uma pesquisa encomendada pelo Ministério do Interior que circulou em dezembro apontou, que o sistema apresenta taxas de falsos positivos significativamente maiores para rostos negros (5,5%) e asiáticos (4%) do que para brancos (0,04%), em determinadas configurações. Comissários de polícia classificaram os resultados como indício de “viés preocupante embutido”.
Desde dezembro, a corporação também passou a usar reconhecimento facial ao vivo em áreas públicas de cidades como Oxford, Slough, Reading, Wycombe e Milton Keynes. Cerca de 100 mil rostos já teriam sido escaneados, resultando em seis prisões.
Choudhury afirmou que ofereceu provas de que participava de reuniões de trabalho em Southampton no dia do crime, mas ainda assim foi levado à delegacia. Ele diz que vizinhos o viram sair algemado, que o pai ficou extremamente angustiado e que não conseguiu trabalhar no dia seguinte. O engenheiro entrou com pedido de indenização contra as polícias de Thames Valley e Hampshire. Também cobra maior transparência sobre o número de prisões equivocadas relacionadas ao uso da tecnologia.
O advogado de Choudhury, Iain Gould, do escritório DPP Law, afirmou que a polícia precisa garantir que a inteligência artificial não substitua o julgamento humano e a devida diligência, mas atue em parceria criteriosa com eles. O Ministério do Interior informou que orientações e treinamentos para reduzir erros e preservar a confiança pública estão sob revisão pela Inspetoria de Polícia. Segundo a pasta, um novo sistema nacional de comparação facial, com algoritmo aprimorado e testado de forma independente, está em desenvolvimento.
Fofurômetro: Cão surdo aprende linguagem de sinais com a dona e emociona a web; vídeo
‘Para que nenhum ficasse sozinho’: Capivara e anta brasileira inseparáveis são sacrificadas juntas em zoológico na Inglaterra
Choudhury trabalhava na residência onde vive com os pais quando agentes bateram à porta, o algemaram e o mantiveram sob custódia por quase 10 horas. Ele foi liberado às 2h da manhã. A prisão foi executada pela polícia de Hampshire a pedido da Thames Valley Police, que utilizou um sistema de reconhecimento facial retrospectivo para comparar imagens de câmeras de segurança com fotos do banco de dados nacional.
Segundo documentos obtidos pelo grupo de direitos civis Liberty Investigates, o software associou o rosto de Choudhury ao de um homem filmado durante o furto. O engenheiro afirma que as diferenças eram evidentes.
— Eu fiquei muito irritado, porque o rapaz parecia cerca de 10 anos mais novo do que eu — disse. — Tudo era diferente. A pele era mais clara. O suspeito parecia ter 18 anos. O nariz era maior. Ele não tinha barba. Os olhos eram diferentes. Os lábios eram menores que os meus.
Ele também declarou que presumiu ter sido alvo de julgamento apressado.
— Só posso imaginar que o investigador viu que eu era uma pessoa de pele morena com cabelo cacheado e decidiu me prender.
As forças policiais do Reino Unido utilizam um algoritmo adquirido pelo Ministério do Interior junto à empresa alemã Cognitec. A ferramenta realiza cerca de 25 mil buscas mensais em um banco com aproximadamente 19 milhões de fotos de pessoas detidas. De acordo com o Conselho Nacional de Chefes de Polícia, os resultados devem ser tratados como inteligência investigativa, e não como prova conclusiva.
A Thames Valley Police afirmou que a decisão de prender Choudhury também se baseou em avaliação visual feita por um agente. Em nota, a corporação declarou que a prisão não foi ilegal e negou que tenha havido perfilamento racial.
— Embora peçamos desculpas pelo sofrimento causado, a decisão foi tomada com base na avaliação dos investigadores e não foi influenciada por discriminação racial — informou um porta-voz.
O veículo divulgou que uma pesquisa encomendada pelo Ministério do Interior que circulou em dezembro apontou, que o sistema apresenta taxas de falsos positivos significativamente maiores para rostos negros (5,5%) e asiáticos (4%) do que para brancos (0,04%), em determinadas configurações. Comissários de polícia classificaram os resultados como indício de “viés preocupante embutido”.
Desde dezembro, a corporação também passou a usar reconhecimento facial ao vivo em áreas públicas de cidades como Oxford, Slough, Reading, Wycombe e Milton Keynes. Cerca de 100 mil rostos já teriam sido escaneados, resultando em seis prisões.
Choudhury afirmou que ofereceu provas de que participava de reuniões de trabalho em Southampton no dia do crime, mas ainda assim foi levado à delegacia. Ele diz que vizinhos o viram sair algemado, que o pai ficou extremamente angustiado e que não conseguiu trabalhar no dia seguinte. O engenheiro entrou com pedido de indenização contra as polícias de Thames Valley e Hampshire. Também cobra maior transparência sobre o número de prisões equivocadas relacionadas ao uso da tecnologia.
O advogado de Choudhury, Iain Gould, do escritório DPP Law, afirmou que a polícia precisa garantir que a inteligência artificial não substitua o julgamento humano e a devida diligência, mas atue em parceria criteriosa com eles. O Ministério do Interior informou que orientações e treinamentos para reduzir erros e preservar a confiança pública estão sob revisão pela Inspetoria de Polícia. Segundo a pasta, um novo sistema nacional de comparação facial, com algoritmo aprimorado e testado de forma independente, está em desenvolvimento.
