Quando a polícia prendeu Richard Dillon em 2023 por supostamente tentar “atrair uma criança” para longe de um McDonald’s em Jacksonville Seashore, Flórida, ele disse que estava a mais de 480 quilômetros de distância no momento do crime.
A principal evidência que a polícia usou para desvendar seu álibi: o software program de reconhecimento facial combinou a imagem do suspeito com a foto de Dillon.
Dillon foi posteriormente inocentado e na quarta-feira ele se tornou demandante em um novo processo da ACLU movido contra o Departamento de Polícia de Jacksonville Seashore e outros sobre o que ele acredita ser um caso de uso indevido da tecnologia de correspondência de imagens baseada em IA.
“A polícia permitiu que um sistema de inteligência synthetic propenso a erros substituísse uma investigação”, argumentam na denúncia.
O caso é a mais recente tentativa de estabelecer grades de proteção para nova tecnologia poderosa que a polícia utiliza cada vez mais para resolver um dos aspectos mais difíceis de qualquer investigação – quando tem a imagem de um suspeito, mas não a identidade dessa pessoa. O reconhecimento facial é uma ferramenta cada vez mais comum para a aplicação da lei, com bancos de dados públicos contendo imagens de 117 milhões de americanos, de acordo com o Centro de Privacidade e Tecnologia na Faculdade de Direito de Georgetown.
A polícia de Jacksonville Seashore e o Gabinete do Xerife de Jacksonville se recusaram a comentar.
O episódio começou em novembro de 2023, quando a polícia afirma que um homem abordou uma menina de 12 anos em um McDonald’s e tentou afastá-la dos pais.
Um mês depois, Dillon recebeu uma ligação do policial de Jacksonville Seashore, Scott O’Connell. Ele diz que durante a ligação, O’Connell “me acusou repetidas vezes de um crime hediondo que eu sabia que não cometi”.
Dillon disse à CBS Information que se lembra de ter pensado “minha vida acabou. … A IA diz que fiz isso, como vou provar que não fiz?”
Durante o telefonema com O’Connell, Dillon disse que negou envolvimento e contou à polícia sobre “cicatrizes distintas” que ele tem, desde a linha do cabelo até o nariz, devido a uma cirurgia de câncer de pele.
Dillon nos contou que ao ver sua foto lado a lado com as fotos do suspeito, ficou chocado com as diferenças. “As cicatrizes não são nem de longe iguais”, disse ele. “Isso absolutamente me surpreendeu.”
Após a ligação, Dillon, que mora em outro lugar da Flórida, contatou o departamento de polícia native, preocupado por estar sendo enganado. Ele afirma que tanto Jacksonville Seashore quanto a polícia native lhe disseram que period uma “farsa horrível” e que a ligação que recebeu period “contra o protocolo ou a política”.
Mas Dillon diz que as garantias de ambos os departamentos não foram suficientes e que “isso me assombrou durante meses… pensando que a qualquer momento a polícia poderia aparecer aqui e me prender por um crime que não cometi”.
Oito meses depois, Dillon foi preso em sua casa pelo vice-xerife do condado de Lee. Ele diz que implorou aos policiais que eles tinham o suspeito errado. A certa altura, Dillon disse que um policial lhe disse “se o que você está me dizendo é verdade, você tem um processo e tanto”.
Dillon foi detido durante a noite na prisão e, de acordo com seu processo, foi “forçado a pedir dinheiro emprestado e prometer o título de seu caminhão para pagar a fiança”.
Ele diz que ainda enfrenta desafios, embora todas as acusações tenham sido retiradas cerca de dois meses depois.
“Agora, toda vez que vou a algum lugar e quero interagir com uma criança, penso comigo mesmo: não faça isso. Há câmeras. Isso arruinou minha vida no que diz respeito a poder interagir com crianças”, disse ele. “Sinto que as pessoas estão me observando. Sinto que as pessoas estão dizendo, ei, tem aquele cara que estava no noticiário, fique longe dele.”
O sistema de reconhecimento facial que identificou erroneamente Dillon é chamado de Sistema de Comparação e Exame de Análise Facial, ou FACESNXT.
De acordo com o processo, o policial David Cohill tirou fotos do suspeito com o celular a partir de uma tela de computador exibindo imagens de vigilância do incidente. As fotos foram então repassadas ao FACESNXT pelo Gabinete do Xerife de Jacksonville. Ele encontrou uma “correspondência de 93% nas características faciais” com Dillon.
Em uma apresentação do treinamento FACESNXT de 2015, exemplos específicos são mostrados para ilustrar como são as fotos com qualidade de imagem boa e ruim. A apresentação inclui um aviso de que o enquadramento “fora do eixo” e a “iluminação não uniforme” nas fotos podem levar a uma amostra de baixa qualidade para o software program. Dillon alega em seu processo que as imagens usadas estavam “parcialmente sombreadas e fora do eixo”.
Nathan Freed Wessler, vice-diretor do Projeto de Fala, Privacidade e Tecnologia da ACLU, alerta que muitas vezes a polícia confunde uma “correspondência” feita pelo software program com uma confirmação.
Ele disse à CBS Information que os fabricantes dessa tecnologia e outros departamentos de polícia explicaram que “esta tecnologia não produz e não pode produzir correspondências”. Em vez disso, produz uma lista de possíveis pistas, deixando a aplicação da lei conduzir a sua própria investigação independente.
O caso de Dillon é apenas um entre mais de uma dúzia de casos conhecidos publicamente em que uma prisão falsa foi feita usando reconhecimento facial de IA. Wessler diz que a prisão de Dillon é a prova de que “esta tecnologia é fundamentalmente perigosa”.
A denúncia alega que a polícia de Jacksonville Seashore nunca “apresentou quaisquer fotografias à vítima” e, em vez disso, usou a identificação fotográfica de um funcionário do McDonald’s que não foi testemunha ocular da interação do suspeito com o menor.
Agora Dillon espera que seu caso lhe traga justiça e aumente a conscientização. Ele disse à CBS Information: “Espero que o resultado disso seja evitar que outras pessoas passem pelo trauma que eu passei”.
