Racismo algorítmico: Tecnologias de reconhecimento facial se tornam um pesadelo para pessoas negras
Às vésperas do Natal, Benjamin utilizava o aplicativo de um banco quando recebeu a solicitação para cadastrar sua biometria facial. Com o rosto sem adereços ou óculos, e com uma boa iluminação, o sistema de reconhecimento facial do aplicativo não conseguia o identificar.
Após algumas tentativas, de vários ângulos e com diferentes iluminações, o usuário resolveu testar o sistema com uma foto aleatória da internet. Quase que instantaneamente, sua câmera o reconheceu. Benjamin é negro. O homem da foto, branco.
O relato que foi feito através do TikTok por um usuário ganhou repercussão nas redes sociais após retomar as discussões sobre como algoritmos de reconhecimento facial e outras tecnologias podem ser racistas e excludentes com homens e mulheres negros.
@sociedadepretadospoetas Nao consegui passar da foto. Muita melanina pra um banco só ?. #c6bank #thor? #preto #preta #acoisatapreta
O C6 Bank – instituição financeira na qual Benjamin não conseguiu concluir a etapa de segurança – divulgou em nota oficial que “o índice de falhas em biometria facial no processo de abertura de contas é de 0,1%, sem nenhuma diferença estatística por cor, idade ou gênero”. A empresa também destacou que “trabalha continuamente para aumentar a acuracidade da ferramenta de reconhecimento facial”.
Ao ser questionada se seus sistemas também foram testados com usuários negros, a instituição não se pronunciou.
Tecnologias de inteligência artificial como a utilizada por bancos em verificações de segurança também são encontradas em aplicativos de fotos, mídias sociais e até mesmo sistemas de segurança pública. Os algoritmos utilizados nessas ferramentas, por sua vez, comprovam-se bem falhos.
Segundo pesquisa realizada pela Rede de Observatórios da Segurança, em 2019, cerca de 90,5% dos presos por monitoramento facial no Brasil foram negros. Em muitos casos, as prisões arbitrárias alcançam os alvos errados, causando constrangimento aos acusados.
E não acaba por aí.
Fotos publicadas por pessoas negras na plataforma Flickr receberam a tag “macacos” pelo algoritmo do site; já o Twitter reconheceu que sua programação faz com que conteúdos de pessoas brancas viralizem com mais frequência; o aplicativo da Uber, por sua vez, bloqueou a conta de um motorista negro após não conseguir reconhecê-lo através de seu sistema.
Benjamin foi contatado pelo Money Times para comentar sobre o assunto, mas não respondeu aos pedidos da reportagem. De qualquer forma, pelo visto, seu episódio não se parece com um caso isolado, mas com um problema longe de ser solucionado.