Tecnologia

Twitter pagará R$ 18 mil para quem arrumar preconceito racial de algoritmo

A ação acontece depois que um grupo de pesquisadores descobriu que o algoritmo favorecia mais pessoas brancas do que pessoas negras e mais mulheres do que homens

 (Omar Marques/SOPA Images/LightRocket/Getty Images)

(Omar Marques/SOPA Images/LightRocket/Getty Images)

Mariana Martucci

Mariana Martucci

Publicado em 1 de agosto de 2021 às 16h03.

O Twitter está criando uma nova competição entre pesquisadores e hackers, com o objetivo de encontrar alguém capaz de corrigir o suposto preconceito racial e de gênero em seu algoritmo de corte de imagens, segundo informações do Business Insider.

A competição, que oferecerá uma recompensa de US$ 3.500 dólares (em torno de R$ 18 mil reais), quer ajuda para identificar possíveis danos que o algoritmo tenha sofrido. Além dos vencedores, os vice-campeões também serão recompensados ​​financeiramente.

"Chamando todos os caçadores de recompensas! Acabamos de lançar todos os detalhes de nosso desafio de recompensas que está aberto até 6 de agosto", mostra informações do site da empresa. "Com este desafio, pretendemos estabelecer um precedente no Twitter e na indústria para a identificação proativa e coletiva de danos algorítmicos", acrescentaram.

A ação acontece depois que um grupo de pesquisadores descobriu que o algoritmo favorecia mais pessoas brancas do que pessoas negras e mais mulheres do que homens. No ano passado, o estudante de doutorado Colin Madland revelou o problema em um tweet, quando mostrou que a plataforma de vídeochamadas Zoom apagava o rosto de um homem negro quando ele usava um fundo verde.

O vencedor do concurso também será convidado a apresentar seu trabalho no workshop DEF CON AI Village promovido pelo Twitter em agosto. "As inscrições bem-sucedidas levarão em consideração métodos quantitativos e qualitativos em sua abordagem", afirmou a empresa.

Segundo informações do Insider, algoritmos de aprendizado de máquina, como o usado pelo Twitter, dependem de vastos conjuntos de dados. Se esses conjuntos de dados forem ponderados a favor de uma raça, gênero ou qualquer outra coisa em particular, o algoritmo resultante pode então refletir essa tendência.

Confirmado em estudo

Depois dos relatos nas redes sociais, a divisão de engenharia da plataforma realizou um estudo para verificar o que de fato acontecia com o algoritmo quando exposto a fotos com pessoas negras. Publicado em maio deste ano, a análise concluiu que algoritmo criava uma diferença de 8% em favor das mulheres e de 4% em relação a pessoas brancas. Entre as razões possíveis para o fenômeno, o Twitter afirma que acontece devido a problemas com fundos de imagens e cor dos olhos. Mas no relatório os pesquisadores ponderaram que a falha não se justifica. 

“O corte de imagem baseado em aprendizado de máquina é fundamentalmente falho porque remove a capacidade do usuário e restringe a expressão de sua identidade e seus valores, em vez de impor um olhar normativo sobre qual parte da imagem é considerada a mais interessante”, escreveram os pesquisadores.

Assine a EXAME e acesse as notícias mais importante em tempo real.

Acompanhe tudo sobre:RacismoRedes sociaisTwitter

Mais de Tecnologia

UE multa grupo Meta em US$ 840 milhões por violação de normas de concorrência

Celebrando 25 anos no Brasil, Dell mira em um futuro guiado pela IA

'Mercado do amor': Meta redobra esforços para competir com Tinder e Bumble

Apple se prepara para competir com Amazon e Google no mercado de câmeras inteligentes