(Omar Marques/SOPA Images/LightRocket/Getty Images)
Mariana Martucci
Publicado em 1 de agosto de 2021 às 16h03.
O Twitter está criando uma nova competição entre pesquisadores e hackers, com o objetivo de encontrar alguém capaz de corrigir o suposto preconceito racial e de gênero em seu algoritmo de corte de imagens, segundo informações do Business Insider.
A competição, que oferecerá uma recompensa de US$ 3.500 dólares (em torno de R$ 18 mil reais), quer ajuda para identificar possíveis danos que o algoritmo tenha sofrido. Além dos vencedores, os vice-campeões também serão recompensados financeiramente.
"Chamando todos os caçadores de recompensas! Acabamos de lançar todos os detalhes de nosso desafio de recompensas que está aberto até 6 de agosto", mostra informações do site da empresa. "Com este desafio, pretendemos estabelecer um precedente no Twitter e na indústria para a identificação proativa e coletiva de danos algorítmicos", acrescentaram.
A ação acontece depois que um grupo de pesquisadores descobriu que o algoritmo favorecia mais pessoas brancas do que pessoas negras e mais mulheres do que homens. No ano passado, o estudante de doutorado Colin Madland revelou o problema em um tweet, quando mostrou que a plataforma de vídeochamadas Zoom apagava o rosto de um homem negro quando ele usava um fundo verde.
A faculty member has been asking how to stop Zoom from removing his head when he uses a virtual background. We suggested the usual plain background, good lighting etc, but it didn't work. I was in a meeting with him today when I realized why it was happening.
— Colin Madland 🇺🇦 (@colinmadland) September 19, 2020
O vencedor do concurso também será convidado a apresentar seu trabalho no workshop DEF CON AI Village promovido pelo Twitter em agosto. "As inscrições bem-sucedidas levarão em consideração métodos quantitativos e qualitativos em sua abordagem", afirmou a empresa.
Segundo informações do Insider, algoritmos de aprendizado de máquina, como o usado pelo Twitter, dependem de vastos conjuntos de dados. Se esses conjuntos de dados forem ponderados a favor de uma raça, gênero ou qualquer outra coisa em particular, o algoritmo resultante pode então refletir essa tendência.
Depois dos relatos nas redes sociais, a divisão de engenharia da plataforma realizou um estudo para verificar o que de fato acontecia com o algoritmo quando exposto a fotos com pessoas negras. Publicado em maio deste ano, a análise concluiu que algoritmo criava uma diferença de 8% em favor das mulheres e de 4% em relação a pessoas brancas. Entre as razões possíveis para o fenômeno, o Twitter afirma que acontece devido a problemas com fundos de imagens e cor dos olhos. Mas no relatório os pesquisadores ponderaram que a falha não se justifica.
“O corte de imagem baseado em aprendizado de máquina é fundamentalmente falho porque remove a capacidade do usuário e restringe a expressão de sua identidade e seus valores, em vez de impor um olhar normativo sobre qual parte da imagem é considerada a mais interessante”, escreveram os pesquisadores.
Assine a EXAME e acesse as notícias mais importante em tempo real.