O governo britânico aprovou previamente um pacote de quatro novas leis para combater o uso da inteligência artificial (IA) na criação e disseminação de imagens de abuso sexual infantil. As medidas fazem parte do Crime and Policing Bill, que será apresentado ao Parlamento nas próximas semanas.

Com a nova legislação, o Reino Unido será o primeiro país do mundo a tornar crime a posse, criação ou distribuição de ferramentas de IA projetadas para gerar material de abuso sexual infantil (CSAM, na sigla em inglês). A pena para infratores pode chegar a cinco anos de prisão.

Além disso, será ilegal possuir manuais que ensinam a usar IA para exploração sexual infantil, prática que pode resultar em até três anos de prisão.

Tecnologia potencializa o abuso infantil

O anúncio foi feito pela ministra do Interior, Yvette Cooper, que classificou a IA como um fator que amplifica os riscos do abuso infantil online.

Outra nova lei tornará crime administrar sites que permitem a troca de conteúdos ilegais entre pedófilos ou fornecem instruções sobre como aliciar menores. A pena para esses casos pode chegar a 10 anos de prisão.

A legislação também concederá à Border Force, órgão responsável pela fiscalização de fronteiras, o poder de exigir que indivíduos suspeitos desbloqueiem seus dispositivos digitais ao entrar no Reino Unido. Como grande parte do material de abuso infantil é produzido no exterior, a penalidade para quem portar esse tipo de conteúdo será de até três anos de prisão.

O avanço das deepfakes infantis

Imagens geradas por IA podem substituir rostos de crianças, "desnudar" imagens reais e até imitar vozes infantis, criando conteúdos altamente realistas. Essas deepfakes são usadas para chantagear vítimas, aumentando a vulnerabilidade de menores de idade a novos abusos.

De acordo com a Internet Watch Foundation (IWF), as denúncias sobre CSAM gerado por IA cresceram 380% em um ano. Em 2024, foram registrados 245 casos — contra 51 em 2023. Cada relatório pode conter milhares de imagens.

Um estudo recente da IWF mostrou que, em apenas um mês, foram descobertas 3.512 imagens de abuso infantil geradas por IA em um único site da dark web. O número das imagens mais graves cresceu 10% em relação ao ano anterior.