Unicef pede criminalização de conteúdos de IA que retratem abuso sexual infantil

Por Jasper Ward

4 Fev (Reuters) - A Unicef, agência ⁠das Nações Unidas para a infância, pediu nesta quarta-feira que os países criminalizem a criação de conteúdo de abuso sexual infantil gerado por IA, dizendo estar alarmada com relatos de aumento no número de imagens de inteligência artificial sexualizando crianças.

A agência também instou os desenvolvedores a implementar abordagens de segurança desde a concepção e barreiras de proteção para evitar o uso indevido de modelos de IA. A Unicef defende que empresas digitais impeçam a circulação ​dessas imagens, reforçando a moderação de conteúdo ⁠com ⁠investimentos em tecnologias de detecção.

“Os danos causados pelo abuso de deepfakes são reais e urgentes. As crianças não podem esperar até que a lei acompanhe essa evolução”, afirmou a Unicef em comunicado. Deepfakes são imagens, vídeos e áudios gerados por IA que imitam pessoas ‌reais de forma convincente.

A Unicef também levantou preocupações sobre o que ​chamou de “nudificação” de crianças, usando IA para ‌tirar ou alterar ​roupas em ​fotos para criar imagens falsas de nudez ou sexualizadas.

Pelo menos 1,2 milhão de crianças em 11 países revelaram ter suas imagens manipuladas em deepfakes sexualmente explícitos ​no ano passado, de acordo com a Unicef.

O Reino Unido anunciou no sábado que planeja tornar ilegal o uso de ferramentas de IA para criar imagens de abuso sexual infantil, tornando-se o primeiro país a fazê-lo.

Nos últimos anos, aumentaram as preocupações com o uso da IA para gerar conteúdo de abuso infantil, particularmente chatbots como o Grok, da xAI — de propriedade de Elon Musk —, que está sob escrutínio por produzir imagens sexualizadas de mulheres e menores.

Uma investigação da Reuters apurou que o chatbot continuou a produzir essas imagens mesmo quando os usuários avisaram explicitamente que os sujeitos ⁠não haviam consentido.

A xAI disse em 14 de janeiro que havia restringido a ‌edição de imagens para usuários ⁠da IA Grok e bloqueado usuários, com base em sua localização, de gerar imagens de pessoas com roupas reveladoras em “jurisdições onde isso é ‍ilegal”, sem identificar os países. Anteriormente, a plataforma havia limitado o uso dos recursos de geração e ​edição ‌de imagens do Grok apenas a assinantes pagantes.

(Reportagem de Jasper Ward em Washington)