O governo da Espanha determinou que promotores investiguem as plataformas X, Meta e TikTok por suspeita de disseminação de material de abuso sexual infantil criado por inteligência artificial. O anúncio foi feito pelo primeiro-ministro Pedro Sánchez, com base em um relatório técnico elaborado por três ministérios.
Segundo a porta-voz do governo, Elma Saiz, as autoridades não podem permitir que algoritmos “amplifiquem ou abriguem” esse tipo de crime, destacando riscos à segurança, privacidade e dignidade de crianças. As empresas citadas não responderam imediatamente a pedidos de posicionamento enviados por e-mail pela Reuters.
O caso ocorre em meio a uma ofensiva de reguladores europeus contra plataformas digitais, acusadas de práticas que vão de comportamento anticompetitivo em publicidade online ao uso de mecanismos projetados para gerar dependência.
Paralelamente, a Data Protection Commission abriu investigação formal sobre o chatbot Grok, da rede X, devido ao processamento de dados pessoais e ao potencial de gerar imagens e vídeos sexualizados prejudiciais, inclusive envolvendo menores. O órgão irlandês atua como principal regulador da empresa na União Europeia por sediar as operações regionais da companhia de Elon Musk.
Dados citados pelo gabinete de Sánchez, com base na ONG Save the Children, indicam que um em cada cinco jovens na Espanha, principalmente meninas, afirma que imagens íntimas falsas criadas por IA foram produzidas e compartilhadas quando ainda eram menores de idade.
Em publicação na rede X, o premiê afirmou que as plataformas estariam “minando a saúde mental, a dignidade e os direitos das crianças” e que a impunidade das big techs precisa acabar.
A iniciativa integra um pacote de medidas anunciado pelo governo espanhol duas semanas antes, que inclui proposta de proibir o acesso de menores de 16 anos às redes sociais.
Em outra frente, a Comissão Europeia já investiga Meta, TikTok e o Grok com base na Lei de Serviços Digitais do bloco, enquanto França, Brasil e Canadá também abriram processos contra o chatbot por suposta distribuição de conteúdo ilegal.
O avanço de casos envolvendo IA tem acelerado a resposta institucional. A britânica Internet Watch Foundation identificou 3.440 vídeos de abuso sexual infantil gerados por inteligência artificial no último ano, ante apenas 13 no período anterior, o que equivale 26.207%.
Fonte: Times Brasil