A Comissão Europeia abriu uma investigação sobre o Grok, chatbot de inteligência artificial desenvolvido pela xAI, empresa controlada por Elon Musk, após a circulação de imagens explícitas geradas por IA na plataforma X. A apuração avalia se a rede social cumpriu obrigações previstas na legislação digital da União Europeia, incluindo regras de mitigação de riscos, governança de conteúdo e proteção de direitos fundamentais.
A informação foi confirmada pela eurodeputada irlandesa Regina Doherty, que afirmou em comunicado que o caso levanta questionamentos relevantes sobre o cumprimento das normas comunitárias por grandes plataformas digitais. Segundo ela, a investigação examina se a empresa adotou medidas adequadas para impedir a disseminação de conteúdos ilegais e nocivos.
Até o momento, um porta-voz da Comissão não confirmou oficialmente a abertura formal do processo, e a X não respondeu aos pedidos de comentário. O caso surge em um momento sensível nas relações entre Bruxelas e Washington, já que o endurecimento regulatório europeu contra gigantes da tecnologia tem provocado críticas do governo do presidente americano Donald Trump e até ameaças de retaliação comercial.
Grok apresenta conteúdo ilegal e necessita de ajustes técnicos
No início do mês, a Comissão Europeia classificou como “ilegais e chocantes” imagens geradas por IA que mostravam mulheres e crianças sem roupa e que circularam na plataforma. A reação se somou à condenação de autoridades e organizações em diversas partes do mundo.
Em resposta, a xAI afirmou em meados de janeiro ter feito ajustes técnicos para impedir que o Grok permitisse a edição de imagens de pessoas reais em roupas reveladoras, como biquínis. A empresa também informou que bloqueou, com base na localização do usuário, a geração desse tipo de conteúdo em jurisdições onde a prática é considerada ilegal, sem detalhar quais países estão incluídos.
Para Doherty, o episódio expõe fragilidades mais amplas na supervisão de tecnologias emergentes. Segundo a parlamentar, as regras europeias são claras e precisam ser aplicadas na prática, especialmente quando ferramentas de IA são usadas em larga escala por empresas globais.
Pressão se estende ao Reino Unido
A ofensiva regulatória não se limita à União Europeia. No Reino Unido, o órgão regulador de comunicações Ofcom também abriu neste mês uma investigação separada para avaliar se a X cumpriu obrigações previstas na Lei de Segurança Online britânica.
O avanço simultâneo das apurações na Europa continental e no Reino Unido amplia o escrutínio internacional sobre as operações de Musk no setor de tecnologia e pode resultar em multas relevantes, exigências adicionais de compliance e mudanças estruturais nos produtos, fatores acompanhados de perto por investidores.
Risco regulatório no radar do mercado
O caso reforça a crescente pressão sobre empresas de inteligência artificial e plataformas digitais quanto à moderação de conteúdo, proteção de usuários e responsabilidade legal. Para o mercado, a investigação representa mais um capítulo na disputa regulatória transatlântica envolvendo Big Techs, com potenciais reflexos sobre custos operacionais, governança corporativa e estratégias de expansão internacional.
Com a aplicação do Digital Services Act (DSA) e de outras normas europeias, autoridades vêm sinalizando tolerância zero com a circulação de conteúdos ilegais online – postura que tende a influenciar não apenas a X, mas todo o ecossistema de plataformas baseadas em IA que operam no continente.
Fonte: Times Brasil