Justiça brasileira dá cinco dias para X adotar medidas contra geração de imagens intímas feitas por IA

A Justiça brasileira, em ação coordenada com a Autoridade Nacional de Proteção de Dados e a Secretaria Nacional do Consumidor, determinou nesta quarta-feira (11) que a rede social X, de Elon Musk, adote medidas imediatas para impedir que sua ferramenta de inteligência artificial, o Grok, seja utilizada na criação de imagens de cunho sexual envolvendo crianças, adolescentes ou adultos sem consentimento. O prazo para cumprimento da decisão é de cinco dias, sob pena de sanções judiciais e multas.

Segundo as autoridades, a empresa já havia sido notificada em janeiro sobre o problema e, na ocasião, informou ter removido milhares de publicações e suspendido centenas de contas. No entanto, exames técnicos recentes constataram a persistência de falhas que ainda permitem a geração e circulação desse tipo de conteúdo. Os órgãos reguladores criticaram a falta de transparência da plataforma diante da nova cobrança.

A controvérsia tem ganhado projeção internacional desde o fim de 2025 e o início de 2026, quando o Grok passou a responder a comandos de usuários com imagens criadas por inteligência artificial, incluindo montagens que colocavam celebridades e pessoas comuns, majoritariamente mulheres, em situações de nudez ou trajes íntimos, sem autorização. A facilidade de uso e a moderação mais permissiva que a de concorrentes, como OpenAI e Google Gemini, transformaram a ferramenta na preferida para esse tipo de abuso.

Um relatório do Centro de Combate ao Ódio Digital apontou que o Grok gerou cerca de três milhões de imagens sexualizadas em apenas onze dias, incluindo aproximadamente 23 mil envolvendo crianças e 1,8 milhão retratando mulheres adultas. A média foi de 190 imagens por minuto no período analisado. Entre as vítimas estavam figuras públicas como Taylor Swift, Selena Gomez, Nicki Minaj e a ex-vice-presidente dos Estados Unidos, Kamala Harris, além de crianças, como a atriz mirim Nell Fisher, de 14 anos.

Medidas adotadas

A crise levou países como Indonésia, Malásia e Filipinas a suspender temporariamente o acesso à ferramenta. França, Reino Unido e a Comissão Europeia também abriram investigações sobre a disseminação de imagens sexualmente explícitas manipuladas, incluindo suspeitas de material de abuso sexual infantil. Nos Estados Unidos, o procurador-geral da Califórnia também iniciou apuração.

Em meados de janeiro, a X afirmou que passaria a bloquear a geração de imagens de nudez de pessoas reais nas jurisdições onde a prática é ilegal, mas não há clareza sobre onde e com que efetividade essas restrições foram implementadas. A xAI, empresa de IA de Musk, respondeu às agências de imprensa com uma mensagem automática: “Legacy Media Lies”.

Não é a primeira vez que a plataforma enfrenta embates com o Judiciário brasileiro. Em 2024, o Supremo Tribunal Federal determinou a suspensão temporária da rede no país após descumprimento de decisões relacionadas ao combate à desinformação. Agora, o foco recai sobre os riscos da inteligência artificial generativa e a ausência de políticas explícitas contra a criação de nudez não consensual, diferentemente de concorrentes.