MPF cobra que X impeça Grok de gerar imagens sexuais de pessoas reais
Órgãos alertam para risco de deepfakes com crianças e dizem que plataforma pode ser responsabilizada pelo conteúdo
Publicado em
O Ministério Público Federal (MPF) em São Paulo recomendou que a plataforma X (antigo Twitter) adote medidas imediatas para impedir que a ferramenta de inteligência artificial Grok gere imagens sexualizadas de pessoas reais, incluindo crianças e adolescentes. A recomendação é assinada em conjunto pelo MPF, pela Agência Nacional de Proteção de Dados (ANPD) e pela Secretaria Nacional do Consumidor (Senacon), do Ministério da Justiça.
Segundo os órgãos, a ferramenta passou a permitir a edição e geração de imagens sem o consentimento das pessoas retratadas, o que resultou na produção de deepfakes com teor sexual, erótico e pornográfico, inclusive envolvendo menores de idade.
O documento afirma que essas práticas violam direitos fundamentais, como a dignidade da pessoa humana, a privacidade, a autodeterminação sexual e a proteção integral de crianças e adolescentes. Para as instituições, o uso da ferramenta nesse contexto representa risco grave à integridade física, psicológica e moral das vítimas.
Os signatários sustentam ainda que a plataforma X não pode ser tratada apenas como intermediária do conteúdo, uma vez que as imagens são geradas por uma ferramenta de inteligência artificial desenvolvida e disponibilizada pela própria empresa. “Os deepfakes não são produzidos exclusivamente por terceiros, mas por meio da interação entre usuários e uma tecnologia criada e mantida pela plataforma”, diz o texto.
A recomendação também cita decisões recentes do Supremo Tribunal Federal (STF) que reconheceram a insuficiência de proteção do artigo 19 do Marco Civil da Internet em casos que envolvem violações graves de direitos fundamentais, reforçando o dever de cuidado das plataformas digitais.
Entre as medidas exigidas, o MPF, a ANPD e a Senacon pedem que a X implemente imediatamente barreiras técnicas, administrativas e de governança para impedir a geração de imagens, vídeos ou áudios com conteúdo sexual envolvendo crianças, adolescentes ou adultos identificáveis sem autorização.
Além disso, a empresa deverá criar, em até 30 dias, procedimentos para identificar e remover conteúdos já publicados com esse tipo de material.
A plataforma tem até o dia 27 de janeiro para informar se irá cumprir a recomendação. Em caso de descumprimento, os órgãos alertam que poderão ser adotadas medidas administrativas e judiciais, com base no Marco Civil da Internet, no Código de Defesa do Consumidor e na Lei Geral de Proteção de Dados (LGPD).
