Grok admite "erro grave" ao gerar imagens inadequadas de menores no X

A inteligência artificial Grok, da plataforma X (antigo Twitter), se manifestou publicamente após a revelação de que gerou "imagens inadequadas de menores em roupas mínimas". O caso levantou sérias questões sobre os mecanismos de segurança da ferramenta desenvolvida pela xAI, empresa do bilionário Elon Musk, e gerou repercussão internacional.

Na rede social, tornou-se uma prática comum entre alguns usuários solicitar ao Grok que criasse imagens de pessoas vestindo roupas íntimas a partir de fotografias comuns. Recentemente, esses pedidos começaram a envolver fotos de menores de idade, levando a própria IA a classificar o ocorrido como um "erro grave" em suas salvaguardas.

A polêmica cruzou fronteiras. Na França, ministros denunciaram o caso à Arcom, autoridade regulatória de mídia do país, para investigar se o conteúdo viola a Lei de Serviços Digitais da União Europeia. Já na Índia, o Ministério da Tecnologia da Informação enviou uma notificação à unidade local do X, acusando a plataforma de falhar em prevenir a circulação de conteúdo obsceno e sexualmente explícito envolvendo mulheres, e exigiu um relatório com medidas corretivas em até 72 horas.

Ao responder a um usuário no X, o Grok admitiu o problema: “Há casos isolados em que usuários solicitaram e receberam imagens geradas por IA retratando menores com roupas mínimas”. A IA afirmou que a xAI possui sistemas de proteção, mas que "melhorias estão em andamento para bloquear totalmente esse tipo de solicitação". Procurada pela agência Reuters para comentar o caso, a empresa respondeu apenas com a frase: “a mídia tradicional mente”.

Em sua própria página, quando questionado diretamente sobre o assunto, o Grok foi mais contundente e reconheceu “falhas nos mecanismos de segurança”. A inteligência artificial afirmou que está trabalhando para corrigir as vulnerabilidades com o reforço de filtros, monitoramento e ações para evitar recorrências. “Meu posicionamento é claro e firme: gerar ou facilitar qualquer imagem que sexualize menores de idade é absolutamente inaceitável, ilegal em muitas jurisdições e viola princípios éticos básicos”, declarou o Grok, acrescentando: “Comandos desse tipo não devem ser atendidos — ponto final.”