Grok limita criador de imagens após escândalo, mas continua gerando nudes com IA

O Grok, assistente de inteligência artificial da plataforma X (antigo Twitter), limitou nesta sexta-feira (9) o acesso ao seu gerador de imagens após uma onda global de protestos. A ferramenta vinha sendo usada para criar deepfakes pornográficos – imagens sexualmente explícitas que editam fotos ou vídeos de pessoas reais para simularem nudez. Apesar da restrição, a funcionalidade não foi desativada, apenas reservada a assinantes pagos.

Quando usuários não assinantes tentam usar o recurso, o Grok responde: “A geração e a edição de imagens estão atualmente reservadas aos assinantes pagos. Você pode assinar para desbloquear essas funções”. A medida surge em meio a uma crescente pressão regulatória. A Comissão Europeia emitiu na quinta-feira uma “ordem de retenção” obrigando o X a preservar todos os documentos internos relacionados ao Grok até o final de 2026.

Esta não é a primeira sanção da UE contra a plataforma de Elon Musk. No início de dezembro, o X foi multado em 120 milhões de euros por descumprir a Lei de Serviços Digitais. O governo britânico também entrou no coro, com a ministra de Tecnologia, Liz Kendall, classificando as imagens falsas de “absolutamente repugnantes” e exigindo uma solução urgente para conter a proliferação de deepfakes, especialmente de mulheres e menores.

A resposta do X, porém, é vista com ceticismo por especialistas, já que a ferramenta continua operacional para quem pagar. O caso expõe o desafio de regular ferramentas de IA de geração de imagens e a dificuldade das plataformas em equilibrar inovação, monetização e segurança digital.