A inteligência artificial Grok, desenvolvida pela empresa xAI, de Elon Musk, e integrada à rede social X, passou a ser alvo de investigações e críticas em diferentes países após relatos de que usuários estariam explorando a ferramenta para gerar imagens sexualizadas de pessoas reais sem consentimento, por meio de deepfakes.

A controvérsia ganhou projeção internacional nas últimas semanas, depois que internautas passaram a utilizar recursos de geração e edição de imagens do Grok para criar conteúdos que simulam nudez ou sexualizam indivíduos identificáveis. Embora a empresa sustente que a IA não produz imagens de forma autônoma e apenas responde a comandos dos usuários, autoridades avaliam se os mecanismos de proteção disponíveis foram suficientes para impedir abusos.

No Reino Unido, a Ofcom, órgão regulador das comunicações, abriu uma investigação formal para apurar se a plataforma X descumpriu obrigações previstas na Lei de Segurança Online, que proíbe a criação e a disseminação de material íntimo não consensual, inclusive quando produzido com o uso de inteligência artificial. O governo britânico afirma que plataformas digitais podem ser responsabilizadas caso não adotem medidas eficazes para impedir esse tipo de conteúdo.

Em outros países, a reação também se intensificou. Autoridades da Indonésia e da Malásia anunciaram medidas restritivas relacionadas ao uso da ferramenta, citando preocupações com privacidade, segurança digital e proteção de mulheres e crianças. Na União Europeia, a Comissão Europeia alertou que poderá aplicar sanções caso a plataforma não cumpra as exigências previstas na legislação do bloco, como o Digital Services Act, voltado à contenção de conteúdos ilegais online.

Diante da pressão, a empresa responsável pelo X anunciou restrições parciais às funcionalidades de geração de imagens do Grok, limitando alguns recursos a usuários pagantes e afirmando ter reforçado filtros para recusar solicitações que violem leis locais. Elon Musk declarou publicamente que não tinha conhecimento prévio de conteúdos envolvendo menores de idade e reiterou que a ferramenta foi projetada para bloquear pedidos ilegais.

Apesar das mudanças anunciadas, especialistas em tecnologia, direitos digitais e proteção de dados avaliam que as medidas podem ser insuficientes. Para críticos, o caso evidencia as dificuldades enfrentadas por plataformas digitais para controlar, em larga escala, o uso indevido de sistemas de IA generativa, especialmente na criação de deepfakes e de conteúdos íntimos não consensuais.