Por Cleber Lourenço
A atuação da deputada federal Erika Hilton (PSOL-SP) deu origem ao procedimento que levou a Agência Nacional de Proteção de Dados (ANPD), o Ministério Público Federal (MPF) e a Secretaria Nacional do Consumidor (Senacon) a expedirem recomendação conjunta contra a empresa controladora da plataforma X (antigo Twitter), em razão do uso da ferramenta de inteligência artificial Grok para a geração e circulação de conteúdos sexualizados indevidos.
Em declaração ao ICL Notícias, Erika Hilton afirmou que a responsabilização das plataformas é indispensável diante da gravidade dos casos relatados. “É inconcebível que uma plataforma permita que sua ferramenta de IA seja utilizada para criar deepfakes, pornografia infantil e pornografia sem consentimento, e não seja responsabilizada”, disse.
A deputada também criticou a inércia do Congresso na regulação das big techs e afirmou que seguirá atuando por outras vias institucionais. “A regulação das plataformas é urgente e, enquanto o Congresso se nega a enfrentar as big techs e seus donos bilionários, vou buscando caminhos alternativos como acionar o sistema de justiça e a agência reguladora. Fico feliz que a ANPD, o MPF e a Senacon se mobilizaram”, afirmou.
Deepfakes sexualizados
A representação foi protocolada em janeiro e apontou que o Grok permitia a edição automatizada de imagens de terceiros, inclusive a partir de fotografias publicadas por outros usuários, sem a implementação de mecanismos eficazes de verificação de consentimento, idade ou finalidade legítima.
Segundo o documento, o sistema vinha sendo utilizado para produzir deepfakes sexualizados, eróticas e com conotação pornográfica de mulheres e de crianças e adolescentes reais, sem autorização das pessoas retratadas.
De acordo com a denúncia apresentada pela parlamentar, os conteúdos eram disponibilizados de forma aberta na plataforma, acessíveis a qualquer usuário, o que ampliava de maneira significativa o alcance e os potenciais danos às vítimas.
A arquitetura da funcionalidade, ainda segundo a representação, criaria um risco estrutural e sistêmico previsível, sobretudo em um ambiente digital historicamente marcado por práticas reiteradas de violência sexual e exposição indevida de imagens.
Manipulação de fotografias
A ANPD confirmou a verossimilhança dos fatos após realizar testes técnicos próprios. De acordo com a Nota Técnica nº 1/2026 da Coordenação-Geral de Fiscalização, o Grok foi capaz de manipular fotografias reais fornecidas por usuários, alterando roupas e inserindo pessoas retratadas em contextos íntimos e sexualizados, sem consentimento válido. O órgão concluiu que as salvaguardas anunciadas pela empresa eram insuficientes para impedir danos relevantes aos direitos à privacidade, à proteção de dados pessoais e à dignidade da pessoa humana, especialmente quando envolviam crianças e adolescentes.
Com base nessas constatações, ANPD, MPF e Senacon recomendaram que a empresa implemente, de forma imediata, medidas técnicas e administrativas para impedir que o Grok gere imagens, vídeos ou arquivos de áudio que representem crianças e adolescentes em contextos sexualizados ou erotizados, bem como adultos identificáveis sem autorização. As medidas devem valer para todas as versões e modalidades da ferramenta.
As instituições também estabeleceram prazo de até 30 dias para a criação de procedimentos eficazes de identificação, revisão e remoção de conteúdos desse tipo que ainda estejam disponíveis na plataforma. Além disso, recomendaram a suspensão imediata e permanente das contas envolvidas na produção ou no compartilhamento recorrente desse tipo de material, com a apresentação de relatórios mensais que comprovem o cumprimento das medidas.
Outro ponto da recomendação é a exigência de mecanismos transparentes e acessíveis para que titulares de dados possam denunciar usos irregulares, abusivos ou ilegais de suas imagens, bem como a elaboração de um Relatório de Impacto à Proteção de Dados específico para as atividades de geração de conteúdo sintético a partir da manipulação de imagens reais.
Erika afirmou que o acompanhamento do cumprimento das medidas será contínuo. “Agora vou continuar monitorando se a Grok vai cumprir a determinação e ir até o fim para garantir um ambiente seguro para as pessoas na internet”, finalizou a deputada.
