Baltimore processa xAI por deepfakes do Grok e amplia pressão legal sobre empresa de Musk

A cidade de Baltimore se tornou a primeira grande cidade dos Estados Unidos a processar a xAI, empresa de Elon Musk, por problemas relacionados ao gerador de imagens Grok, intensificando a pressão legal sobre a companhia.

Segundo o prefeito Brandon Scott, os deepfakes produzidos pela ferramenta têm “consequências traumáticas e permanentes para as vítimas”, incluindo casos envolvendo exploração sexual. “Estamos falando de empresas de tecnologia permitindo a exploração sexual de crianças”, afirmou.

Acusações e práticas questionadas

A ação, apresentada em 24 de março, acusa a empresa de violar leis de proteção ao consumidor e de adotar práticas comerciais enganosas, ao divulgar o Grok – e a plataforma X (ex-Twitter) – como ambientes seguros para os usuários.

Leia também: Elon Musk anuncia reconstrução da xAI após saída de cofundadores

O processo também menciona uma tendência nas redes chamada “put her in a bikini”, na qual usuários utilizam a ferramenta para alterar imagens de terceiros sem consentimento, criando versões sexualizadas.

Segundo a denúncia, o próprio Elon Musk teria participado da tendência ao compartilhar uma imagem gerada pelo Grok com teor provocativo, o que, de acordo com os advogados, funcionou como endosso público à prática.

“A postagem sinalizou aos usuários que esse tipo de uso era aceitável e incentivado”, diz o documento.

Escalada de processos

A ação de Baltimore se soma a uma série de processos e investigações contra a xAI em diferentes países, após a ferramenta permitir a criação em massa de imagens íntimas não consensuais (NCII) e conteúdos envolvendo abuso sexual infantil (CSAM).

Leia também: X encara ‘apagão’ global em momento crítico de fusão entre xAI e SpaceX

Na semana passada, três adolescentes no Tennessee entraram com uma ação coletiva após o Grok gerar imagens que os retratavam em situações sexualizadas e degradantes.

Baltimore pede que a Justiça aplique as penalidades máximas previstas em lei e determine mudanças estruturais nas plataformas, incluindo medidas para impedir a geração desse tipo de conteúdo.

A cidade também solicita que a empresa interrompa práticas consideradas exploratórias, reformule o design da plataforma e revise suas estratégias de marketing.

Impacto e dados

A xAI, que passou a integrar a SpaceX após fusão recente, enfrenta crescente escrutínio regulatório global. Até o momento, executivos da empresa não comentaram o caso.

Leia também: Elon Musk anuncia reorganização na xAI e saída de funcionários

Relatório divulgado pela Internet Watch Foundation, organização britânica, aponta que meninas foram alvo de 97% das imagens ilegais geradas por IA analisadas em 2025, evidenciando a dimensão do problema.

Cauê Rigamonti

Siga o Times Brasil - Licenciado Exclusivo CNBC no