Cidade acusa xAI de práticas enganosas e violação de leis ao promover o Grok como seguro.
Casos envolvem criação em massa de deepfakes com mulheres e menores sem consentimento.
Ações judiciais se multiplicam, incluindo processo coletivo movido por adolescentes nos EUA.
A cidade de Baltimore se tornou a primeira grande cidade dos Estados Unidos a processar a xAI, empresa de Elon Musk, por problemas relacionados ao gerador de imagens Grok, intensificando a pressão legal sobre a companhia.
Segundo o prefeito Brandon Scott, os deepfakes produzidos pela ferramenta têm “consequências traumáticas e permanentes para as vítimas”, incluindo casos envolvendo exploração sexual. “Estamos falando de empresas de tecnologia permitindo a exploração sexual de crianças”, afirmou.
Acusações e práticas questionadas
A ação, apresentada em 24 de março, acusa a empresa de violar leis de proteção ao consumidor e de adotar práticas comerciais enganosas, ao divulgar o Grok – e a plataforma X (ex-Twitter) – como ambientes seguros para os usuários.
O processo também menciona uma tendência nas redes chamada “put her in a bikini”, na qual usuários utilizam a ferramenta para alterar imagens de terceiros sem consentimento, criando versões sexualizadas.
Segundo a denúncia, o próprio Elon Musk teria participado da tendência ao compartilhar uma imagem gerada pelo Grok com teor provocativo, o que, de acordo com os advogados, funcionou como endosso público à prática.
“A postagem sinalizou aos usuários que esse tipo de uso era aceitável e incentivado”, diz o documento.
Escalada de processos
A ação de Baltimore se soma a uma série de processos e investigações contra a xAI em diferentes países, após a ferramenta permitir a criação em massa de imagens íntimas não consensuais (NCII) e conteúdos envolvendo abuso sexual infantil (CSAM).
Na semana passada, três adolescentes no Tennessee entraram com uma ação coletiva após o Grok gerar imagens que os retratavam em situações sexualizadas e degradantes.
Baltimore pede que a Justiça aplique as penalidades máximas previstas em lei e determine mudanças estruturais nas plataformas, incluindo medidas para impedir a geração desse tipo de conteúdo.
A cidade também solicita que a empresa interrompa práticas consideradas exploratórias, reformule o design da plataforma e revise suas estratégias de marketing.
Siga o Times Brasil no Google e receba as principais notícias do Brasil e do Mundo.
A xAI, que passou a integrar a SpaceX após fusão recente, enfrenta crescente escrutínio regulatório global. Até o momento, executivos da empresa não comentaram o caso.
Relatório divulgado pela Internet Watch Foundation, organização britânica, aponta que meninas foram alvo de 97% das imagens ilegais geradas por IA analisadas em 2025, evidenciando a dimensão do problema.
📌 ONDE ASSISTIR AO MAIOR CANAL DE NEGÓCIOS DO MUNDO NO BRASIL:
🔷 Canal 562 ClaroTV+ | Canal 562 Sky | Canal 592 Vivo | Canal 187 Oi | Operadoras regionais
🔷 TV SINAL ABERTO: parabólicas canal 562
🔷 ONLINE: www.timesbrasil.com.br | YouTube
🔷 FAST Channels: Samsung TV Plus, LG Channels, TCL Channels, Pluto TV, Roku, Soul TV, Zapping | Novos Streamings
Jovem trabalhou disfarçada em uma rede de cafeterias antes de abrir seu próprio café de matcha 
