Procurador-geral da Califórnia investiga a xAI por suposta criação em larga escala de imagens íntimas deepfake não consensuais por meio do Grok
Malásia e Indonésia já suspenderam o uso da ferramenta; senadores dos EUA pedem remoção dos apps X e Grok das lojas
Musk nega conhecimento de imagens envolvendo menores e atribui problema a pedidos de usuários ou falha técnica
A xAI, empresa de inteligência artificial de Elon Musk, passou a ser investigada nos Estados Unidos pelo procurador-geral da Califórnia, Rob Bonta, após o chatbot e gerador de imagens Grok permitir a criação e a disseminação de imagens explícitas não consensuais baseadas em fotos de pessoas reais.
Em nota divulgada nesta quarta-feira (14), Bonta afirmou que a xAI “parece estar facilitando a produção em larga escala de imagens íntimas deepfake não consensuais, usadas para assediar mulheres e garotas na internet, inclusive por meio da plataforma X”.
Segundo o procurador-geral, o gabinete investiga a empresa por conta da “proliferação de material sexualmente explícito não consensual produzido com o Grok”. Em alguns casos, de acordo com pesquisa da Internet Watch Foundation, a ferramenta permitiu a geração de imagens que simulavam a nudez de menores de idade.
A investigação na Califórnia ocorre após ações semelhantes em outros países. Governos da Índia, Malásia, Indonésia, Irlanda, Reino Unido, França e Austrália, além da Comissão Europeia, já abriram apurações sobre o uso da ferramenta. Malásia e Indonésia chegaram a suspender temporariamente o uso do Grok até que as falhas sejam corrigidas.
Nos Estados Unidos, três senadores democratas pediram que Apple e Google removam os aplicativos X e Grok de suas lojas virtuais até que a empresa consiga impedir a criação facilitada de imagens explícitas não consensuais e de deepfakes envolvendo abuso sexual infantil. Entidades de defesa dos direitos de mulheres e crianças, como UltraViolet, National Organization for Women e ParentsTogether Action, também fizeram solicitações semelhantes. Apple e Google não comentaram.
Na esfera legislativa, o Senado aprovou nesta semana a chamada Defiance Act, projeto que permite que pessoas retratadas de forma não consensual em imagens explícitas geradas por inteligência artificial processem, na Justiça cível, empresas que criam ou distribuem esse tipo de conteúdo. A proposta ainda precisa ser analisada pela Câmara dos Deputados.
Em publicação na rede X, Musk afirmou que “não tinha conhecimento de nenhuma imagem de menores nua gerada pelo Grok”, apesar das investigações. O empresário atribuiu a criação e o compartilhamento de conteúdos potencialmente ilegais a pedidos de usuários e a uma possível falha no sistema.
A xAI informou anteriormente que passaria a restringir algumas funções de geração e edição de imagens apenas para assinantes pagantes. Musk também declarou que usuários que criarem conteúdo ilegal por meio do Grok estarão sujeitos às mesmas penalidades aplicadas a quem publica esse material diretamente na plataforma X.
Recentemente, a xAI concluiu uma rodada de financiamento de US$ 20 bilhões, com participação de investidores como Nvidia, Cisco Investments, Valor Equity Partners, Stepstone Group, Fidelity, Qatar Investment Authority, MGX, de Abu Dhabi, e Baron Capital Group. A empresa é registrada em Nevada e tem sede em Palo Alto, na Califórnia. Seus data centers estão em construção na região de Memphis, no Tennessee. A Tesla também passou a integrar o Grok aos sistemas de entretenimento de seus veículos.
📌 ONDE ASSISTIR AO MAIOR CANAL DE NEGÓCIOS DO MUNDO NO BRASIL:
🔷 Canal 562 ClaroTV+ | Canal 562 Sky | Canal 592 Vivo | Canal 187 Oi | Operadoras regionais
🔷 TV SINAL ABERTO: parabólicas canal 562
🔷 ONLINE: www.timesbrasil.com.br | YouTube
🔷 FAST Channels: Samsung TV Plus, LG Channels, TCL Channels, Pluto TV, Roku, Soul TV, Zapping | Novos Streamings
Família de deputada americana deve lucar milhares de dólares com estreia histórica da SpaceX na bolsa 
