IA de Elon Musk entra na mira da Justiça dos EUA; entenda

A xAI, empresa de inteligência artificial de Elon Musk, passou a ser investigada nos Estados Unidos pelo procurador-geral da Califórnia, Rob Bonta, após o chatbot e gerador de imagens Grok permitir a criação e a disseminação de imagens explícitas não consensuais baseadas em fotos de pessoas reais.

Em nota divulgada nesta quarta-feira (14), Bonta afirmou que a xAI “parece estar facilitando a produção em larga escala de imagens íntimas deepfake não consensuais, usadas para assediar mulheres e garotas na internet, inclusive por meio da plataforma X”.

Segundo o procurador-geral, o gabinete investiga a empresa por conta da “proliferação de material sexualmente explícito não consensual produzido com o Grok”. Em alguns casos, de acordo com pesquisa da Internet Watch Foundation, a ferramenta permitiu a geração de imagens que simulavam a nudez de menores de idade.

Leia mais:
Indonésia bloqueia temporariamente acesso ao Grok de Elon Musk devido a imagens sexualizadas
Em meio a controvérsias, empresa de Elon Musk supera meta e levanta US$ 20 bilhões em rodada de financiamento

A investigação na Califórnia ocorre após ações semelhantes em outros países. Governos da Índia, Malásia, Indonésia, Irlanda, Reino Unido, França e Austrália, além da Comissão Europeia, já abriram apurações sobre o uso da ferramenta. Malásia e Indonésia chegaram a suspender temporariamente o uso do Grok até que as falhas sejam corrigidas.

Nos Estados Unidos, três senadores democratas pediram que Apple e Google removam os aplicativos X e Grok de suas lojas virtuais até que a empresa consiga impedir a criação facilitada de imagens explícitas não consensuais e de deepfakes envolvendo abuso sexual infantil. Entidades de defesa dos direitos de mulheres e crianças, como UltraViolet, National Organization for Women e ParentsTogether Action, também fizeram solicitações semelhantes. Apple e Google não comentaram.

Na esfera legislativa, o Senado aprovou nesta semana a chamada Defiance Act, projeto que permite que pessoas retratadas de forma não consensual em imagens explícitas geradas por inteligência artificial processem, na Justiça cível, empresas que criam ou distribuem esse tipo de conteúdo. A proposta ainda precisa ser analisada pela Câmara dos Deputados.

Em publicação na rede X, Musk afirmou que “não tinha conhecimento de nenhuma imagem de menores nua gerada pelo Grok”, apesar das investigações. O empresário atribuiu a criação e o compartilhamento de conteúdos potencialmente ilegais a pedidos de usuários e a uma possível falha no sistema.

A xAI informou anteriormente que passaria a restringir algumas funções de geração e edição de imagens apenas para assinantes pagantes. Musk também declarou que usuários que criarem conteúdo ilegal por meio do Grok estarão sujeitos às mesmas penalidades aplicadas a quem publica esse material diretamente na plataforma X.

Leia mais:
Reino Unido aperta o cerco contra o X, de Elon Musk; entenda por que
Empresa de Elon Musk vai investir mais de US$ 20 bilhões em data center; entenda a estratégia

Recentemente, a xAI concluiu uma rodada de financiamento de US$ 20 bilhões, com participação de investidores como Nvidia, Cisco Investments, Valor Equity Partners, Stepstone Group, Fidelity, Qatar Investment Authority, MGX, de Abu Dhabi, e Baron Capital Group. A empresa é registrada em Nevada e tem sede em Palo Alto, na Califórnia. Seus data centers estão em construção na região de Memphis, no Tennessee. A Tesla também passou a integrar o Grok aos sistemas de entretenimento de seus veículos.

Da Redação

Siga o Times Brasil - Licenciado Exclusivo CNBC no