X anuncia bloqueios ao Grok após pressão global por deepfakes sexuais

A plataforma X, de Elon Musk, anunciou nesta quarta-feira (15) novas medidas para impedir que o chatbot de inteligência artificial Grok transforme fotos de pessoas reais em imagens de caráter sexual em países onde esse tipo de conteúdo é ilegal. A decisão ocorre após uma onda de críticas internacionais e o avanço de investigações regulatórias, sobretudo nos Estados Unidos e na Europa.

O anúncio veio dias depois de a Promotoria da Califórnia abrir uma investigação contra a xAI, empresa de IA de Musk, por supostamente facilitar a produção em larga escala de deepfakes íntimos não consentidos, usados para assédio de mulheres e menores de idade, principalmente por meio da rede social X.

Em comunicado, o procurador-geral da Califórnia, Rob Bonta, afirmou que o estado tem “tolerância zero” à criação e disseminação de imagens íntimas não consentidas ou material de abuso sexual infantil gerado por inteligência artificial. Segundo ele, a apuração busca determinar se a xAI violou a legislação estadual ao permitir que esse tipo de conteúdo fosse utilizado para assédio online.

O governador da Califórnia, Gavin Newsom, também se manifestou, classificando como “vil” a decisão da xAI de permitir a proliferação de deepfakes sexualizados e afirmando ter solicitado pessoalmente ao procurador-geral que responsabilize a empresa.

Leia também: Indonésia bloqueia temporariamente acesso ao Grok de Elon Musk devido a imagens sexualizadas

Bloqueio geográfico e restrições técnicas do Grok

Em resposta, a X informou que passará a bloquear geograficamente a capacidade de usuários do Grok e da própria plataforma de criar ou editar imagens de pessoas reais usando roupas reveladoras, como biquínis, roupas íntimas ou trajes semelhantes, em jurisdições onde essa prática seja considerada ilegal.

Segundo a equipe de segurança da empresa, também foram implementadas barreiras tecnológicas para impedir a edição de imagens de pessoas reais com vestimentas sexualizadas, medida que passa a valer para todos os usuários, inclusive assinantes pagos.

Como camada adicional de proteção, a criação e edição de imagens por meio da conta Grok foi limitada apenas a assinantes, segundo a empresa – mudança que, no entanto, não foi suficiente para conter as críticas.

Leia também: Senadores dos EUA pedem que Apple e Google suspendam X e Grok por conteúdo sexual

Indignação internacional e reação de governos

Um levantamento divulgado na semana passada pela ONG AI Forensics, que analisou mais de 20 mil imagens geradas pelo Grok, apontou que mais da metade retratava pessoas com pouca roupa. Do total, 81% das imagens sexualizadas eram de mulheres e 2% aparentavam envolver menores de idade.

A funcionalidade permitia que usuários criassem deepfakes sexualizados a partir de comandos simples, como “coloque-a de biquíni” ou “retire a roupa”, o que intensificou a reação de governos e entidades de direitos digitais.

No Reino Unido, o gabinete do primeiro-ministro Keir Starmer classificou a resposta da X como um “agravo às vítimas” e “não uma solução”, enquanto o regulador britânico Ofcom abriu investigação para avaliar se a plataforma violou a legislação local sobre imagens sexuais.

A pressão também se estendeu ao setor de tecnologia. Uma coalizão de 28 organizações da sociedade civil enviou cartas abertas aos CEOs da Apple e do Google, pedindo que Grok e X sejam removidos das lojas de aplicativos, diante do crescimento de conteúdos sexualizados gerados por IA.

Leia também: UE endurece cerco ao Grok, de Elon Musk, após denúncias de deepfakes ilegais

Bloqueios e sanções em outros países

Governos asiáticos também reagiram. Indonésia e Malásia bloquearam o acesso ao Grok, enquanto a Índia informou que a X removeu milhares de publicações e centenas de contas após reclamações oficiais. Nesta quinta-feira (16), as Filipinas anunciaram a suspensão do acesso ao chatbot.

Na Europa, a comissária francesa para a infância, Sarah El Hairy, afirmou que encaminhou os conteúdos gerados pelo Grok à promotoria francesa, ao regulador de mídia Arcom e à União Europeia, que avalia medidas para interromper completamente a geração desse tipo de material.

(*com informações da AFP)

Da Redação

Siga o Times Brasil - Licenciado Exclusivo CNBC no