Indonésia bloqueia temporariamente acesso ao Grok de Elon Musk devido a imagens sexualizadas

A Indonésia bloqueou temporariamente o chatbot Grok, de Elon Musk, neste sábado devido ao risco de conteúdo pornográfico gerado por IA, tornando-se o primeiro país a negar acesso à ferramenta.

A medida ocorre após governos e reguladores da Europa à Ásia condenarem e, em alguns casos, abrirem investigações sobre conteúdo sexualizado no aplicativo.

A xAI, startup por trás do Grok, disse na quinta-feira que estava restringindo a geração e edição de imagens a assinantes pagos, enquanto tentava corrigir falhas de segurança que permitiram resultados sexualizados, incluindo representações de crianças com pouca roupa.

“O governo vê a prática de deepfakes sexuais não consensuais como uma grave violação dos direitos humanos, da dignidade e da segurança dos cidadãos no espaço digital”, disse a Ministra das Comunicações e Digital, Meutya Hafid, em comunicado.

O ministério também convocou executivos do X para discutir o assunto.

Siga o Times | CNBC no Google e receba as principais notícias do Brasil e do Mundo.

Siga o Times | CNBC

Leia também: Senadores dos EUA pedem que Apple e Google suspendam X e Grok por conteúdo sexual

Musk disse no X que qualquer pessoa que usasse o Grok para criar conteúdo ilegal sofreria as mesmas consequências como se tivesse enviado conteúdo ilegal.

A xAI respondeu ao e-mail da Reuters pedindo comentários com o que parecia ser uma resposta automática: “A Mídia Tradicional Mente”. O X não respondeu imediatamente a um pedido de comentário.

A Indonésia, com a maior população muçulmana do mundo, possui regras rígidas que proíbem o compartilhamento online de conteúdo considerado obsceno.

Gostaria que eu pesquisasse se outros países do Sudeste Asiático estão considerando restrições semelhantes ao Grok?

Nathalia Fruchi

Siga o Times Brasil - Licenciado Exclusivo CNBC no