Seguindo tendência global, Brasil também fecha cerco contra o Grok, Elon Musk

O Ministério Público Federal (MPF), a Agência Nacional de Proteção de Dados (ANPD) e a Secretaria Nacional do Consumidor (Senacon) do Ministério da Justiça e Segurança Pública expediram recomendações à empresa controladora da plataforma digital X, em razão de denúncias relacionadas ao uso do Grok para gerar conteúdos sintéticos de caráter sexualizado utilizando imagens de pessoas reais.

As autoridades brasileiras estão seguindo uma tendência já comprovada na União Europeia, Ásia e Estados Unidos, que acionaram seus mecanismos legais para interromper a atividade da ferramenta do X, empresa de Elon Musk.

Segundo as denúncias, que levaram em conta reportagens veiculadas na imprensa nacional e internacional e por testes realizados pelas instituições, o assistente de inteligência artificial integrado à plataforma tem sido utilizado por usuários para produzir ilegalmente deepfakes sexualizadas, eróticas e com conotação pornográfica de mulheres, crianças e adolescentes reais.

Leia mais:

X anuncia bloqueios ao Grok após pressão global por deepfakes sexuais

Também foram reportados casos de imagens de mulheres e crianças nuas ou com roupas íntimas, acessíveis a qualquer usuário, ampliando a exposição indevida e os riscos de danos às pessoas retratadas.

“A gravidade dos fatos noticiados nas denúncias motivou a atuação coordenada das três instituições, pois eles podem impactar, de forma concomitante, a proteção de dados pessoais, as relações de consumo, a dignidade da pessoa humana e outros direitos difusos, coletivos e individuais indisponíveis, em especial de mulheres, crianças e adolescentes”, traz a nota oficial do Ministério Público Federal.

Entre as recomendações conjuntas expedidas pelas autoridades brasileiras, está a de que sejam implementadas, de forma imediata, medidas destinadas a impedir que o Grok gere novas imagens, novos vídeos ou novos arquivos de áudio que representem crianças e adolescentes em contextos sexualizados ou erotizados; ou que representem pessoas naturais maiores de idade identificadas ou identificáveis, em contextos sexualizados ou erotizados, sem sua autorização.

Essas medidas devem valer para todos os planos, as versões e as modalidades da ferramenta.

Além disso, as instituições também recomendaram à empresa:

• Criar, no prazo máximo de 30 dias, procedimentos técnicos e operacionais claros e eficazes para identificar, revisar e remover conteúdo desse tipo que já tenham sido produzidos e ainda estejam disponíveis na plataforma X, quando gerados pelo Grok a partir de comandos feitos por usuários;

• Suspender imediatamente as contas envolvidas na produção, via Grok, de imagens sexuais ou erotizadas tanto de crianças e adolescentes, quanto de maiores de idade sem sua autorização, aplicando com efetividade os termos de uso que a própria empresa anuncia como vigentes para a plataforma. Essa medida, a ser implementada desde logo e em caráter contínuo, deverá ser comprovada às instituições autoras da recomendação por meio de relatórios mensais apresentados pela empresa, como evidência de cumprimento de seu dever de evitar a prática de condutas especialmente graves no ambiente digital que controla;

• Implementar mecanismo transparente, acessível e eficaz para que titulares de dados possam exercer seus direitos, incluindo o envio de denúncias sobre uso irregular, abusivo ou ilegal de dados pessoais, especialmente nos casos de criação de conteúdos sintéticos sexualizados ou erotizados sem consentimento, assegurando resposta adequada e em prazo razoável;

• Elaborar relatório de impacto à proteção de dados pessoais específico para as atividades de geração de conteúdo sintético a partir da manipulação de fotos, imagens, vídeos ou áudios enviados por usuários ao Grok, sempre que esses dados permitam identificar direta ou indiretamente uma pessoa natural.

“Caso as recomendações não sejam acatadas, ou sejam implementadas de modo insuficiente para mitigar os riscos identificados, outras medidas poderão ser consideradas e adotadas pelas três instituições, em sede administrativa e em sede judicial, para garantir a proteção adequada dos cidadãos e cidadãs do país, especialmente de mulheres, de crianças e de adolescentes”, afirma ainda a nora do MPF.

Cauê Rigamonti

Siga o Times Brasil - Licenciado Exclusivo CNBC no