Senadores dos EUA pedem que Apple e Google suspendam X e Grok por conteúdo sexual

Três senadores democratas estão pedindo à Apple e ao Google que suspendam os aplicativos X e Grok de suas lojas, pelo menos até que o proprietário Elon Musk os impeça de permitir que os usuários criem e compartilhem imagens explícitas não consensuais e representações de abuso sexual infantil.

Em uma carta aberta aos CEOs da Apple, Tim Cook, e do Google, Sundar Pichai, na sexta-feira, os senadores Ron Wyden (Oregon), Ed Markey (Massachusetts) e Ben Ray Lujan (Novo México) disseram que as gigantes da tecnologia deveriam “remover imediatamente os aplicativos X e Grok de suas lojas de aplicativos até que o CEO da empresa, Elon Musk, aborde essas atividades perturbadoras e provavelmente ilegais”.

“Ignorar o comportamento flagrante do X zombaria de suas práticas de moderação”, escreveram eles, acrescentando que a falha em agir “minaria suas afirmações em público e na justiça de que suas lojas de aplicativos oferecem uma experiência de usuário mais segura do que permitir que os usuários baixem aplicativos diretamente em seus telefones”.

A xAI de Musk, desenvolvedora do Grok e controladora da plataforma social X, respondeu ao pedido de comentário da CNBC com uma resposta automática. Google e Apple não responderam imediatamente aos pedidos de comentário.

O Grok e o X têm permitido que os usuários gerem facilmente e compartilhem amplamente conteúdo sexualizado explícito tipo “deepfake”, que inclui pessoas que nunca deram permissão para que suas imagens fossem usadas dessa maneira. O Grok também tem sido usado para gerar imagens que denigrem pessoas com base em sua raça ou etnia.

Em um exemplo recente, conforme relatado pelo The Times of London, “uma descendente de sobreviventes do Holocausto foi ‘digitalmente despida’” pelo Grok depois que usuários solicitaram que a ferramenta de IA gerasse uma imagem dela em um biquíni em frente a Auschwitz.

Leia mais:
UE endurece cerco ao Grok, de Elon Musk, após denúncias de deepfakes ilegais

As questões geraram críticas generalizadas e investigações regulatórias por governos estrangeiros na Europa, Malásia, Austrália e Índia. No entanto, a Comissão Federal de Comércio e o Departamento de Justiça ainda não informaram se investigarão a xAI.

Em 3 de janeiro, Musk e o X emitiram declarações dizendo que “qualquer pessoa que use ou solicite ao Grok para criar conteúdo ilegal sofrerá as mesmas consequências que sofreria se fizesse o upload de conteúdo ilegal”.

Tanto a Apple quanto o Google possuem diretrizes rigorosas para desenvolvedores de aplicativos que exigem que eles evitem o upload e o compartilhamento de imagens que retratam abuso sexual infantil e outros conteúdos explícitos ou prejudiciais.

Aplicativos de redes sociais e mensagens, incluindo Tumblr e Telegram, já foram suspensos anteriormente pela loja de aplicativos da Apple por falhas na filtragem de diversos conteúdos inadequados.

Na sexta-feira, o X supostamente disponibilizou os recursos de geração de imagens da IA Grok apenas para assinantes pagantes. No entanto, o aplicativo independente e o site do Grok ainda permitiam que os usuários solicitassem que a IA despisse digitalmente, sexualizasse ou degradasse pessoas sem primeiro obter o consentimento para usar suas fotos ou vídeos.

A CNN informou que as recentes atualizações de recursos do Grok, e a relativa falta de salvaguardas, foram exigidas por Musk. Três funcionários da xAI que trabalhavam na equipe de segurança da empresa anunciaram no X que estavam saindo após Musk fazer as exigências, segundo o relatório.

Em meio à reação negativa, a xAI disse esta semana que levantou uma rodada de financiamento de $20 bilhões (R$ 107,3 bilhões) de investidores, incluindo Nvidia e Cisco Investments, bem como apoiadores de longa data das empresas de Musk, como Valor Equity Partners, Stepstone Group, Fidelity, Qatar Investment Authority, MGX de Abu Dhabi e Baron Capital Group.

Maria Figueiredo

Siga o Times Brasil - Licenciado Exclusivo CNBC no