A CNBC americana investigou os perigos de aplicativos e sites de criação de nudes em uma reportagem publicada em setembro. Em sua investigação, a CNBC acompanhou um grupo de mulheres em Minnesota cujas fotos públicas em redes sociais foram inseridas em um serviço de “nudify” para criar deepfakes sexualizados sem o seu consentimento.
Como as mulheres eram todas adultas e o homem que gerou os deepfakes pornográficos não necessariamente os distribuiu, nenhum crime aparente foi cometido.
Mais de 80 mulheres foram vitimadas.
A CNBC descobriu que novos modelos de IA tornaram mais fácil do que nunca gerar nudes em deepfake e conteúdo explícito, com os serviços integrados em aplicativos fáceis de usar como os encontrados pelo TTP.
Dos aplicativos revisados, 14 tinham sede na China, de acordo com o TPP. Paul disse que isso adiciona uma preocupação extra de segurança.
“As leis de retenção de dados da China significam que o governo chinês tem direito aos dados de qualquer empresa em qualquer lugar da China”, disse Paul.
“Portanto, se alguém estiver criando nudes em deepfake de você, eles estarão agora nas mãos do governo chinês caso usem um desses aplicativos.”
Após a xAI atrair escrutínio sobre suas próprias capacidades de criar nudes, a IA do Grok admitiu “falhas nas salvaguardas” que está “corrigindo urgentemente”, em resposta a um usuário do X.
Na segunda-feira, a Comissão Europeia afirmou que abriu uma investigação contra o X devido à disseminação de conteúdo sexualmente explícito pelo Grok.
Em resposta ao pedido de comentário da CNBC, a xAI enviou uma resposta automática que dizia “A Mídia Tradicional Mente”.
Em agosto, a Associação Nacional de Procuradores-Gerais escreveu para plataformas de pagamento, incluindo Apple Pay e Google Pay, levantando preocupações sobre serviços que geram imagens íntimas não consensuais e solicitando que as plataformas removam tais serviços de suas redes.
Senadores democratas de Oregon, Novo México e Massachusetts pediram à Apple e ao Google que removam o X de suas lojas de aplicativos em uma carta enviada este mês, afirmando que a geração em massa de imagens sexualizadas não consensuais viola os termos de distribuição das lojas.
O Centro de Políticas para Desenvolvedores do Google Play afirma que a plataforma não permite “aplicativos que alegam despir pessoas ou ver através das roupas, mesmo que rotulados como pegadinhas ou entretenimento”.
Leia mais: X anuncia bloqueios ao Grok após pressão global por deepfakes sexuais
As diretrizes de revisão de aplicativos da Apple proíbem materiais que sejam “explicitamente sexuais ou pornográficos”.
Os aplicativos identificados pelo TTP têm, coletivamente, mais de 700 milhões de downloads em todo o mundo e geraram US$ 117 milhões em receita, diz o relatório, citando a empresa de análise de aplicativos AppMagic.
Tanto a Apple quanto o Google ficam com uma fatia da receita gerada pelos aplicativos distribuídos em suas lojas.
“O fato de eles não estarem aderindo às suas próprias políticas, que são projetadas para proteger as pessoas de imagens de nudez não consensuais e pornografia não consensual, levanta muitas questões sobre como podem se apresentar como plataformas de aplicativos confiáveis”, disse Paul.
📌 ONDE ASSISTIR AO MAIOR CANAL DE NEGÓCIOS DO MUNDO NO BRASIL:
🔷 Canal 562 ClaroTV+ | Canal 562 Sky | Canal 592 Vivo | Canal 187 Oi | Operadoras regionais
🔷 TV SINAL ABERTO: parabólicas canal 562
🔷 ONLINE: www.timesbrasil.com.br | YouTube
🔷 FAST Channels: Samsung TV Plus, LG Channels, TCL Channels, Pluto TV, Roku, Soul TV, Zapping | Novos Streamings
Siga o Times Brasil - Licenciado Exclusivo CNBC no
Este conteúdo foi fornecido pela CNBC
Internacional e a
responsabilidade exclusiva pela tradução para o português é do Times Brasil.
Índia e União Europeia fecham acordo de livre-comércio “histórico”, diz primeiro-ministro Modi 
