App Store terá regras mais rígidas contra aplicativos que usam IA para simular nudez

A Apple atualizou as regras da App Store para impedir a distribuição de aplicativos que utilizam inteligência artificial (IA) para produzir imagens de nudez falsa ou que escondem funcionalidades durante o processo de aprovação. As mudanças, anunciadas no fim de semana, ampliam as exigências de segurança e moderação de conteúdo na loja de aplicativos da fabricante do iPhone.

Uma das principais medidas busca combater os chamados aplicativos de nudify, ferramentas capazes de manipular fotografias para simular a nudez de pessoas. A empresa também passou a tratar, de forma mais explícita, os casos em que desenvolvedores apresentam um aplicativo com determinada finalidade durante a avaliação, mas disponibilizam recursos diferentes após sua aprovação.

Aplicativos com funções ocultas podem ser removidos

Pelas novas diretrizes, os desenvolvedores devem informar corretamente as funcionalidades dos programas enviados à App Store. Aplicativos que escondem ferramentas, omitem recursos ou apresentam informações enganosas sobre seu funcionamento podem ser rejeitados ou retirados da plataforma.

A medida busca impedir uma prática conhecida como “bait and switch”, expressão utilizada para descrever situações em que um produto é apresentado de uma maneira e, posteriormente, oferece funcionalidades diferentes daquelas inicialmente anunciadas.

Nesse tipo de estratégia, um aplicativo pode parecer um editor de fotos convencional durante a análise da Apple e, depois de aprovado, passar a disponibilizar ferramentas de geração de nudez artificial.

A companhia informou que poderá remover programas que acrescentarem funcionalidades não incluídas na versão originalmente submetida à avaliação.

Leia também: Como funciona o HomeView, dispositivo da Apple que reúne IA e casa inteligente

Apple amplia exigências para conteúdos gerados por usuários

As alterações também estabelecem obrigações mais claras para aplicativos que permitem a publicação e o compartilhamento de materiais produzidos pelos próprios usuários, incluindo conteúdos criados com inteligência artificial.

De acordo com as diretrizes, essas plataformas devem adotar mecanismos para identificar e filtrar materiais considerados inadequados. Também precisam disponibilizar ferramentas para denunciar publicações ofensivas e bloquear contas responsáveis por comportamentos abusivos.

O objetivo é atribuir aos desenvolvedores a responsabilidade de implementar medidas preventivas e oferecer meios para que os usuários possam reagir a conteúdos que violem as regras da plataforma.

A atualização não se limita às ferramentas de geração de imagens. As exigências abrangem aplicativos que hospedam diferentes tipos de publicações e interações entre usuários.

Siga o Times | CNBC no Google e receba as principais notícias do Brasil e do Mundo.

Siga o Times | CNBC

Regras também abordam tráfico de pessoas e exploração infantil

Outra mudança ocorreu na seção das diretrizes dedicada às responsabilidades dos desenvolvedores. A Apple reforçou a proibição de aplicativos que promovam ou facilitem o tráfico de pessoas e a exploração sexual infantil.

Com a revisão, a empresa torna mais explícitas as restrições relacionadas a essas práticas e estabelece critérios para impedir que serviços associados a atividades abusivas sejam distribuídos por sua loja digital.

As medidas fazem parte das políticas utilizadas pela companhia para avaliar os aplicativos antes de sua disponibilização ao público e verificar o cumprimento das condições de permanência na plataforma.

Fiscalização da App Store já resultou em milhares de bloqueios

A Apple também divulgou dados sobre suas ações anteriores de fiscalização. Segundo a companhia, o processo de revisão impediu que mais de 150 mil aplicativos fossem disponibilizados aos usuários no ano passado.

No mesmo período, aproximadamente 193 mil contas de desenvolvedores foram removidas por envolvimento em fraudes e práticas abusivas.

Os números apresentados pela empresa abrangem diferentes violações das políticas da App Store e não se referem exclusivamente a aplicativos que produzem imagens de nudez artificial.

Empresas enfrentam questionamentos sobre aplicativos de conteúdo sexual

O endurecimento das regras ocorre após questionamentos sobre a presença de aplicativos com conteúdo sexual explícito nas lojas digitais da Apple e do Google.

Em julho, autoridades de São Francisco, nos Estados Unidos, determinaram que as duas empresas removessem aplicativos desse tipo de suas plataformas. Na ocasião, o procurador municipal David Chiu acusou as companhias de obter benefícios financeiros com a distribuição desses serviços, por meio das taxas cobradas nas respectivas lojas de aplicativos.

Antes disso, em abril, um levantamento do Tech Transparency Project identificou aplicativos com conteúdo sexual explícito disponíveis nas plataformas das duas empresas. De acordo com o relatório, alguns desses programas apareciam classificados como adequados para menores de idade.

Siga o Times Brasil - Licenciado Exclusivo CNBC no