TikTok é acusado de realizar testes secretos com 15 milhões de usuários nos EUA

O Ministério Público de Nova York ampliou as acusações contra o TikTok por supostas falhas na proteção de crianças e adolescentes. A plataforma é investigada por ter realizado um experimento sem informar os usuários, no qual aproximadamente 15 milhões de pessoas nos Estados Unidos ficaram sem acesso a um recurso desenvolvido para permitir a redefinição das recomendações de conteúdo.

A ferramenta, chamada de “Algo Refresh”, foi criada para oferecer aos usuários a possibilidade de reiniciar as sugestões de vídeos exibidas no aplicativo. Segundo a acusação, o TikTok restringiu o acesso à funcionalidade para parte do público com o objetivo de analisar se ela poderia reduzir o tempo de permanência na rede social.

O caso integra uma ação judicial iniciada em 2024 pela procuradora-geral de Nova York, Letitia James, em conjunto com autoridades de outros 13 estados norte-americanos. O processo questiona práticas da plataforma que, segundo os autores, podem estimular o uso excessivo do aplicativo e provocar consequências negativas para a saúde mental dos jovens.

Como funcionava o experimento

Os registros, divulgados pela Bloomberg Businessweek, indicam que a empresa iniciou, em 2021, testes relacionados ao funcionamento de seu sistema de recomendações. De acordo com a reportagem, aproximadamente 10% dos usuários norte-americanos foram selecionados para continuar utilizando a versão anterior da plataforma, sem a disponibilidade do Algo Refresh. Esse grupo serviu como referência para avaliar o comportamento das pessoas que tinham acesso à ferramenta.

O recurso permite redefinir as recomendações apresentadas no feed principal, conhecido como “Para Você”. Ao ser acionado, ele faz com que o aplicativo deixe de considerar as preferências anteriores na seleção inicial dos vídeos, passando a apresentar conteúdos mais gerais, de maneira semelhante ao que ocorre com uma conta recém-criada.

Com a comparação entre os dois grupos, a empresa buscava identificar possíveis mudanças nos hábitos de navegação e no tempo gasto dentro do aplicativo.

Leia também: TikTok testa compras sem sair do app e assistente de IA para escolher produtos

Promotoria aponta riscos para adolescentes

Para a Procuradoria de Nova York, o procedimento teria exposto parte dos usuários a condições de segurança inferiores às oferecidas aos demais, sem comunicação prévia sobre a participação no teste.

A acusação sustenta que a decisão foi especialmente preocupante por incluir adolescentes, considerados mais vulneráveis aos possíveis efeitos do consumo prolongado de conteúdos recomendados por algoritmos.

Na atualização do processo, Letitia James também menciona o caso de um adolescente norte-americano que morreu por suicídio após ter sido exposto a publicações relacionadas à automutilação e ao suicídio. Segundo a acusação, o jovem integrava o grupo que não recebeu acesso ao recurso durante o experimento.

A referência ao episódio faz parte dos argumentos apresentados pelas autoridades, mas não estabelece, por si só, uma relação direta de causa e efeito entre o teste e a morte do adolescente.

TikTok confirma teste, mas contesta acusações

Siga o Times | CNBC no Google e receba as principais notícias do Brasil e do Mundo.

Siga o Times | CNBC

O TikTok reconheceu a realização do experimento. A empresa informou que parte dos usuários poderia permanecer com a experiência original do aplicativo enquanto novas funcionalidades eram avaliadas. A plataforma, porém, rejeita a interpretação de que esse tipo de procedimento tenha tornado o serviço menos seguro.

Segundo a companhia, testes com diferentes grupos fazem parte do desenvolvimento de produtos digitais e são utilizados regularmente para verificar o desempenho de ferramentas e compreender seus efeitos na utilização cotidiana.

A divergência entre as autoridades e o TikTok está, portanto, na avaliação dos riscos envolvidos e na responsabilidade da empresa ao manter determinados usuários fora de uma funcionalidade relacionada à segurança.

Histórico de disputas judiciais sobre proteção de menores

O novo questionamento ocorre em meio a outras disputas judiciais envolvendo a atuação do TikTok e a proteção de crianças e adolescentes nos Estados Unidos.

Entre os casos mencionados estão acusações de descumprimento da Lei de Proteção à Privacidade Online das Crianças, conhecida pela sigla COPPA. A legislação estabelece regras para a coleta e o tratamento de informações pessoais de menores de 13 anos.

Em uma dessas disputas, a plataforma foi acusada de permitir que crianças criassem contas sem autorização dos responsáveis e de coletar dados pessoais desse público de forma irregular. O material que fundamenta as novas acusações também menciona um acordo financeiro de US$ 400 milhões relacionado a esse tipo de investigação.

Além das questões de privacidade, empresas responsáveis por redes sociais enfrentam processos que discutem o funcionamento de recursos capazes de incentivar a permanência dos usuários nas plataformas.

Nesse contexto, os sistemas de recomendação ocupam uma posição central nas investigações, já que determinam quais publicações são apresentadas e influenciam a sequência de vídeos consumidos pelo público.

Debate envolve transparência e funcionamento dos algoritmos

A ampliação do processo em Nova York acrescenta uma nova questão ao debate sobre a responsabilidade das plataformas digitais: os limites para a realização de testes que alteram a experiência de usuários, especialmente quando envolvem menores de idade.

As autoridades questionam se a empresa poderia restringir o acesso a uma ferramenta associada à proteção dos usuários sem informar os participantes ou avaliar adequadamente os possíveis riscos.

O TikTok, por sua vez, sustenta que a experimentação é uma prática habitual no desenvolvimento e na avaliação de funcionalidades.

Siga o Times Brasil - Licenciado Exclusivo CNBC no