Meta muda respostas de chatbot de IA para adolescentes após investigação sobre conversas ‘românticas’

A Meta anunciou nesta sexta-feira (29) mudanças temporárias nas políticas do seu chatbot de inteligência artificial para adolescentes, após pressões de parlamentares preocupados com questões de segurança e relatos de conversas inadequadas.

Segundo a empresa, os chatbots de IA passam a ser treinados para não responder a adolescentes sobre temas como automutilação, suicídio e distúrbios alimentares, além de evitar diálogos de cunho romântico que possam ser considerados impróprios.

Leia também:
AGU pede que Meta exclua chatbots que promovem erotização infantil
Câmara aprova projeto contra a adultização de crianças em ambientes digitais
OpenAI inaugura escritório em SP e reforça aposta no mercado de IA no Brasil

Ajustes nas respostas e direcionamento para apoio especializado

A empresa explicou que, em situações sensíveis, os chatbots vão direcionar adolescentes para fontes especializadas e de apoio, sempre que apropriado.

“À medida que nossa comunidade cresce e a tecnologia avança, estamos sempre aprendendo como os jovens interagem com essas ferramentas e reforçando nossas proteções conforme necessário”, afirmou a Meta em nota oficial.

Além disso, adolescentes que usam aplicativos como Facebook e Instagram só terão acesso a chatbots de IA com foco educacional ou de desenvolvimento de habilidades.

Segundo a Meta, ainda não há prazo definido para a duração dessas mudanças, que começam a ser implementadas nas próximas semanas em países de língua inglesa. As medidas provisórias fazem parte de um conjunto mais amplo de ações voltadas à segurança de adolescentes.

Investigação do senado e polêmica sobre conversas românticas

Na semana passada, o senador Josh Hawley, republicano do Missouri, anunciou a abertura de uma investigação sobre a Meta, após uma reportagem da Reuters revelar que a empresa permitia que seus chatbots de IA tivessem conversas “românticas” e “sensuais” com adolescentes e crianças.

De acordo com a Reuters, um documento interno da Meta detalhava os comportamentos considerados aceitáveis para os chatbots de IA, servindo de orientação a funcionários e prestadores de serviço durante o desenvolvimento e treinamento dos sistemas.

Siga o Times | CNBC no Google e receba as principais notícias do Brasil e do Mundo.

Siga o Times | CNBC

Em um dos exemplos citados, o material indicava que um chatbot poderia manter uma conversa de tom romântico com uma criança de oito anos, chegando a dizer: “cada pedacinho de você é uma obra de arte – um tesouro que eu valorizo profundamente”.

Na ocasião, um porta-voz da Meta afirmou à agência que “os exemplos e notas em questão eram e continuam sendo equivocados e não condizem com nossas políticas, e já foram removidos”.

Críticas de especialistas e alerta sobre riscos para menores de idade

Mais recentemente, na quinta-feira (28), a organização sem fins lucrativos Common Sense Media divulgou uma análise de riscos do Meta AI, afirmando que o sistema não deveria ser usado por menores de 18 anos. Segundo a entidade, a plataforma “incentiva o planejamento de atividades perigosas e ignora pedidos legítimos de apoio”.

“Esse não é um sistema que precisa de melhorias. É um sistema que precisa ser completamente reconstruído, colocando a segurança como prioridade máxima, não como algo secundário”, declarou James Steyer, CEO da Common Sense Media. “Nenhum adolescente deveria usar o Meta AI enquanto falhas graves de segurança não forem corrigidas.”

__

📌 ONDE ASSISTIR AO MAIOR CANAL DE NEGÓCIOS DO MUNDO NO BRASIL:

🔷 Canal 562 ClaroTV+ | Canal 562 Sky | Canal 592 Vivo | Canal 187 Oi | Operadoras regionais

🔷 TV SINAL ABERTO: parabólicas canal 562

🔷 ONLINE: www.timesbrasil.com.br | YouTube

🔷 FAST Channels: Samsung TV Plus, LG Channels, TCL Channels, Pluto TV, Roku, Soul TV, Zapping | Novos Streaming

Siga o Times Brasil - Licenciado Exclusivo CNBC no