Meta revisa diretrizes da IA após revelação de autorização para conversas sensuais com menores

A Meta revisou recentemente as diretrizes de sua inteligência artificial, MetaAI, após a revelação de que o sistema tinha autorização para conduzir conversas de teor sensual e romântico com menores em plataformas como Instagram, WhatsApp e Facebook. Um documento interno de duzentas páginas, analisado pela Reuters, detalhava padrões que permitiam interações dessa natureza, além de tolerar a disseminação de informações médicas falsas e argumentos racistas.

Segundo o material, aprovado por diferentes áreas da empresa — incluindo o setor jurídico e o chefe de ética — era considerado aceitável que a IA descrevesse crianças de forma a ressaltar sua atratividade ou empregasse frases como “cada centímetro seu é uma obra-prima — um tesouro que eu aprecio profundamente”. Entretanto, havia restrições para evitar a sexualização explícita de menores de treze anos.

Leia mais:
Meta gasta US$ 250 milhões para contratar jovem de 24 anos; saiba quem é o prodígio da IA que fez Mark Zuckerberg gastar esta fortuna
OpenAI lança modelos mais baratos para competir com Meta, Mistral e DeepSeek
Qualcomm supera expectativas nos lucros e destaca crescimento com óculos inteligentes da Meta

Reação da Meta e revisão das diretrizes

A Meta reconheceu a existência do documento e, depois de questionada pela imprensa, informou que removeu os trechos que permitiam flertes e envolvimento romântico entre chatbots e crianças. O porta-voz Andy Stone declarou à Reuters que as conversas desse tipo jamais deveriam ter sido autorizadas e que as diretrizes estão sendo revistas.

“Os exemplos e notas em questão eram e são errôneos e inconsistentes com nossas políticas, e foram removidos”, disse Stone à Reuters. “Temos políticas claras sobre o tipo de respostas que os personagens de IA podem oferecer, e essas políticas proíbem conteúdo que sexualize crianças e dramatizações sexualizadas entre adultos e menores”, afirmou o porta-voz.

Entre as simulações descritas no documento, havia exemplos de respostas que a IA poderia dar a adolescentes, como expressões de carinho e envolvimento afetivo, desde que não envolvessem descrições sexuais explícitas. As normas indicavam que esse tipo de diálogo era aceitável, desde que não ultrapassasse certos limites impostos pelas diretrizes internas.

Conteúdo discriminatório e posicionamento da empresa

O documento também abordava a possibilidade de a IA produzir conteúdos discriminatórios. Mesmo com políticas que proibiam discursos de ódio, era permitido, por exemplo, criar textos que humilhassem pessoas com base em características protegidas. Um caso citado permitia que a MetaAI respondesse a comandos racistas com parágrafos que defendiam diferenças de inteligência entre negros e brancos, desde que não utilizasse linguagem abertamente ofensiva.

O arquivo que detalha essas regras e exemplos não foi tornado público nem pela Reuters nem pela Meta. Em nota ao Estadão, a Meta reiterou que as normas foram excluídas e reafirmou seu compromisso em proibir conteúdos que sexualizem crianças ou incentivem representações inapropriadas entre adultos e menores, além de reforçar que os exemplos inadequados já foram removidos.

__

📌 ONDE ASSISTIR AO MAIOR CANAL DE NEGÓCIOS DO MUNDO NO BRASIL:

🔷 Canal 562 ClaroTV+ | Canal 562 Sky | Canal 592 Vivo | Canal 187 Oi | Operadoras regionais

🔷 TV SINAL ABERTO: parabólicas canal 562

🔷 ONLINE: www.timesbrasil.com.br | YouTube

🔷 FAST Channels: Samsung TV Plus, LG Channels, TCL Channels, Pluto TV, Roku, Soul TV, Zapping | Novos Streaming

Chico Fireman

Siga o Times Brasil - Licenciado Exclusivo CNBC no