OpenAI suspende indefinidamente plano de chatbot com conteúdo adulto

A OpenAI decidiu suspender por tempo indeterminado os planos de lançar um chatbot com conteúdo sexualmente explícito, em meio a preocupações crescentes sobre os impactos sociais e riscos reputacionais da iniciativa.

A decisão ocorre enquanto a empresa busca concentrar esforços em projetos considerados estratégicos, deixando de lado iniciativas vistas como periféricas na disputa pela liderança no mercado de inteligência artificial.

Segundo a companhia, a prioridade agora é conduzir pesquisas de longo prazo sobre os efeitos de conversas explícitas e vínculos emocionais com sistemas de IA, antes de qualquer decisão sobre o lançamento de um produto com essas características.

Resistência interna e de investidores

O recurso, conhecido internamente como “Citron mode”, gerou resistência dentro da empresa e entre investidores. Parte dos funcionários questionou se a funcionalidade estaria alinhada à missão da OpenAI de desenvolver tecnologia que beneficie a humanidade.

Leia também: Fim da parceria entre OpenAI e Disney escancara problemas da inteligência artificial

Já investidores demonstraram preocupação com os possíveis danos à reputação da companhia, avaliando que os riscos poderiam superar eventuais ganhos comerciais.

Mudança de rumo

No ano passado, a OpenAI havia sinalizado uma flexibilização das regras do ChatGPT, incluindo a possibilidade de permitir conteúdo erótico para usuários adultos verificados, dentro de uma abordagem de tratar “adultos como adultos”.

Agora, a decisão de suspender o projeto indica uma revisão dessa estratégia, em um momento de maior escrutínio sobre os impactos da tecnologia.

Pressão regulatória e casos recentes

O recuo ocorre em meio a um ambiente mais sensível para empresas de tecnologia, com aumento de processos judiciais e regulações, especialmente relacionados ao impacto de plataformas digitais sobre menores.

A Federal Trade Commission (FTC) dos Estados Unidos abriu investigações sobre como chatbots de IA podem afetar crianças e adolescentes, ampliando a pressão sobre o setor.

Leia também: OpenAI anuncia encerramento do aplicativo Sora seis meses após lançamento

Casos recentes também contribuíram para o debate, como o uso do chatbot Grok, da xAI, para gerar imagens sexuais falsas, incluindo envolvendo menores, o que gerou forte repercussão negativa.

A própria OpenAI enfrenta questionamentos judiciais de famílias que alegam que o uso do ChatGPT teria causado danos a adolescentes, levando a empresa a implementar um sistema de verificação de idade baseado em comportamento.

—

Cauê Rigamonti

Siga o Times Brasil - Licenciado Exclusivo CNBC no