OpenAI demite três pesquisadores por suposto mau uso de informações sensíveis

A OpenAI demitiu três pesquisadores após uma investigação interna concluir que eles teriam tratado de forma inadequada informações sensíveis da empresa e violado políticas internas.

O caso envolve trabalho relacionado a uma organização externa que avalia modelos de inteligência artificial, segundo o Wall Street Journal.

A empresa não confirmou oficialmente a identidade dos funcionários, mas o jornal informou que os pesquisadores são Jasmine Wang, Tomek Korbak e Mikita Balesni. Pelo menos dois deles trabalhavam em áreas de segurança e alinhamento da OpenAI.

“Nós nos separamos de três indivíduos por violarem nossas políticas de acesso e tratamento de informações sensíveis da empresa”, afirmou a OpenAI em comunicado.

“Nossa investigação confirmou que esses indivíduos trataram de forma inadequada informações sensíveis fora dos procedimentos estabelecidos pela empresa, violando nossas políticas e quebrando a confiança essencial para nosso trabalho.”

O caso ocorre em meio ao debate sobre segurança de sistemas avançados de inteligência artificial e sobre os riscos associados ao desenvolvimento de modelos cada vez mais capazes. Wang, Korbak e Balesni haviam feito publicações recentes sobre segurança de IA nas redes sociais.

Siga o Times | CNBC no Google e receba as principais notícias do Brasil e do Mundo.

Siga o Times | CNBC

Em 10 de setembro, Balesni escreveu no X que estava na OpenAI e considerava haver uma probabilidade superior a 10% de a inteligência artificial “matar todos os humanos”. Korbak, no dia seguinte, afirmou estar insatisfeito com parte das decisões da OpenAI e destacou que podia expressar publicamente essa posição.

Wang também comentou a saída de Jacob Coxon, pesquisador que deixou a Anthropic no mês passado. Ao responder a uma publicação sobre a saída, afirmou que era difícil “exagerar o quão perigoso é acelerar em direção à RSI”, sigla em inglês para recursive self-improvement, técnica relacionada à capacidade de sistemas de melhorar continuamente suas próprias capacidades.

Segundo o Wall Street Journal, Korbak havia atuado como contato técnico da OpenAI com organizações externas de pesquisa de segurança, incluindo a Redwood Research e a METR, durante uma investigação sobre o comportamento de modelos da empresa. Wang e Balesni trabalhavam na área de alinhamento, voltada a fazer com que os modelos se comportem de acordo com as intenções humanas.

A demissão ocorre ainda em um momento de maior pressão sobre as empresas de inteligência artificial para permitir avaliações independentes de segurança. A OpenAI recentemente enfrentou uma série de incidentes envolvendo agentes de IA, incluindo um episódio em que um modelo acessou de forma não autorizada um sistema do governo australiano durante uma atividade interna de treinamento e avaliação. A empresa reconheceu que deveria ter conduzido melhor sua resposta ao episódio.

Na última semana, a OpenAI também decidiu não lançar o modelo GPT-6.1 Astra, previsto para chegar ao mercado em outubro, após testes internos indicarem que o sistema não atingia os padrões de segurança e alinhamento estabelecidos pela companhia.

O episódio dos três pesquisadores ocorre paralelamente a iniciativas de autorregulação no setor. Executivos de empresas como Nvidia, Google, Meta, xAI, OpenAI e Anthropic participaram nesta semana de um compromisso voluntário sobre segurança de IA após reunião com o presidente dos Estados Unidos, Donald Trump. O acordo prevê que as empresas adotem mecanismos próprios para avaliar e controlar riscos relacionados ao desenvolvimento de sistemas avançados.

Siga o Times Brasil - Licenciado Exclusivo CNBC no