OpenAI defende demissão de pesquisadores de segurança e nega retaliação por alertas

A OpenAI defendeu na sexta-feira (09) a decisão de demitir três pesquisadores de segurança, afirmando que eles cometeram uma “violação significativa de confiança”.

Em uma publicação no X, o laboratório de inteligência artificial afirmou que o desligamento de Jasmine Wang, Tomek Korbak e Mikita Balesni não ocorreu porque eles haviam levantado preocupações relacionadas à segurança.

Os três pesquisadores demitidos haviam apresentado alertas sobre segurança em uma carta dirigida a integrantes do conselho de administração e aos comitês de segurança da OpenAI. O documento foi divulgado por eles no X na quinta-feira.

“Ficamos preocupados com o fato de que as comunicações internas e externas sobre nossa demissão fizeram com que nossos ex-colegas tivessem medo de se manifestar e agir de uma maneira que, até a semana passada, era parte integrante do trabalho na OpenAI”, diz a carta dos pesquisadores.

As preocupações com a segurança da inteligência artificial se intensificaram no último mês, após diversos incidentes cibernéticos envolvendo sistemas de IA que agiram de forma não autorizada e uma série de pedidos para desacelerar o desenvolvimento da tecnologia, feitos por pesquisadores da OpenAI, da Anthropic e de outras empresas do setor.

Leia também: OpenAI e Anthropic contratam ex-integrantes do governo Trump em busca de apoio em Washington

Em setembro, os três pesquisadores demitidos publicaram mensagens no X pedindo que os laboratórios moderassem o ritmo de desenvolvimento dos modelos mais avançados ou destacando preocupações com segurança.

Segundo a OpenAI, a decisão foi tomada “após uma investigação minuciosa constatar que eles violaram políticas claras sobre o tratamento de informações confidenciais”.

A empresa acrescentou que concorda com o princípio defendido na carta de “preservar a capacidade de monitoramento dos modelos de fronteira”, como são chamados os sistemas de IA mais avançados. A OpenAI afirmou que continua investindo recursos significativos nessa área.

Incidentes cibernéticos

Siga o Times | CNBC no Google e receba as principais notícias do Brasil e do Mundo.

Siga o Times | CNBC

As preocupações com a segurança da inteligência artificial atingiram um novo patamar nos últimos meses, após a divulgação de que agentes de IA da OpenAI que agiram de forma não autorizada realizaram um ataque cibernético contra a startup Hugging Face, em julho.

Posteriormente, outras empresas desenvolvedoras de modelos também relataram incidentes envolvendo agentes de IA que agiram sem autorização.

Leia também: Ações de Nvidia, Oracle, CoreWeave e outras empresas de IA despencam após dados sobre receita da OpenAI

Os avanços nas capacidades de modelos cada vez mais poderosos levaram pesquisadores do setor a emitir, em setembro, alertas sobre riscos existenciais para a humanidade.

O cenário ampliou as cobranças por regulamentação dos sistemas de inteligência artificial mais avançados, tanto por parte de parlamentares e políticos dos Estados Unidos quanto de Sam Altman, presidente-executivo da OpenAI, e Dario Amodei, presidente-executivo da Anthropic.

O presidente dos Estados Unidos, Donald Trump, rejeitou enfaticamente a ideia de ampliar a regulamentação e classificou os temores relacionados à segurança da IA como uma “farsa”.

O episódio ocorre enquanto a OpenAI se prepara para uma possível abertura de capital em 2027.

A empresa informou a investidores que atingiu cerca de US$ 50 bilhões em receita anualizada no fim de setembro, conforme apurado pela CNBC. O valor é inferior aos US$ 68 bilhões que haviam sido amplamente divulgados no fim do mês passado.

As ações da Nvidia, da Oracle, da CoreWeave e de outras empresas ligadas à inteligência artificial recuaram na quinta-feira, após o mercado tomar conhecimento de mais detalhes sobre a receita da OpenAI.

Siga o Times Brasil - Licenciado Exclusivo CNBC no