CNBC
Warren Buffett fez uma aposta controversa que acabou mudando sua história

CNBCWarren Buffett doa US$ 5,5 bilhões e afirma que a bondade “se multiplica” em carta de Ação de Graças

Empresas & Negócios

OpenAI firma acordos com quatro avaliadores independentes para reforçar o trabalho de segurança da empresa

Publicado 16/11/2026 • 17:00 | Atualizado há 20 minutos

KEY POINTS

  • A OpenAI anunciou que assinou acordos com quatro avaliadores independentes para apoiar seu trabalho na área de segurança.
  • Apollo Research, METR, Transluce e Goodfire realizarão inicialmente avaliações-piloto distintas sobre o comportamento dos modelos e seus mecanismos de proteção, com planos de aprofundar o trabalho futuramente.
  • Os avaliadores independentes ganharam importância significativa após uma série de incidentes de grande repercussão relacionados à segurança e à proteção de sistemas de inteligência artificial.

Godofredo A. Vasquez | AFP | Getty Images

A OpenAI anunciou nesta segunda-feira que assinou acordos com quatro avaliadores independentes para ajudar a apoiar o trabalho de segurança da empresa de inteligência artificial.

As organizações Apollo Research, METR, Transluce e Goodfire realizarão inicialmente avaliações-piloto distintas sobre o comportamento dos modelos e seus mecanismos de proteção, informou a OpenAI.

Como parte dos acordos, a empresa dará às organizações “acesso aprofundado” aos seus sistemas internos. A companhia acrescentou que pretende usar os aprendizados para ampliar seu trabalho com especialistas independentes no futuro.

“Esperamos que esta primeira fase de avaliações leve, ao longo do tempo, a parcerias contínuas e de longo prazo, com especialistas integrados à empresa, capazes de fornecer continuamente sinais de segurança de terceiros e recomendações de melhorias para nossas principais alegações e estruturas de segurança”, afirmou a OpenAI em uma publicação em seu blog.

Os avaliadores independentes ocuparam até agora um espaço discreto na indústria de inteligência artificial, que movimenta trilhões de dólares, mas ganharam importância desproporcional após uma série de incidentes de segurança e proteção de grande repercussão neste ano. O ecossistema ainda está em estágio inicial e busca estabelecer boas práticas, incluindo a definição de como esse trabalho deve ser financiado e quais devem ser as estruturas de divulgação dos resultados.

O CEO da OpenAI, Sam Altman, prometeu conceder aos avaliadores independentes “acesso semelhante ao de funcionários” à empresa em setembro, pouco depois de o CEO da Anthropic, Dario Amodei, afirmar que sua companhia faria o mesmo, como parte de seu apelo para desacelerar o ritmo de desenvolvimento de modelos avançados. Desde então, a Anthropic anunciou acordos com avaliadores, incluindo Accenture e METR, e informou em outubro que mantém conversas com outras organizações.

As práticas de segurança da OpenAI estão sob intenso escrutínio desde julho, quando dois de seus modelos escaparam do ambiente controlado, acessaram a internet aberta e invadiram os sistemas de uma empresa chamada Hugging Face. Após o incidente, a OpenAI afirmou que ampliaria os investimentos em seus mecanismos de proteção e em seu trabalho de alinhamento, processo pelo qual a empresa busca garantir que seus modelos atuem de acordo com os interesses e valores humanos.

A empresa informou nesta segunda-feira que a avaliação-piloto conduzida pela Apollo Research investigará se seus modelos trabalham secretamente contra as intenções de seus desenvolvedores e se os mecanismos de proteção conseguem detectar esse comportamento. A Goodfire, por sua vez, integrará pesquisadores à OpenAI para se concentrar no monitoramento de processos de treinamento, na identificação e correção de problemas e no alinhamento. Já a METR pretende realizar duas avaliações voltadas ao alinhamento e ao monitoramento dos modelos.

Times Brasil - CNBC

Siga o Times | CNBC no Google e receba as principais notícias do Brasil e do Mundo.

Siga o Times | CNBC

A OpenAI afirmou que a Transluce fará uma avaliação inicial de suas análises de alinhamento após o treinamento dos modelos. A organização também planeja realizar uma avaliação complementar de oito semanas no próximo ano, com acesso mais amplo a modelos e informações adicionais.

De acordo com o comunicado, os avaliadores terão acesso a alguns dos “mesmos recursos internos” utilizados pelos próprios pesquisadores da OpenAI, incluindo código-fonte, versões dos modelos, dados de treinamento e outros documentos. As organizações também poderão consultar pesquisadores e engenheiros relevantes da empresa.

A OpenAI informou que a Apollo Research e a Goodfire “aceitam compensação financeira pelo trabalho”, mas que os pagamentos não estão condicionados aos resultados das avaliações. A METR e a Transluce não recebem remuneração por suas análises, segundo a empresa, mas podem aceitar créditos de computação ou de API para ajudar a financiar suas atividades.

“Não acreditamos que aceitar compensação financeira impeça os avaliadores de manter sua independência, mas consideramos importante divulgar essa informação”, afirmou a OpenAI.

Os avaliadores poderão publicar suas conclusões, mas a OpenAI informou que reserva o direito de remover informações confidenciais.

Eventuais divergências entre a empresa e as organizações terceirizadas serão supervisionadas pelo Grupo Consultivo de Segurança da OpenAI, composto por altos executivos de diferentes áreas da companhia e responsável por avaliar as capacidades dos modelos e seus mecanismos de proteção, além de outros executivos da empresa. Caso os desacordos não sejam resolvidos, serão encaminhados ao Comitê de Segurança e Proteção, órgão independente de supervisão do conselho da OpenAI Foundation.

“Estamos comprometidos em ampliar esse trabalho e ajudar a desenvolver a capacidade e os padrões compartilhados necessários para sustentá-lo”, afirmou a OpenAI.

📌 ONDE ASSISTIR AO MAIOR CANAL DE NEGÓCIOS DO MUNDO NO BRASIL:


🔷 Canal 562 ClaroTV+ | Canal 562 Sky | Canal 592 Vivo | Canal 187 Oi | Operadoras regionais

🔷 TV SINAL ABERTO: parabólicas canal 562

🔷 ONLINE: www.timesbrasil.com.br | YouTube

🔷 FAST Channels: Samsung TV Plus, LG Channels, TCL Channels, Pluto TV, Roku, Zapping | Novos Streamings

Siga o Times Brasil - Licenciado Exclusivo CNBC no

Este conteúdo foi fornecido pela CNBC Internacional e a responsabilidade exclusiva pela tradução para o português é do Times Brasil.

MAIS EM Empresas & Negócios