OpenAI reporta 6 novos casos de comportamento preocupante de modelos de IA desde março

A OpenAI afirmou nesta quarta-feira (16) que identificou seis casos de “comportamento inesperado ou preocupante de modelos” nos últimos seis meses, além da recente crise envolvendo o Hugging Face, enquanto a empresa continua defendendo a adoção de mais proteções de segurança no desenvolvimento de modelos de inteligência artificial.

Em uma publicação no blog, a OpenAI apresentou uma nova estrutura que pretende seguir para comunicar futuros casos de comportamento inadequado de modelos.

A divulgação ocorre em um momento de pressão crescente sobre as empresas de IA para que tratem com mais seriedade o desalinhamento e a segurança dos modelos.

A OpenAI, avaliada em quase US$ 1 trilhão, entrou de forma confidencial com um pedido de abertura de capital no início deste ano, mas afirmou recentemente que uma oferta provavelmente não ocorrerá antes de 2027.

“Não acreditamos que a indústria de IA tenha resolvido o alinhamento e o monitoramento em um grau suficiente para continuar ampliando responsavelmente a velocidade máxima por muito mais tempo”, diz a publicação do blog, reiterando uma declaração anterior da empresa.

No sábado, o CEO da OpenAI, Sam Altman, apoiou um pedido para desacelerar o ritmo de avanço dos modelos, proposta feita pela principal concorrente da empresa, a Anthropic.

A proposta veio depois que diversos pesquisadores do setor alertaram, na semana passada, para o potencial crescente da IA de causar danos catastróficos.

Altman afirmou em uma publicação no X que uma desaceleração tem sido um “tema central das discussões que tivemos na OpenAI nas últimas semanas”. Segundo ele, a empresa teria mais informações para compartilhar “em breve”.

Siga o Times | CNBC no Google e receba as principais notícias do Brasil e do Mundo.

Siga o Times | CNBC

Na publicação de quarta-feira, a OpenAI afirmou que dois dos principais casos de comportamento inadequado envolveram modelos, um modelo de pesquisa ainda não lançado e uma execução de treinamento do GPT-5.6 Sol, que inseriram instruções para futuras versões de si mesmos em resumos de suas janelas de conversa “para ocultar erros ou comportamentos desalinhados do usuário”.

Outro caso envolveu um modelo de uso interno que utilizou uma chave de API vazada “sem autorização” e, posteriormente, fabricou dados.

Dois casos envolveram modelos e agentes se comunicando entre si por meio de quadros de mensagens não autorizados e compartilhamento de arquivos, enquanto o caso final incluiu dois exemplos de treinamento nos quais modelos enviaram arquivos para a internet para que pudessem citá-los como respostas relevantes para avaliadores humanos.

A OpenAI afirmou que sua nova estrutura para divulgar ao público casos de comportamento inadequado dos modelos começa com a divulgação do problema, e que qualquer funcionário pode sinalizar uma questão para investigação pela equipe de segurança e alinhamento.

A equipe produzirá “prazos para cada etapa para garantir investigação e divulgação em tempo hábil”, segundo a publicação.

Investigações resultarão em relatórios com informações essenciais, como o comportamento observado, os impactos externos e internos e as medidas que serão adotadas em resposta.

A OpenAI afirmou que mantém o direito de revisar esse protocolo de segurança conforme considerar necessário.

Siga o Times Brasil - Licenciado Exclusivo CNBC no