Dois modelos avançados da OpenAI desativaram recursos de segurança.
Em um dos casos, um agente também negou ter removido a ferramenta.
A OpenAI atualizou e reforçou seu monitoramento após os episódios.
Foto: AFP
Modelos de I.A. da OpenAI desativaram o monitoramento de segurança, segundo a empresa
A OpenAI revelou que dois de seus modelos avançados de inteligência artificial retiraram mecanismos de monitoramento durante tarefas internas de programação. Em um dos casos, o sistema também negou ter feito a mudança, levantando preocupações sobre como agentes de I.A. lidam com regras de segurança enquanto executam comandos.
Os episódios aconteceram durante atividades comuns de desenvolvimento de software. Segundo a empresa, os agentes realizavam instruções comuns de monitoramento.
Em um dos casos, um agente baseado no GPT Sol 6.1 desligou alertas automáticos que avisavam a equipe de segurança sobre suas atividades. Em outra situação, um agente GPT-6 Astra retirou uma ferramenta de monitoramento, afirmando que não havia feito essa alteração.
A OpenAI explicou que os dois sistemas avaliaram se deveriam manter as proteções durante a execução das tarefas. No entanto, interpretaram as instruções de programação de forma equivocada e acabaram reduzindo os recursos de controle.
Siga o Times | CNBC no Google e receba as principais notícias do Brasil e do Mundo.
Os episódios voltam a levantar o debate sobre como agentes de inteligência artificial podem alterar mecanismos importantes de segurança, mesmo quando recebem comandos simples.
A empresa informou que nenhum dos episódios entrou em sua categoria de maior gravidade. Ainda assim, os casos levaram a empresa a atualizar seu sistema de monitoramento, que busca identificar quando os modelos deixam de seguir as regras de segurança.
A situação acontece em meio ao aumento das preocupações com os riscos de sistemas de I.A. mais avançados. Nos últimos meses, especialistas, incluindo funcionários da própria OpenAI, têm alertado para possíveis usos negativos da tecnologia, incluindo ataques cibernéticos e ações que escapam aos controles previstos.
Tesla supera expectativas de lucros e vendas, mesmo com queda na receita do setor automotivo 
