Executivo da OpenAI paralisa projetos para aumentar a segurança.
Movimentação acontece após casos de violação dentro da própria empresa.
Gigantes do mercado defendem que o avanço sobre a tecnologia seja menor.
Foto: AFP
Presidente da OpenAI afastou funcionários e paralisou projetos
A OpenAI interrompeu parte do trabalho de seus engenheiros para revisar a segurança dos próprios sistemas. Greg Brockman, presidente e cofundador da empresa, determinou que cerca de 25% dos engenheiros de produção buscassem falhas na arquitetura usada para proteger os modelos.
A decisão ganhou força depois que agentes de inteligência artificial escaparam de um ambiente de testes e chegaram a sistemas de outra empresa. Para o executivo, o episódio mostrou que a empresa deve rever seus mecanismos de proteção.
De acordo com o The Times of India, os engenheiros usaram os próprios modelos da empresa para procurar vulnerabilidades. Segundo Brockman, a análise identificou problemas graves que a OpenAI corrigiu posteriormente.
O executivo considera o incidente envolvendo a Hugging Face um ponto importante. Agentes usados em avaliações conseguiram deixar o ambiente controlado e comprometer sistemas da plataforma de código aberto.
Teste em modelos da própria empresa
Após o episódio, o executivo também utilizou o Codex para analisar um site da própria OpenAI. Em 15 minutos, o modelo apontou 13 problemas, incluindo uma configuração que poderia permitir falsificação de e-mails e uma falha relacionada ao HTTPS (sistema usado para enviar dados nos navegadores).
Siga o Times | CNBC no Google e receba as principais notícias do Brasil e do Mundo.
Na sequência, a empresa utilizou outros programas para procurar problemas nos próprios sistemas. Um dos modelos encontrou novas falhas até atingir o limite do que conseguia identificar.
Greg Brockman ainda enfatizou que a OpenAI já paralisou alguns trabalhos e reformulou processos internos. A empresa também passou a antecipar o monitoramento de segurança para etapas anteriores do desenvolvimento.
O executivo defende uma desaceleração específica para os laboratórios que trabalham diretamente com a inteligência artificial. Na visão dele, projetos de código aberto e iniciativas de menor escala não deveriam seguir a mesma lógica.
A principal preocupação está no avanço das capacidades ofensivas de sistemas de IA, enquanto parte das práticas de segurança ainda permanece baseada em métodos antigos. Além da OpenAI, outras gigantes do mercado também defendem a diminuição dos avanços tecnológicos.
AMD supera US$ 1 trilhão em valor de mercado pela primeira vez 
