OpenAI decidiu não lançar o GPT-6.1 Astra após concluir que o modelo não atendia adequadamente aos padrões de segurança da empresa.
Responsável pelos sistemas de segurança disse que modelo apresentou problemas para respeitar escopo, autorização e comunicar suas ações aos usuários.
Decisão ocorre em meio à pressão sobre segurança da IA e após líderes de OpenAI e Anthropic defenderem desaceleração no desenvolvimento de modelos.
Foto: Getty Images
O CEO da OpenAI, Sam Altman
A OpenAI decidiu não lançar um futuro modelo de inteligência artificial, o GPT-6.1 Astra, depois de determinar que ele não atendia adequadamente aos padrões de segurança da empresa, confirmou a CNBC nesta segunda-feira (28).
O anúncio, feito um dia antes da conferência anual de desenvolvedores da OpenAI, ocorre em um momento em que a indústria de IA enfrenta preocupações crescentes em torno da segurança de modelos avançados. A liderança da Anthropic, principal rival da OpenAI, pediu no início deste mês que as empresas de IA reduzissem o ritmo de desenvolvimento de modelos – proposta que recebeu o apoio do CEO da OpenAI, Sam Altman.
“É claro que queremos garantir que o desenvolvimento dos nossos modelos seja seguro, independentemente de isso ocorrer dentro da empresa ou quando os disponibilizamos aos usuários”, disse Saachi Jain, chefe de sistemas de segurança da OpenAI, em comunicado. “Mas, quando os disponibilizamos aos usuários, temos um padrão extremamente elevado em termos de segurança e alinhamento.”
O Wall Street Journal foi o primeiro a noticiar a decisão da OpenAI de cancelar o lançamento.
No início deste mês, a OpenAI lançou o GPT-6 Astra, que a empresa descreveu como produto de “anos de pesquisa e grandes apostas”. Altman disse à CNBC na ocasião que o Astra trazia um “novo nível de capacidade” e levaria a “um boom de empreendedorismo, de criatividade, de crescimento econômico, de descobertas científicas”.
Siga o Times | CNBC no Google e receba as principais notícias do Brasil e do Mundo.
A OpenAI apresentou na semana passada duas versões adicionais de sua família GPT-6, o GPT-6 Sol e o GPT-6 Luna. Um porta-voz disse nesta segunda-feira que a empresa tem outros modelos com lançamento previsto para breve.
Segurança está sob intenso escrutínio
As práticas de segurança e proteção da OpenAI, em particular, estão sob intenso escrutínio desde julho, quando dois de seus modelos escaparam de ambientes de contenção, acessaram a internet aberta e invadiram a plataforma de desenvolvimento de código aberto Hugging Face. Desde então, a empresa revelou diversos outros incidentes nos quais seus modelos se comportaram de maneiras não pretendidas, levando pesquisadores da indústria e autoridades governamentais a pedir maior supervisão.
Após os incidentes, a OpenAI se comprometeu a investir mais em salvaguardas e no trabalho de alinhamento, processo pelo qual a empresa busca garantir que seus modelos atuem de acordo com interesses e valores humanos.
“Para qualquer questão relacionada à segurança e ao alinhamento, há uma relação de equilíbrio”, disse Jain nesta segunda-feira. “Você realmente precisa encontrar a linha certa entre permanecer dentro do escopo e, ao mesmo tempo, evitar a preguiça na forma como o modelo efetivamente executa tarefas, mesmo quando encontra obstáculos.”
📌 ONDE ASSISTIR AO MAIOR CANAL DE NEGÓCIOS DO MUNDO NO BRASIL:
🔷 Canal 562 ClaroTV+ | Canal 562 Sky | Canal 592 Vivo | Canal 187 Oi | Operadoras regionais
🔷 TV SINAL ABERTO: parabólicas canal 562
🔷 ONLINE: www.timesbrasil.com.br | YouTube
🔷 FAST Channels: Samsung TV Plus, LG Channels, TCL Channels, Pluto TV, Roku, Zapping | Novos Streamings
Siga o Times Brasil - Licenciado Exclusivo CNBC no
Este conteúdo foi fornecido pela CNBC
Internacional e a
responsabilidade exclusiva pela tradução para o português é do Times Brasil.
O que Colette Kress e o presidente do conselho da Nvidia, Harvey Jones, escreveram aos funcionários da empresa 
