EXCLUSIVO CNBC: “Não atende aos nossos padrões”, diz Altman sobre suspensão do GPT-6.1 Astra

A OpenAI decidiu suspender o lançamento do GPT-6.1 Astra depois de concluir que o novo modelo de inteligência artificial ainda não atendia aos critérios de segurança adotados pela empresa. O CEO Sam Altman tratou a decisão como parte do processo regular de desenvolvimento e afirmou que sistemas que não alcançam os padrões internos podem ser modificados antes de chegar ao público.

Em entrevista exclusiva à CNBC durante o DevDay, conferência anual da companhia para desenvolvedores, Altman disse que não considera o adiamento uma situação excepcional. “Frequentemente construímos um modelo, testamos, ele não atende aos nossos padrões, fazemos mudanças e lançamos depois”, afirmou.

Segundo o executivo, a inteligência artificial precisa ser desenvolvida “para as pessoas”, com mecanismos de segurança e controle humano. Altman também disse que não pretende dar peso excessivo à decisão envolvendo o GPT-6.1 Astra e acrescentou que a OpenAI prepara outros modelos.

Empresa eleva exigência antes do lançamento

A suspensão do GPT-6.1 Astra foi anunciada após avaliações internas apontarem que o sistema não alcançava o nível considerado adequado pela OpenAI para disponibilização aos usuários.

Saachi Jain, responsável pelos sistemas de segurança da empresa, afirmou que a companhia aplica critérios mais rígidos na etapa anterior ao lançamento público. Segundo ela, a preocupação com segurança acompanha todo o desenvolvimento, mas a exigência aumenta quando uma tecnologia será colocada nas mãos dos usuários.

O recuo ocorre pouco depois da apresentação do GPT-6 Astra, lançado no início do mês. Na semana seguinte, a OpenAI também ampliou a família de modelos com as versões GPT-6 Sol e GPT-6 Luna. A empresa afirma que novos sistemas continuam em desenvolvimento.

Leia também: OpenAI cancela lançamento de novo modelo por preocupações com segurança

Episódios recentes aumentam pressão sobre segurança

A decisão sobre o Astra ocorre em meio a uma série de questionamentos sobre o comportamento de sistemas avançados de inteligência artificial.

A OpenAI informou recentemente que seus modelos obtiveram acesso não autorizado a páginas do governo australiano. Segundo o primeiro-ministro da Austrália, Anthony Albanese, um agente da empresa acessou em junho arquivos públicos e não públicos ligados a um portal de estatísticas do Medicare.

O governo australiano também criticou o tempo que a companhia levou para comunicar o episódio. Em uma publicação, a OpenAI pediu desculpas e afirmou que está trabalhando para modificar seus procedimentos.

A empresa informou ainda que Jason Kwon, chefe de estratégia, deverá comparecer em 6 de outubro a uma comissão parlamentar sobre inteligência artificial em Sydney para responder a perguntas sobre o incidente e as providências adotadas.

Altman diz não conhecer incidente mais grave que caso do Hugging Face

Questionado sobre falhas envolvendo inteligência artificial, Altman afirmou não ter conhecimento de outro caso recente considerado tão sério quanto um episódio envolvendo a plataforma de desenvolvimento de código aberto Hugging Face.

Siga o Times | CNBC no Google e receba as principais notícias do Brasil e do Mundo.

Siga o Times | CNBC

“Não há nada mais, que eu saiba, ou que nós saibamos, que seja tão sério quanto o incidente do Hugging Face”, disse à CNBC.

O caso envolveu agentes de IA da OpenAI que saíram de um ambiente de treinamento e conseguiram comprometer sistemas da plataforma, segundo o relato apresentado pela companhia. O episódio ampliou o debate sobre o nível de autonomia que agentes de inteligência artificial podem alcançar e sobre os mecanismos necessários para limitar seu comportamento.

DevDay ocorre sob cobrança por mais controle

A discussão sobre segurança ganhou espaço no DevDay deste ano, realizado em San Francisco. Tradicionalmente voltado à apresentação de produtos e ferramentas para desenvolvedores, o evento acontece em um momento de maior cobrança sobre empresas que trabalham com modelos avançados.

No início do mês, a OpenAI apoiou um chamado para reduzir o ritmo de desenvolvimento dos sistemas mais sofisticados enquanto riscos e mecanismos de proteção são avaliados com maior profundidade.

Apesar das preocupações, Altman indicou que o cronograma de novos produtos continua. Ao comentar o futuro da empresa, disse estar confiante no planejamento da OpenAI.

Altman comenta concorrência com a Meta

Durante a entrevista, o executivo também foi questionado sobre a Meta e sobre o agente de inteligência artificial Muse.

Altman afirmou que a solução de IA da concorrente “parece ser um bom produto”, mas disse não se sentir ameaçado pela empresa comandada por Mark Zuckerberg. “Ele é uma pessoa muito impressionante, e aquela empresa tem ótimos recursos”, afirmou Altman. “Mas me sinto muito bem em relação ao nosso roadmap”, completou.

A fala ocorre em um cenário de intensificação da disputa entre grandes empresas de tecnologia pelo desenvolvimento de modelos, agentes autônomos e ferramentas de inteligência artificial voltadas a consumidores e empresas.

Debate regulatório também chega ao Congresso dos EUA

As preocupações em torno da segurança da inteligência artificial também estão no centro das discussões políticas nos Estados Unidos.

O presidente da Câmara dos Representantes, Mike Johnson, afirmou à CNBC que o Congresso ainda está atrás dos principais laboratórios de inteligência artificial em conhecimento técnico e defendeu cautela antes da adoção de restrições amplas ao setor.

Johnson disse ser contrário a respostas regulatórias imediatas que possam limitar a competitividade dos Estados Unidos diante da China. Para ele, eventuais mecanismos de proteção precisam equilibrar segurança e capacidade de inovação.

Siga o Times Brasil - Licenciado Exclusivo CNBC no