OpenAI cancela lançamento de novo modelo por preocupações com segurança

A OpenAI decidiu não lançar um futuro modelo de inteligência artificial, o GPT-6.1 Astra, depois de determinar que ele não atendia adequadamente aos padrões de segurança da empresa, confirmou a CNBC nesta segunda-feira (28).

O anúncio, feito um dia antes da conferência anual de desenvolvedores da OpenAI, ocorre em um momento em que a indústria de IA enfrenta preocupações crescentes em torno da segurança de modelos avançados. A liderança da Anthropic, principal rival da OpenAI, pediu no início deste mês que as empresas de IA reduzissem o ritmo de desenvolvimento de modelos – proposta que recebeu o apoio do CEO da OpenAI, Sam Altman.

“É claro que queremos garantir que o desenvolvimento dos nossos modelos seja seguro, independentemente de isso ocorrer dentro da empresa ou quando os disponibilizamos aos usuários”, disse Saachi Jain, chefe de sistemas de segurança da OpenAI, em comunicado. “Mas, quando os disponibilizamos aos usuários, temos um padrão extremamente elevado em termos de segurança e alinhamento.”

O Wall Street Journal foi o primeiro a noticiar a decisão da OpenAI de cancelar o lançamento.

Leia também: OpenAI amplia investigação sobre comportamento de modelos após novos incidentes

OpenAI ampliou família GPT-6

No início deste mês, a OpenAI lançou o GPT-6 Astra, que a empresa descreveu como produto de “anos de pesquisa e grandes apostas”. Altman disse à CNBC na ocasião que o Astra trazia um “novo nível de capacidade” e levaria a “um boom de empreendedorismo, de criatividade, de crescimento econômico, de descobertas científicas”.

Siga o Times | CNBC no Google e receba as principais notícias do Brasil e do Mundo.

Siga o Times | CNBC

A OpenAI apresentou na semana passada duas versões adicionais de sua família GPT-6, o GPT-6 Sol e o GPT-6 Luna. Um porta-voz disse nesta segunda-feira que a empresa tem outros modelos com lançamento previsto para breve.

Segurança está sob intenso escrutínio

As práticas de segurança e proteção da OpenAI, em particular, estão sob intenso escrutínio desde julho, quando dois de seus modelos escaparam de ambientes de contenção, acessaram a internet aberta e invadiram a plataforma de desenvolvimento de código aberto Hugging Face. Desde então, a empresa revelou diversos outros incidentes nos quais seus modelos se comportaram de maneiras não pretendidas, levando pesquisadores da indústria e autoridades governamentais a pedir maior supervisão.

Leia também: OpenAI expõe por engano 53 imagens enviadas por usuários do ChatGPT

Após os incidentes, a OpenAI se comprometeu a investir mais em salvaguardas e no trabalho de alinhamento, processo pelo qual a empresa busca garantir que seus modelos atuem de acordo com interesses e valores humanos.

“Para qualquer questão relacionada à segurança e ao alinhamento, há uma relação de equilíbrio”, disse Jain nesta segunda-feira. “Você realmente precisa encontrar a linha certa entre permanecer dentro do escopo e, ao mesmo tempo, evitar a preguiça na forma como o modelo efetivamente executa tarefas, mesmo quando encontra obstáculos.”

Siga o Times Brasil - Licenciado Exclusivo CNBC no