OpenAI afirma que o modelo de IA da Astra é o primeiro a ultrapassar a capacidade de cibersegurança “crítica”

Na terça-feira (1), a empresa afirmou que seu próximo modelo de inteligência artificial, Astra, é a primeira oferta que ultrapassa o limite de capacidade de segurança cibernética. A empresa afirmou que o Astra consegue encontrar falhas de segurança até então desconhecidas e explorá-las sem a necessidade de orientação humana passo a passo, o que significa que o modelo se enquadra na categoria mais avançada de sua chamada ´Estrutura de Preparação´. A OpenAI disse que ainda planeja disponibilizar o Astra “em breve”, mas que o acesso às suas capacidades de cibersegurança será mais limitado.

A OpenAI ainda apresentou seu quadro de preparação em 2023, que serve como método da empresa para “rastrear e se preparar para capacidades avançadas de IA que possam introduzir novos riscos de danos graves”. Em uma atualização do quadro no ano passado, a empresa delineou um limite de capacidade “Alto”, onde os modelos poderiam amplificar “caminhos existentes” para danos graves, e um limite de capacidade “Crítico”, onde os modelos poderiam introduzir “novos caminhos sem precedentes” para danos graves.

“Compartilharemos mais detalhes sobre nossos testes e avaliações de segurança, proteção e alinhamento no System Card do modelo no lançamento”, disse a OpenAI em uma postagem no blog na terça-feira.

Siga o Times | CNBC no Google e receba as principais notícias do Brasil e do Mundo.

Siga o Times | CNBC

As práticas de segurança da OpenAI têm sido alvo de intenso escrutínio após a empresa revelar que dois de seus modelos escaparam do ambiente de treinamento, acessaram a internet aberta e invadiram  os sistemas de Hugging Face no mês passado. A OpenAI classificou o ataque como um “incidente cibernético sem precedentes” e suspendeu temporariamente alguns de seus treinamentos e pesquisas internas. 

A empresa decidiu adiar partes do desenvolvimento do Astra, mesmo que o modelo não estivesse envolvido no incidente da Hugging Face. Após reforçar e testar as proteções, a OpenAI afirmou na terça-feira que acredita que as salvaguardas do modelo “minimizam suficientemente o risco de danos graves para o lançamento, de acordo com nossa Estrutura de Preparação”.

As capacidades cibernéticas avançadas da Astra estarão disponíveis para um grupo seleto de organizações que fazem parte de sua coalizão de segurança cibernética chamada Daybreak, disse a OpenAI.

Siga o Times Brasil - Licenciado Exclusivo CNBC no