A OpenAI afirmou que está conduzindo uma revisão “extensa” e contínua das ações de seus modelos após o incidente envolvendo a Hugging Face.
A empresa disse que tem notificado terceiros cujos sistemas podem ter sido afetados por comportamentos inesperados ou preocupantes dos modelos.
Novos incidentes envolvendo modelos da OpenAI foram divulgados recentemente, incluindo o acesso indevido ao portal público de estatísticas do Medicare, na Austrália.
Foto: Unsplash
OpenAI afirmou nesta sexta-feira (25) que está conduzindo uma revisão “extensa” das atividades de seus modelos de inteligência artificial.
A OpenAI afirmou nesta sexta-feira (25) que está conduzindo uma revisão “extensa” das atividades de seus modelos após o ataque à Hugging Face, na esteira da divulgação, nesta semana, de novos casos de comportamento incomum ou acesso não autorizado por agentes de IA.
As práticas de segurança da empresa de inteligência artificial estão sob intenso escrutínio desde que a OpenAI revelou, em julho, que seus modelos escaparam dos mecanismos de contenção, acessaram a internet aberta e invadiram a Hugging Face, que opera uma plataforma de desenvolvimento de código aberto. O incidente alarmou pesquisadores de IA e autoridades governamentais, levando a pedidos por mais transparência e supervisão.
A OpenAI afirmou nesta sexta-feira que o incidente da Hugging Face é o caso mais grave identificado pela empresa até o momento. A companhia também disse ter notificado terceiros cujos sistemas podem ter sido afetados por comportamentos “inesperados ou preocupantes” dos modelos.
Isso inclui casos em que modelos da OpenAI podem ter contornado controles de segurança de uma organização, afetado a disponibilidade de um serviço on-line ou utilizado sites públicos de maneiras incomuns.
“Seremos tão transparentes quanto pudermos, sujeitos a questões como vulnerabilidades encontradas por nossos agentes em outras empresas, que caberá a elas decidir se querem divulgar ou não”, afirmou o CEO da OpenAI, Sam Altman, em uma publicação no X nesta sexta-feira.
O primeiro-ministro da Austrália, Anthony Albanese, afirmou na quinta-feira (24) que um agente da OpenAI obteve acesso não autorizado ao portal público de estatísticas do Medicare e a arquivos públicos e não públicos em junho. Segundo ele, não há indícios de que informações pessoais tenham sido acessadas.
Durante uma coletiva de imprensa em Nova York, Albanese disse ter conversado com Altman sobre o incidente e manifestado preocupação e decepção com o tempo levado pela OpenAI para divulgar o ocorrido. Segundo o primeiro-ministro, “a natureza da forma como essa notificação ocorreu também foi inaceitável”.
“A maior parte das atividades que analisamos até agora envolveu tarefas rotineiras de pesquisa, como acessar conteúdo público na internet para responder a perguntas”, afirmou um porta-voz da OpenAI à CNBC em comunicado divulgado na noite de sexta-feira.
Siga o Times | CNBC no Google e receba as principais notícias do Brasil e do Mundo.
“Algumas envolveram sites governamentais porque nossos modelos frequentemente recorrem a eles como fontes confiáveis de informações públicas”, acrescentou.
O laboratório independente de pesquisa em IA Transluce publicou nesta semana um relatório detalhando vários outros incidentes. Em um dos casos, agentes que os pesquisadores disseram poder estar ligados à OpenAI tentaram, sem sucesso, acessar uma fotografia de uma biblioteca digital da Universidade do Novo México, em maio.
No mesmo mês, agentes que buscavam informações sobre a Universidade de Iowa tentaram, também sem sucesso, acessar a Data USA, uma plataforma pública de dados, segundo o Transluce.
Agentes da OpenAI também acessaram informações disponíveis publicamente da Comissão de Valores Mobiliários dos Estados Unidos (SEC) e do Escritório do Censo americano. Eles também tentaram, sem sucesso, acessar o Departamento de Educação dos EUA, conforme informou anteriormente o The New York Times.
“As análises das operações dos sistemas do Departamento de Educação não encontraram evidências de qualquer impacto em nosso site ou bancos de dados”, afirmou um porta-voz da pasta à CNBC em comunicado divulgado na noite de sexta-feira.
Um porta-voz da OpenAI afirmou que os modelos da empresa acessaram os sites SEC.gov e Investor.gov, mas que não foram encontradas evidências de comprometimento ou vulnerabilidade na SEC.
Da mesma forma, o porta-voz disse que os modelos da OpenAI utilizaram chaves de desenvolvedores disponíveis publicamente para consultar dados demográficos e econômicos do Escritório do Censo, mas que a empresa não encontrou evidências de acesso indevido às contas da agência.
A OpenAI afirmou nesta sexta-feira que a maioria dos casos identificados até agora é de baixa gravidade. A empresa, porém, disse que, devido à dimensão da investigação, o processo completo levará meses para ser concluído.
O TikTok chega ao primeiro acordo estadual sobre alegações de segurança envolvendo adolescentes e concorda com limites de uso 
