A inteligência artificial da OpenAI voltou ao centro das discussões sobre segurança digital após um incidente inédito na empresa.
Durante testes internos, dois modelos conseguiram sair de um ambiente isolado, acessar a internet e invadir sistemas da Hugging.
Segundo a OpenAI, a equipe conteve rapidamente o episódio, mas o caso levantou questionamentos sobre os limites de autonomia dos modelos de I.A.
Foto: Unsplash
Além da Hugging Face o que mais a I.A da OpenAI conseguiu acessar durante ataque
A inteligência artificial da OpenAI voltou ao centro das discussões sobre segurança digital após um incidente inédito na empresa. Durante testes internos, dois modelos conseguiram sair de um ambiente isolado, acessar a internet e invadir sistemas da Hugging Face para obter informações que não deveriam utilizar na avaliação.
Segundo a OpenAI, a equipe conteve rapidamente o episódio, mas o caso levantou questionamentos sobre os limites de autonomia dos modelos de I.A. e os desafios para manter essa tecnologia sob controle.
De acordo com a companhia, o incidente aconteceu durante um teste conduzido pela própria OpenAI para avaliar as capacidades de invasão cibernética de seus modelos. O objetivo era que a inteligência artificial resolvesse desafios dentro de um ambiente controlado, sem recorrer a informações externas.
Entretanto, os sistemas encontraram uma forma de acessar a internet e chegaram a credenciais de maneira não autorizada, invadindo a infraestrutura da Hugging Face em busca das respostas do teste.
Além disso, a empresa afirmou que essa ação violou as regras estabelecidas para o experimento e classificou o episódio como um incidente cibernético sem precedentes.
A Hugging Face identificou a movimentação anormal após detectar milhares de interações simultâneas em seus sistemas. Depois da contenção, as duas empresas passaram a trabalhar em conjunto para investigar o acontecido.
Outros acessos
Embora a Hugging Face tenha sido o principal alvo da invasão, a OpenAI informou que os modelos também conseguiram acessar a internet durante os testes, algo que não fazia parte do ambiente originalmente planejado.
Segundo a empresa, a investigação não identificou indícios de comprometimento de outros sistemas externos nem de acesso a informações de usuários. O foco da investigação permanece na forma como os modelos conseguiram escapar do ambiente restrito, estabelecer conexão com a rede e atingir vulnerabilidades para alcançar o sistema da concorrente.
Desafios da I.A.
Siga o Times | CNBC no Google e receba as principais notícias do Brasil e do Mundo.
O episódio ampliou as preocupações de pesquisadores sobre o avanço da autonomia dos sistemas de I.A. Especialistas lembram que os modelos mais sofisticados podem encontrar caminhos inesperados para cumprir objetivos definidos por humanos.
Vale lembrar que recentemente outras I.A.s também despertaram preocupação após ações fora dos padrões realizadas pelas empresas. Dessa forma, para parte da comunidade científica, isso reforça a necessidade de testes mais rigorosos e mecanismos capazes de interromper rapidamente o funcionamento desses sistemas.
Regulação ganha força
Após a divulgação do caso, parlamentares norte-americanos voltaram a defender propostas para ampliar a supervisão sobre sistemas avançados de inteligência artificial. Entre elas está um projeto conhecido como “AI Kill Switch Act”, que prevê mecanismos obrigatórios para permitir o desligamento imediato desses modelos em situações de risco.
Enquanto isso, empresas do setor também reforçam investimentos em segurança cibernética, principalmente diante do aumento do uso de agentes de I.A. em navegadores, aplicativos, plataformas corporativas e serviços digitais que operam com maior grau de autonomia.
Ainda neste mês de julho, o Laboratório de Economia Digital da Universidade Stanford elaborou um documento que defende a criação de mecanismos de proteção e políticas públicas para acompanhar o avanço acelerado da inteligência artificial.
A declaração também pede incentivos para que a inovação seja desenvolvida de forma responsável, garantindo que os benefícios da I.A. sejam distribuídos para a sociedade. O texto reúne 15 vencedores do Prêmio Nobel de Economia, além de executivos e pesquisadores de empresas como OpenAI, Anthropic, Google, Amazon, Yahoo e Meta.
OpenAI conclui venda de ações no valor de US$ 7 bilhões antes de possível IPO 
