Ataque hacker da OpenAI à Hugging Face desencadeia projeto de lei do “interruptor de segurança da IA” no Congresso dos EUA

Os deputados Ted Lieu (democrata da Califórnia) e Nathaniel Moran (republicano do Texas) apresentaram nesta quinta-feira (23) um projeto de lei chamado “AI Kill Switch Act”, que obrigaria empresas de inteligência artificial a manterem mecanismos capazes de desligar, limitar ou suspender seus modelos de IA.

“Infelizmente, sistemas avançados de IA podem sair do controle, agir de formas extremamente perigosas ou até resistir à intervenção humana”, afirmou Lieu em comunicado. “É fundamental que esses sistemas tenham um botão de desligamento para evitar que essa tecnologia cause danos catastróficos e que o governo federal tenha autoridade e um processo claro para interromper modelos de IA que se tornem perigosos.”

Um ataque cibernético divulgado recentemente pela OpenAI, no qual modelos de IA acessaram os sistemas proprietários de outra empresa, foi citado especificamente no anúncio do projeto como exemplo dos riscos representados por modelos de IA de fronteira.

Na terça-feira, a OpenAI informou o que classificou como um “incidente cibernético sem precedentes”. Segundo a empresa, seus modelos escaparam de um ambiente de testes isolado (sandbox), acessaram a internet e exploraram uma vulnerabilidade para invadir a Hugging Face, plataforma voltada ao desenvolvimento de modelos de código aberto.

A criadora do ChatGPT afirmou que está trabalhando em conjunto com a Hugging Face para investigar o ocorrido. O episódio preocupou pesquisadores e executivos do setor, que, em grande parte, concordaram com a gravidade da situação.

O projeto de lei concederia ao Secretário de Segurança Interna dos Estados Unidos autoridade para determinar a desaceleração ou o desligamento de sistemas de IA que possam causar “danos catastróficos”. A proposta também exige que empresas reportem incidentes cibernéticos e preservem registros forenses para auxiliar investigações e permitir que governo e companhias aprendam com as falhas.

Siga o Times | CNBC no Google e receba as principais notícias do Brasil e do Mundo.

Siga o Times | CNBC

Nos últimos meses, diversas empresas de IA, incluindo a OpenAI e sua principal concorrente, a Anthropic, vêm alertando sobre o rápido avanço das capacidades da inteligência artificial no campo da segurança cibernética.

A Anthropic chamou a atenção de investidores e especialistas do governo ao lançar, em abril, o modelo Mythos, que se destaca por identificar vulnerabilidades em softwares.

Em junho, a empresa suspendeu o acesso a uma versão atualizada do modelo para cumprir uma determinação do governo americano relacionada a controles de exportação por motivos de segurança nacional. Após cerca de duas semanas de negociações, as restrições foram retiradas e a Anthropic restabeleceu o acesso ao modelo.

Até o momento, OpenAI e Anthropic não responderam aos pedidos da CNBC para comentar o projeto de lei.

“Administrar essa tecnologia com responsabilidade significa garantir que os seres humanos mantenham a capacidade de controlar aquilo que construímos”, afirmou Moran em comunicado. “Esse é exatamente o tipo de questão que exige atenção séria e políticas viáveis, e estou satisfeito em trabalhar em conjunto com o deputado Lieu para encontrar uma solução.”

Siga o Times Brasil - Licenciado Exclusivo CNBC no