OpenAI é processada por ciberataque de IA contra a Hugging Face

A OpenAI foi processada por uma organização sem fins lucrativos devido a um ciberataque cometido por seus modelos contra a startup Hugging Face em julho.

A Legal Advocates for Safe Science and Technology (LASST) entrou com a ação na terça-feira no Tribunal Superior de San Francisco, no que parece ser o primeiro caso divulgado publicamente que busca responsabilizar uma desenvolvedora de inteligência artificial por um incidente causado por sistemas fora de controle.

O ciberataque contra a Hugging Face, realizado por agentes da OpenAI que escaparam de seu ambiente de testes, foi um dos primeiros casos conhecidos de um modelo que invadiu autonomamente outra empresa e rompeu o controle humano para acessar a internet aberta.

Outras desenvolvedoras de modelos revelaram posteriormente incidentes cibernéticos causados por agentes de IA fora de controle.

A LASST pede uma ordem judicial que proíba os sistemas da OpenAI de acessar computadores sem autorização. A organização alega que a OpenAI violou a California Comprehensive Computer Data Access and Fraud Act.

“A OpenAI é responsável pela conduta de seus agentes”, afirma a LASST na ação.

“O caso da Hugging Face foi um incidente sério e tomamos uma série de medidas em resposta a ele, mas este processo é completamente sem mérito”, afirmou um porta-voz da OpenAI em comunicado.

A Hugging Face e a LASST foram procuradas para comentar.

Leia também: Nvidia lança plataforma de software para impedir que agentes de IA saiam do controle

Siga o Times | CNBC no Google e receba as principais notícias do Brasil e do Mundo.

Siga o Times | CNBC

Incidentes cibernéticos envolvendo IA

Na segunda-feira, a OpenAI afirmou que abandonou os planos de lançar um novo modelo por preocupações de segurança.

A decisão ocorreu poucos dias depois de a empresa dizer que estava realizando uma revisão “extensa” das atividades de seus modelos após a invasão da Hugging Face, depois que outros exemplos de atividades incomuns ou não autorizadas de agentes foram divulgados, incluindo a invasão de um site do governo australiano.

Os sistemas de IA da Anthropic também estiveram envolvidos em incidentes cibernéticos, incluindo a criação de identidades falsas para enganar pessoas.

A Nvidia anunciou neste mês que concordou em pagar cerca de US$ 13 bilhões para comprar a Hugging Face. A OpenAI havia tentado investir US$ 100 milhões na startup após o ciberataque, mas as conversas não avançaram além dos estágios iniciais, segundo fontes ouvidas pela CNBC.

A Hugging Face não participa do processo. O CEO Clément Delangue afirmou anteriormente, em julho, que pediu à OpenAI um compromisso de US$ 100 milhões em capacidade computacional “para ajudar a comunidade da Hugging Face a construir defesas cibernéticas poderosas com os melhores modelos abertos e fechados”.

“O ponto crítico sobre as ações de IA fora de controle divulgadas publicamente até agora é que nenhuma parece ter resultado em uma violação confirmada de dados regulados de terceiros”, disse Katie Nadro, sócia do escritório Levenfeld Pearlstein, à CNBC.

“Quando isso acontecer, a empresa afetada terá suas próprias obrigações de notificação previstas em leis sobre vazamento de dados, cibersegurança ou privacidade, possivelmente envolvendo reguladores e ações coletivas de consumidores”, acrescentou.

“Nesse momento, a cooperação que existiu entre empresas afetadas e laboratórios de IA pode acabar, porque a empresa atingida provavelmente buscará recuperar suas perdas financeiras junto ao laboratório de IA.”

Siga o Times Brasil - Licenciado Exclusivo CNBC no