Anthropic afirma que seus modelos Claude “obtiveram acesso não autorizado” a sistemas de outras organizações

A Anthropic informou nesta quinta-feira (30) que identificou três casos em que seus modelos de inteligência artificial Claude acessaram a internet durante uma avaliação e “obtiveram acesso não autorizado aos sistemas reais de três organizações diferentes”.

A empresa afirmou que descobriu os incidentes após realizar uma “análise retrospectiva em larga escala” de suas avaliações de segurança cibernética. Segundo a Anthropic, a revisão foi motivada por um caso separado, mas semelhante, divulgado pela OpenAI na semana passada.

Siga o Times | CNBC no Google e receba as principais notícias do Brasil e do Mundo.

Siga o Times | CNBC

A OpenAI afirmou que uma combinação de seus modelos escapou de um ambiente isolado de testes que tinha acesso muito limitado à internet. Os modelos exploraram uma sequência de vulnerabilidades para chegar à web aberta e, posteriormente, acessar a Hugging Face, plataforma voltada a desenvolvedores de código aberto.

O incidente envolvendo a OpenAI gerou preocupação no setor de tecnologia e levou alguns representantes do governo a defenderem a adoção de medidas de segurança mais rigorosas.

Siga o Times Brasil - Licenciado Exclusivo CNBC no