CrowdStrike lança mecanismo de desligamento de IA que, segundo a empresa, pode interromper agentes internos fora de controle

A CrowdStrike aposta que tem uma solução para os casos de inteligência artificial (IA) fora de controle.

A empresa de cibersegurança lançou nesta terça-feira um mecanismo de desligamento de IA, projetado para permitir que equipes de segurança interrompam agentes de IA internos que apresentem comportamento inesperado, impeçam sua reativação e bloqueiem seu acesso à rede corporativa.

A ferramenta está integrada à plataforma Falcon Guardian, lançada em setembro para proteger agentes de IA. A CrowdStrike também anunciou uma integração com o Claude Cowork, da Anthropic.

“Ter a capacidade de controlar e desligar, de tomar uma decisão e decidir, é algo que considero realmente importante para esta próxima etapa da adoção da IA”, afirmou Daniel Bernard, diretor de negócios da empresa, à CNBC.

Uma sequência de incidentes cibernéticos recentes e de grande repercussão aumentou a urgência das discussões sobre a criação de algum tipo de mecanismo de desligamento de emergência.

A invasão da Hugging Face, orquestrada por agentes descontrolados da OpenAI em julho, foi particularmente preocupante para as empresas. Na semana passada, a Binance divulgou o maior ataque cibernético envolvendo criptomoedas já registrado. Recentemente, hackers também atacaram centenas de refrigeradores e freezers em supermercados na França.

Durante o verão, parlamentares dos Estados Unidos apresentaram um projeto de lei bipartidário que exigiria que empresas de IA incorporassem recursos de desligamento a seus modelos.

Siga o Times | CNBC no Google e receba as principais notícias do Brasil e do Mundo.

Siga o Times | CNBC

Críticos argumentam, porém, que um botão de parada de emergência é complexo demais para ser implementado em vários sistemas, centros de dados e modelos de IA sofisticados.

Bernard afirmou que o mecanismo de desligamento funciona como um interruptor de luz nos sistemas em que os clientes utilizam a plataforma Falcon. O processo consegue detectar a atividade de agentes internos, mas exige que uma pessoa determine se ela é legítima ou maliciosa, acrescentou.

“Se você interrompe um processo na raiz, e temos esse nível de acesso na origem […] é algo muito binário”, afirmou Bernard. “Ou você desliga a IA e o agente, ou não. E então você registra o que aconteceu.”

Na era da IA, as empresas estão avançando rapidamente na adoção de ferramentas autônomas, muitas vezes sem as salvaguardas e proteções necessárias.

A CrowdStrike acredita que sua nova ferramenta permitirá que as companhias interrompam o comportamento inadequado de agentes de IA antes que ele se agrave, sem impedir a inovação.

A empresa também anunciou planos para adquirir a Fiddler AI, startup especializada em observabilidade de IA, e a Dreadnode, empresa de testes de segurança para inteligência artificial.

A CrowdStrike e suas concorrentes estão adquirindo rapidamente startups de cibersegurança para acompanhar o aumento das demandas por proteção. A necessidade de ferramentas de segurança para IA também impulsionou uma onda mais ampla de negociações e aquisições no setor de cibersegurança.

Siga o Times Brasil - Licenciado Exclusivo CNBC no