EXCLUSIVO CNBC: Agentes de IA ampliam riscos e criam novo desafio para segurança digital, aponta CEO da SailPoint

A rápida disseminação dos agentes de inteligência artificial está criando um novo desafio para a segurança corporativa: controlar sistemas capazes de acessar informações e executar tarefas em nome de pessoas, avalia Mark McClain, CEO da SailPoint.

Em entrevista à CNBC, McClain afirmou que a IA agêntica combina enorme potencial para aumentar a produtividade com riscos relevantes caso esses sistemas recebam acesso a informações ou recursos sem mecanismos adequados de controle.

“Essas capacidades de IA, especialmente essa IA agêntica ou agentes de IA, são incrivelmente poderosas, com um potencial enorme e um potencial bastante alto para ações ruins também”, afirmou.

Leia também: Ataque de agente da OpenAI à Hugging Face confirma alertas da cibersegurança: ‘A caixa de Pandora foi aberta’

Agentes se tornam novas identidades digitais

A segurança de identidade tradicionalmente se concentrou em assegurar que as pessoas certas tivessem acesso às informações adequadas e utilizassem esses dados dentro das regras estabelecidas pelas organizações. Com os agentes de IA, esse universo se amplia.

Segundo McClain, empresas poderão utilizar de dezenas a centenas de agentes para cada funcionário, dependendo da velocidade de adoção da tecnologia. Esses sistemas poderão realizar diferentes atividades em nome dos usuários e, por isso, precisarão ser administrados como identidades próprias dentro das redes corporativas.

Para o executivo, a questão não se limita a identificar quem ou o que está acessando determinado sistema. Será necessário estabelecer quais informações cada agente poderá consultar, quais ações estará autorizado a executar e até onde poderá operar de forma autônoma.

Leia também: OpenAI amplia iniciativa Daybreak de cibersegurança à medida que ameaças de agentes de IA evoluem

“Certamente veremos um sistema como o nosso tratando [o agente] como outra identidade a ser protegida, gerenciada e governada”, disse.

McClain destacou que governança será um elemento fundamental nesse processo, justamente para impedir que agentes ultrapassem os limites definidos pelas empresas.

Siga o Times | CNBC no Google e receba as principais notícias do Brasil e do Mundo.

Siga o Times | CNBC

IA não foi criada para proteger dado

Um dos principais pontos de atenção, segundo o CEO da SailPoint, está na própria concepção das ferramentas. Modelos de IA foram desenvolvidos principalmente para resolver problemas, reunir dados e identificar padrões, e não para restringir o acesso às informações.

“A IA foi projetada para resolver problemas, capturar dados, reuni-los e procurar por padrões. Ela não foi projetada para proteger dados, nem para restringir dados”, alertou.

Leia também: Ataque à Hugging Face marca início de uma perigosa era de cibersegurança com IA; muitas empresas “nem sabem disso”

O risco aumenta à medida que os agentes deixam ambientes controlados de testes e passam a atuar diretamente nos sistemas das empresas. Uma ferramenta com permissões excessivas pode executar ações não previstas caso não existam barreiras específicas para limitar sua autonomia.

Para McClain, o desafio será fazer com que os agentes herdem as mesmas políticas de segurança, restrições de acesso e regras de governança aplicadas às pessoas em nome das quais trabalham.

“Como podemos permitir que os agentes de IA herdem efetivamente as políticas, as restrições e a governança das pessoas em cujo nome operam? Esse é o desafio. Ainda não chegamos lá”, afirmou.

O executivo também advertiu que empresas interessadas nos ganhos de produtividade proporcionados pela tecnologia precisam evitar uma corrida sem controles adequados.

Leia também: Especialistas alertam para riscos de cibersegurança em atualizações remotas de veículos

“Eu não posso ser imprudente, não posso correr riscos indevidos com essa tecnologia”, disse, ao descrever a preocupação que, em sua avaliação, deve orientar as empresas.

Para McClain, a velocidade da evolução da IA agêntica exigirá que companhias de segurança atualizem continuamente suas ferramentas para acompanhar uma força de trabalho na qual pessoas e agentes digitais passarão a operar lado a lado.

Cauê Rigamonti

Siga o Times Brasil - Licenciado Exclusivo CNBC no