EXCLUSIVO CNBC: Jensen Huang, CEO da Nvidia, diz que agentes de IA precisam de limites, supervisão e acesso restrito

A Nvidia lançou uma nova plataforma de software voltada à segurança de agentes de inteligência artificial. Em entrevista exclusiva à CNBC, Jensen Huang, CEO da empresa, explicou que a OpenShell foi desenvolvida para limitar os direitos, controlar os acessos e monitorar o comportamento de agentes de IA antes que eles sejam utilizados dentro de empresas.

Segundo Huang, o princípio é semelhante ao aplicado aos funcionários de uma companhia: ninguém recebe acesso irrestrito a arquivos, ferramentas, sistemas ou redes. O agente de IA, portanto, deve receber apenas as permissões necessárias para executar determinada tarefa.

“Não importa o quão inteligente” seja o agente, a primeira medida deve ser retirar seus direitos e, posteriormente, fornecer apenas os acessos necessários, afirmou Huang.

A OpenShell foi criada para transformar essa filosofia em uma camada tecnológica de controle. A plataforma permite provisionar direitos e responsabilidades, definir quais dados e ferramentas podem ser acessados e estabelecer limites para a atuação dos agentes.

Huang afirmou que cerca de 100 empresas apoiam a iniciativa, entre elas IBM, Microsoft, SpaceX, Anthropic e outras companhias do setor de tecnologia. Segundo o executivo, o número representa apenas parte das organizações envolvidas.

A plataforma também é de código aberto. Para Huang, essa característica permite que o ambiente de segurança seja analisado por empresas e desenvolvedores em busca de vulnerabilidades. A lógica é ampliar a quantidade de participantes capazes de identificar falhas e contribuir para sua correção.

“Quanto mais pessoas o usarem, mais vibrante ele será e mais resiliente e mais robusto ele será”.

Siga o Times | CNBC no Google e receba as principais notícias do Brasil e do Mundo.

Siga o Times | CNBC

Durante a entrevista, Huang também foi questionado sobre a ausência da OpenAI entre as empresas que participam da iniciativa. O executivo afirmou que a plataforma é aberta e que a empresa poderá participar da maneira que considerar adequada, inclusive analisando o código, utilizando partes da tecnologia ou desenvolvendo uma solução própria inspirada no projeto.

A discussão ocorre em um momento de expansão dos agentes de IA, sistemas capazes de executar tarefas com maior grau de autonomia. Para Huang, a capacidade de colocar esses sistemas dentro de empresas exige mecanismos específicos de contenção.

A Nvidia começou a desenvolver a tecnologia cerca de um ano atrás, a partir da experiência com a criação de sistemas voltados a agentes de IA. A empresa identificou que não seria suficiente desenvolver agentes mais inteligentes: também seria necessário impedir que eles circulassem livremente pelos ambientes corporativos.

A arquitetura da OpenShell foi estruturada em três frentes principais. A primeira é a contenção dos agentes. A segunda é o provisionamento de direitos e permissões. A terceira é o monitoramento do cumprimento das políticas estabelecidas.

Para a camada de monitoramento, a Nvidia desenvolveu o sistema chamado Sentry, que, segundo Huang, acompanha o comportamento dos agentes diretamente no silício.

A proposta é criar uma estrutura na qual os agentes possam executar tarefas e utilizar ferramentas, mas dentro de limites definidos previamente pelos responsáveis pelos sistemas.

Siga o Times Brasil - Licenciado Exclusivo CNBC no