Real Tech: Agentes de IA ampliam debate sobre autonomia e limites de segurança

A expansão dos agentes de inteligência artificial, capazes de executar tarefas de forma autônoma, está mudando o foco do debate sobre a tecnologia: a discussão já não é apenas sobre o que os modelos conseguem responder, mas sobre até onde eles poderão agir sem supervisão humana.

O tema ganhou destaque no Dreamforce, principal evento da Salesforce, realizado em São Francisco, nos Estados Unidos, que reuniu executivos de algumas das maiores empresas de tecnologia e inteligência artificial. A avaliação é de Igor Lopes, colunista de tecnologia e inovação, em participação no Real Tech, do Times Brasil – Licenciado Exclusivo CNBC.

No primeiro dia do evento, passaram pelo mesmo palco Marc Benioff, fundador e CEO da Salesforce; Sam Altman, CEO da OpenAI; Jensen Huang, CEO da Nvidia; e Dario Amodei, CEO da Anthropic. Segundo Lopes, as diferentes posições apresentadas mostram que a indústria ainda não tem uma visão única sobre a velocidade de desenvolvimento e os riscos associados à IA.

Para o colunista, a questão central não é simplesmente saber se a inteligência artificial está avançando rápido demais, mas em que direção esse avanço está ocorrendo.

Modelos capazes de resolver problemas científicos, médicos e empresariais podem ter grande potencial, na avaliação de Lopes. O cenário muda, porém, quando esses sistemas passam a ter acesso a ferramentas, internet, códigos e capacidade de executar ações de forma independente.

“Não é só se a gente deve parar a inteligência artificial, mas se os mecanismos de segurança estão conseguindo evoluir na mesma velocidade que a capacidade desses sistemas”, afirmou.

Leia também: A cara expansão da inteligência artificial complica combate do Fed à inflação

Autonomia muda o debate sobre IA

A evolução dos chamados agentes de IA acrescenta uma nova camada à discussão. Em vez de apenas responder a comandos, esses sistemas podem executar sequências de tarefas e tomar determinadas ações sem que uma pessoa acompanhe cada etapa.

Lopes diferencia, por exemplo, o uso de uma IA para resumir uma reunião de situações em que o sistema poderia marcar um novo encontro, negociar com um cliente, alterar um contrato, aprovar um pagamento ou tomar uma decisão financeira.

Quanto maior a autonomia concedida ao agente, maior também deve ser a preocupação sobre quem pode interromper o sistema, quem será responsável por suas ações e quais limites foram estabelecidos.

Nesse contexto, o colunista avalia que o diferencial das próximas empresas pode estar menos em simplesmente adotar inteligência artificial e mais em definir quais atividades devem ser automatizadas e quais precisam permanecer sob comando humano.

Siga o Times | CNBC no Google e receba as principais notícias do Brasil e do Mundo.

Siga o Times | CNBC

“A discussão é quanto de autonomia a gente está disposto a entregar para ela”, disse.

Leia também: Inteligência artificial amplia monitoramento de rebanhos e lavouras no agronegócio

Segurança acompanha avanço dos agentes

Durante a entrevista, Lopes também citou um episódio envolvendo testes de agentes de IA em ambientes controlados. Segundo ele, o caso ajudou a tornar mais concreta a discussão sobre o comportamento desses sistemas quando recebem maior autonomia.

A preocupação, na avaliação do colunista, está em estabelecer mecanismos de proteção — os chamados guardrails — capazes de impedir que os agentes ultrapassem limites definidos pelos usuários ou pelas empresas.

O debate também apareceu nas falas dos executivos presentes ao Dreamforce. Enquanto Jensen Huang defendeu a possibilidade de combinar velocidade e segurança no desenvolvimento da tecnologia, Dario Amodei tem feito alertas sobre os riscos da evolução acelerada da IA. Sam Altman, por sua vez, reconheceu que existem motivos para preocupação, segundo o relato de Lopes.

Altman também comparou o momento atual da inteligência artificial ao surgimento das redes sociais. Na avaliação apresentada durante o evento, a experiência com essas plataformas mostra que a sociedade poderia ter estabelecido mecanismos de responsabilização mais cedo e que as lições desse período devem ser aplicadas ao desenvolvimento da IA.

A discussão sobre responsabilidade ganha peso à medida que os agentes assumem tarefas que antes dependiam diretamente de pessoas. Para Lopes, a questão fundamental dos próximos anos será determinar onde a automação pode avançar e em quais situações a decisão final deve continuar nas mãos de um humano.

“Quanto mais tarefas você entrega para um agente, mais importante fica saber quem pode interrompê-lo, quem responde pelo que ele faz e quais os limites foram definidos”, afirmou.

Nesse cenário, a inteligência artificial já deixou de ser apenas uma ferramenta para gerar respostas e passou a ocupar espaço como infraestrutura para execução de tarefas. O desafio, segundo Lopes, será definir como essa autonomia será incorporada às empresas sem retirar do ser humano a responsabilidade pela decisão final.

Siga o Times Brasil - Licenciado Exclusivo CNBC no