Tokens ou pessoas? O novo dilema das empresas

A inteligência artificial está se mostrando muito mais cara do que o esperado, e diretores financeiros de grandes empresas dos Estados Unidos enfrentam agora um novo e difícil dilema: investir em tokens ou em pessoas.

Esse foi o cenário descrito à CNBC nesta semana por dois CEOs de empresas de IA corporativa que estão no centro da expansão da tecnologia. Segundo eles, o que está acontecendo dentro das companhias da lista Fortune 500 evidencia os riscos que os custos crescentes representam para a tese de investimento em inteligência artificial — um risco que, segundo eles, ainda não foi plenamente precificado pelo mercado, mesmo com índices em máximas históricas e o surgimento de novas empresas avaliadas em mais de US$ 1 trilhão (R$ 5,06 trilhões), como a Micron.

Arvind Jain, CEO da empresa de IA corporativa Glean, disse à CNBC que o principal tema de discussão entre as empresas atualmente são os orçamentos inflados para inteligência artificial. “As empresas estão nos dizendo que seus orçamentos de IA estão sendo consumidos em um ou dois meses, apesar de serem orçamentos anuais”, afirmou.

Leia também: Nvidia quer usar tokens de IA como incentivo além do salário

Segundo ele, isso ocorre porque os custos da IA não diminuíram como os compradores esperavam. Pelo contrário.

Cada nova geração de modelos lançada pelos laboratórios de ponta custa aproximadamente o dobro por token em relação ao modelo anterior, colocando a IA corporativa em uma trajetória que Jain classificou como “insustentável neste momento”.

“Esta é a primeira vez de que me lembro em que a tecnologia custa o mesmo que pessoas, e você faz essa comparação: escolhe tecnologia ou pessoas”, disse. “Historicamente nunca tivemos essa conversa, porque a tecnologia representava apenas uma fração do custo operacional de qualquer empresa.”

Leia também: ‘Muitas empresas não vão mais abrir capital na bolsa, vão emitir tokens’, diz influenciadora Iara Thamires

Segundo Jain, os gastos crescentes com IA estão substituindo, cada vez mais, a expansão futura do quadro de funcionários.

Orçamento sob revisão

Matan Grinberg, CEO da Factory AI, empresa que distribui tarefas de engenharia entre diferentes modelos de inteligência artificial, afirmou que essa mudança se transformou em uma questão formal de alocação de recursos dentro das equipes de liderança.

“As empresas perguntam: se pudermos otimizar uma coisa, será o número de funcionários que temos ou o gasto com IA por funcionário?”, disse Grinberg.

Segundo ele, as empresas passaram por três fases distintas ao longo de aproximadamente um ano.

Leia também: O verdadeiro impacto da IA nos empregos: elasticidade, tokens e regulação

A primeira ocorreu quando conselhos de administração passaram a pressionar executivos para adotar inteligência artificial.

A segunda foi marcada pelo chamado “tokenmaxxing”, ou seja, a utilização de IA a qualquer custo, independentemente do valor gasto.

Agora, as empresas entraram em uma terceira fase, na qual começam a reavaliar a necessidade de utilizar modelos premium para todas as tarefas.

“Precisamos realmente usar inteligência no nível do Opus para cada tarefa?”, questionou Grinberg. “Simplesmente não precisamos.”

Custo supera retorno

Segundo Jain, a principal dificuldade é que a tecnologia funciona, mas ainda não gera retorno suficiente para compensar os gastos.

“A forma como a IA funciona hoje é muito poderosa, mas muito ineficiente”, afirmou. “O valor gerado pela IA neste momento está abaixo dos custos que as empresas estão assumindo.”

Leia também: Robinhood distribui tokens da OpenAI e SpaceX e ações atingem recorde

Grande parte do problema, segundo ele, está na escolha dos modelos.

Cerca de 95% da utilização de IA nas empresas ainda acontece nos modelos de fronteira mais caros, mesmo quando tarefas simples poderiam ser executadas por versões mais baratas.

Para Jain, existe uma solução relativamente simples: direcionar tarefas menos complexas para modelos de menor custo.

“É possível obter uma economia de 10 vezes com o roteamento correto dos modelos logo na entrada”, afirmou.

Leia também: Anthropic fez a Amazon vencer uma corrida que já tinham dado como perdida

Aposta da Factory AI

Essa também é a proposta da Factory AI, que distribui automaticamente cada tarefa para o modelo considerado mais adequado.

Segundo Grinberg, o segredo está em reconhecer o quão raramente uma atividade realmente exige o modelo mais avançado disponível.

Ele comparou a diferença entre as versões mais recentes dos modelos de ponta à diferença entre dois professores experientes.

Leia também: Anthropic lança Opus 4.8 com workflows dinâmicos e modo rápido mais barato

“Opus 4.7 versus Opus 4.8 é como a diferença entre um professor que leciona há 13 anos e outro que leciona há 15 anos”, disse. “Para uma pessoa comum, é muito difícil perceber a diferença.”

Sensibilidade aos preços

Toda a tese de investimento em inteligência artificial depende da aposta de que a demanda continuará elevada e pouco sensível aos custos.

No entanto, a visão apresentada pelas empresas que atuam dentro das companhias da Fortune 500 sugere que os compradores podem estar muito mais atentos aos preços do que muitos investidores imaginam.

Leia também: Anthropic e Microsoft negociam acordo para chips de IA após investimento de R$ 25 bilhões

Leia mais sobre o que esse ajuste de expectativas em relação aos custos da IA pode significar para as avaliações da OpenAI e da Anthropic, que construíram seus modelos de negócios com base em preços premium.

—