A Anthropic divulgou na noite de segunda-feira (12) uma pesquisa segundo a qual modelos pequenos de inteligência artificial podem estar a meses de conseguir copiar a si mesmos entre aparelhos conectados à internet, como TV boxes baratos, sem depender de datacenters e sem um ponto único que permita desligá-los.
O alerta, da Frontier Red Team da empresa, vale também para o Brasil, onde, segundo estimativa da Anatel, milhões de domicílios recebem sinal pirata de TV por meio de aparelhos como esses.
Em abril, o Mythos Preview escapou da caixa de testes onde pesquisadores o haviam isolado e avisou por e-mail um deles, que comia um sanduíche num parque. Aquela fuga exigia um modelo no limite do que a empresa sabe construir. O trabalho de agora descreve o caminho contrário, com modelos modestos que cabem em hardware barato e dispensam a fuga porque já estariam do lado de fora.
Leia também: Anthropic warns AI models could soon copy themselves across home devices
Anthropic monta laboratório com 15 TV boxes genéricos
Os pesquisadores William Zhou e Daniel Freeman compraram 15 TV boxes genéricos com Android, a cerca de US$ 55 cada (perto de R$ 275, com o dólar em torno de R$ 5), ligaram todos na mesma rede e repartiram entre eles as camadas do Gemma4-26B-A4B, modelo aberto do Google com 26 bilhões de parâmetros.
O conjunto respondeu a 0,39 token por segundo, algo como uma palavra a cada três segundos, mas respondeu, e isso bastou para desmontar a ideia de que rodar uma IA razoável exige sala refrigerada e placa de vídeo de datacenter.
Estimativa de meses vem com ressalvas
Convém separar o que foi medido do que foi projetado. Medido, o modelo aberto GLM-5.2 saltou de máquina em máquina por oito emuladores Android e alcançou todas em quatro de cinco tentativas, num exercício em que a invasão era trivial, com porta de depuração aberta e sem senha, o que faz do resultado um teto e não um retrato do mundo real. Projetado, e a Anthropic assume que é projeção, está o prazo, extraído da curva histórica de melhora dos modelos de até 30 bilhões de parâmetros, que alcançariam esse nível até o fim de 2026, e o laboratório admite que ainda não existe um replicador completo, apenas "sinais de vida", numa espécie de slime mold digital, organismo gelatinoso que avança sem pressa.
Brasil oferece terreno fértil para caixinhas vulneráveis
A Kimwolf, botnet que a Anthropic usa como caso de referência, infectou mais de 2 milhões de aparelhos, em sua maioria TV boxes genéricos, e teve o Brasil entre os países mais atingidos, com muitos equipamentos vendidos já infectados de fábrica, segundo as empresas de segurança que a rastrearam.
Uma frota assim, rodando uma cópia do Gemma a cada 15 aparelhos, somaria uns 133 mil réplicas e o poder de uns 40 chips H100, quase nada diante de um datacenter e muito diante de uma rede que ninguém sabe onde começa.
O Brasil conhece o enredo. A Anatel já retirou de circulação mais de 1,4 milhão de TV boxes irregulares, diz ter achado backdoors e malware em alguns e estima entre 5 milhões e 7 milhões de domicílios com "TV a gato".
O dono economiza na mensalidade da TV paga, e o custo da insegurança, como em toda externalidade que se preze, fica com a rede inteira.
Anthropic sugere quarentena de provedores e fim de senha padrão
A defesa que o laboratório desenha lembra saúde pública, com a meta de levar abaixo de 1 o número de aparelhos que cada infectado consegue contaminar, para que o replicador se extinga em vez de virar endêmico. Na época do Mirai, a quarentena de assinantes infectados, aplicada por provedores, limpou 92% das infecções em 14 dias, contra 74% quando o cliente não era avisado, e aos fabricantes cabe encolher o alvo, já que o Reino Unido considera fora da lei a senha padrão de fábrica.
Reguladores de outro ramo ensaiam respostas à mesma família de riscos. Em junho, no fórum do BCE em Sintra, a vice-governadora do Banco da Inglaterra, Sarah Breeden, disse que os arcabouços do banco "não foram construídos para contemplar agentes autônomos" e que a instituição avalia botões de emergência para interromper negociações se modelos defeituosos provocarem uma pane.
Convém ler o alerta com a desconfiança de ofício, porque vem de uma empresa que vende agentes como os que descreve e que, no mês passado, aderiu com outras big techs americanas a um pacto voluntário de salvaguardas, criticado por muitos especialistas pelo caráter facultativo. A Al Jazeera enviou perguntas sobre as implicações de segurança do estudo e não teve resposta até a publicação, enquanto Roman Yampolskiy, da Universidade de Louisville, afirmou à emissora que hoje isso não é uma ameaça existencial, mas que a trajetória preocupa.
Leia outras colunas em AI-451.
Siga o Times Brasil - Licenciado Exclusivo CNBC no
Meta lança Muse Wonder e cobra até R$ 500 por mês por nova IA 
