Anthropic alerta para risco de IA se propagar por aparelhos conectados à internet sem depender de data centers

A Anthropic publicou nesta segunda-feira (12) um estudo sobre o risco de modelos menores de inteligência artificial desenvolverem capacidade para se replicar em dispositivos conectados à internet, como televisores e aparelhos domésticos inteligentes, sem depender de data centers.

Segundo os pesquisadores, essa possibilidade pode se tornar tecnicamente viável até o fim de 2026, caso a evolução dos modelos mantenha o ritmo observado nos últimos anos.

O estudo foi conduzido por William Zhou e Daniel Freeman, pesquisadores da equipe de segurança Frontier Red Team da Anthropic. Os experimentos avaliaram o funcionamento de modelos em diferentes tipos de hardware e sua capacidade de executar etapas necessárias à propagação autônoma.

O cenário analisado envolve redes distribuídas de aparelhos comprometidos que executariam modelos de IA e transmitiriam cópias para outros dispositivos. Como uma estrutura desse tipo não dependeria de um único centro de processamento, sua contenção poderia ser mais complexa.

Autores ressaltam, porém, que ainda não desenvolveram um sistema completo de autorreplicação autônoma capaz de operar irrestritamente no mundo real. Os testes identificaram avanços em etapas necessárias para esse tipo de funcionamento, mas também apontaram limitações.

Em um dos experimentos, os pesquisadores distribuíram o modelo Gemma4-26B-A4B por 15 aparelhos Android TV de baixo custo, comprados por cerca de US$ 55 cada.

O conjunto atingiu uma velocidade de processamento de 0,39 token por segundo, demonstrando que equipamentos domésticos relativamente simples podem fornecer capacidade computacional quando combinados.

Em outra avaliação, um modelo de 9 bilhões de parâmetros conseguiu iniciar a execução de inferência em oito dos nove tipos de hardware testados. A capacidade de adaptar o funcionamento a equipamentos diferentes é apontada pelos pesquisadores como um fator que pode ampliar os riscos em relação a programas maliciosos tradicionais.

Autorreplicação autônoma

A autorreplicação autônoma, identificada pela sigla ARA no estudo, descreve um sistema capaz de implantar e propagar a si próprio sem controle humano. Na segurança cibernética, o conceito se aproxima do funcionamento de um worm, programa que se copia de um computador para outro sem intervenção humana.

A diferença destacada pelos pesquisadores é a possibilidade de um sistema baseado em IA se adaptar a dispositivos e ambientes de software desconhecidos. Em vez de depender exclusivamente de instruções programadas para um equipamento específico, o modelo poderia identificar configurações compatíveis, resolver problemas de execução e ajustar sua estratégia.

Os experimentos avaliaram etapas como preparar o ambiente para executar o modelo, identificar equipamentos disponíveis e completar o ciclo de propagação. Essa preparação exige decisões sucessivas sobre hardware, sistema operacional, programas compatíveis e correção de erros específicos de cada máquina.

Segundo os autores, modelos com até 30 bilhões de parâmetros já conseguem realizar diversas etapas individuais necessárias à replicação, embora ainda cometam erros ao combinar todo o processo.

Em testes simplificados, o GLM-5.2 e modelos mais avançados conseguiram completar o ciclo de ponta a ponta.

Com base na evolução histórica dos modelos, os pesquisadores estimam que sistemas menores poderão alcançar esse nível de capacidade até o fim de 2026. Replicadores capazes de operar com os próprios pesos do modelo poderiam se tornar viáveis pouco depois.

A estimativa é uma projeção dos autores, não uma confirmação de que uma ameaça desse tipo já esteja operando nessas condições.

Risco doméstico

O estudo concentra-se em aparelhos da chamada internet das coisas, conhecida pela sigla IoT. A categoria inclui televisores, geladeiras, fornos, aspiradores robóticos, cortadores de grama e câmeras de segurança.

Siga o Times | CNBC no Google e receba as principais notícias do Brasil e do Mundo.

Siga o Times | CNBC

De acordo com os pesquisadores, parte desses equipamentos tem medidas de segurança limitadas e pode oferecer capacidade computacional suficiente para executar modelos de IA.

Sistemas grandes demais para funcionar em um único aparelho também poderiam ser divididos em partes, distribuídas por diferentes máquinas conectadas entre si.

Essa arquitetura permitiria formar uma rede de processamento sem depender de uma instalação centralizada. Os autores consideram a autorreplicação por meio de dispositivos comprometidos uma das ameaças de curto prazo que merecem investigação.

O estudo também descreve outros cenários, como modelos que roubam credenciais para utilizar serviços de computação em nuvem ou obtêm recursos por meio de contas comprometidas. Sistemas maiores poderiam tentar atingir data centers, enquanto modelos menores poderiam explorar equipamentos domésticos e empresariais.

Na avaliação dos pesquisadores, uma ameaça real poderia combinar diferentes modelos e estratégias, em vez de depender de um único sistema.

Uma rede desse tipo não necessariamente se espalharia rapidamente. Os autores estimam que um replicador distribuído poderia levar dias para dobrar de tamanho, dependendo da velocidade com que encontrasse novos dispositivos e conseguisse configurá-los.

A contenção poderia ser dificultada pela ausência de um ponto central de desligamento. Como os modelos operariam em equipamentos independentes, a resposta exigiria identificar e isolar dispositivos comprometidos em diferentes redes.

Os pesquisadores também apontam que sistemas baseados em IA poderiam adaptar seu comportamento a equipamentos variados. Essa capacidade, contudo, não foi inteiramente demonstrada: a equipe afirma que ainda não testou se uma rede desse tipo conseguiria reagir de maneira inteligente às tentativas de defesa.

Outro limite apareceu nos testes de interação entre modelos. Em uma avaliação, os pesquisadores deram ao Qwen3.5-9B acesso ao Opus 4.8 durante uma tarefa de configuração de inferência. A assistência não produziu melhora mensurável, porque o modelo menor teve dificuldade para formular as perguntas necessárias ou aproveitar orientações oferecidas espontaneamente.

Como se defender?

Os pesquisadores afirmam que uma rede de dispositivos comprometidos poderia produzir sinais detectáveis no tráfego de internet. A transferência de arquivos de modelos com vários gigabytes, a comunicação frequente entre equipamentos e a varredura de redes poderiam indicar atividades anormais.

Entre as medidas propostas está a colocação de dispositivos suspeitos em quarentena, com restrições de conexão a uma lista limitada de serviços. Provedores de internet também poderiam notificar usuários afetados e orientá-los sobre a limpeza dos equipamentos.

O estudo cita a contenção da botnet Mirai como referência, destacando o papel de medidas de isolamento e notificação na eliminação de infecções.

Segundo os pesquisadores, abordagens semelhantes poderiam ajudar a conter possíveis redes de autorreplicação baseadas em IA, embora a eliminação completa exigisse coordenação entre os provedores envolvidos.

Os fabricantes também teriam papel relevante, com configurações mais seguras por padrão, redução do uso de senhas frágeis e adoção de padrões mínimos de segurança para dispositivos conectados.

Na conclusão, Zhou e Freeman afirmam que os experimentos demonstram avanços na capacidade de modelos de IA para executar etapas de replicação e adaptar sua operação a diferentes equipamentos. Embora um sistema autônomo completo ainda não tenha sido demonstrado, os pesquisadores defendem que as medidas de segurança sejam desenvolvidas antes que essas capacidades avancem.

Siga o Times Brasil - Licenciado Exclusivo CNBC no