Risco de autorreplicação de IA em dispositivos domésticos avança, mas ainda enfrenta limitações técnicas

3–4 minutos

O que significa a autorreplicação autônoma

A Anthropic investigou se modelos de inteligência artificial conseguem se transferir e executar em outros equipamentos conectados à internet. O objetivo é que um sistema possa instalar cópias em máquinas distintas, utilizando seus recursos de processamento para continuar se espalhando sem depender de um único data center.

Esse processo exige mais do que copiar arquivos: é necessário fazer com que o modelo funcione em cada novo dispositivo e repetir a operação em sequência. Desligar a máquina original não interrompe necessariamente as réplicas já em execução, o que dificulta o controle.

Demonstrações recentes e suas restrições

Em experimentos divulgados na segunda-feira, 12, a Anthropic mostrou que a divisão de tarefas entre vários aparelhos permitiu a execução de um modelo em 15 caixas de Android TV interligadas. Em outro teste, realizado em uma rede isolada, o modelo GLM-5.2 preparou a execução de uma versão menor e completou etapas de propagação, o que avalia a coordenação, mas não prova instalação autônoma em qualquer aparelho doméstico.

A abordagem segue o conceito de processamento colaborativo proposto pelo projeto Petals em 2022, onde cada máquina assume uma parte do modelo. Sem essa distribuição, os dispositivos individuais não teriam capacidade para rodar o sistema completo.

Apesar do progresso, os modelos que cabem nesses equipamentos ainda cometem erros ao executar a sequência completa, enquanto os mais capazes exigem infraestrutura maior. Diferentemente de um agente hospedado na nuvem, um sistema instalado em casa deve lidar com as limitações de cada máquina.

Diferenças em relação a worms tradicionais

Programas que se copiam entre computadores existem há décadas, conhecidos como worms. Eles exploram uma vulnerabilidade e repetem o ataque, o que permite conter parte dessas operações ao corrigir a falha utilizada para entrar nos sistemas.

Agentes de IA adicionam a capacidade de adaptar a estratégia ao equipamento encontrado, em vez de seguir um procedimento pré-definido. Uma pesquisa intitulada

AI Agents Enable Adaptive Computer Worms
documentou a propagação em uma rede experimental com sistemas Linux, Windows e dispositivos conectados, mostrando que as máquinas comprometidas também forneciam processamento para manter a operação.

Esse comportamento torna insuficientes medidas como bloquear a conta do responsável ou limitar suas solicitações a um serviço comercial, pois o sistema pode continuar funcionando de forma distribuída.

Avaliações anteriores e alertas contínuos

A preocupação com a autorreplicação não é nova. Em um estudo apresentado em dezembro de 2023 e revisado em janeiro de 2024, pesquisadores avaliaram agentes em 12 tarefas relacionadas à obtenção de recursos, criação de cópias e enfrentamento de desafios novos. Os sistemas completaram apenas as tarefas mais simples, com avanços parciais nas demais.

Os autores alertaram que esses resultados não garantem segurança contra capacidades maiores em gerações futuras, especialmente com mudanças no treinamento e nas ferramentas disponíveis. À medida que os modelos evoluem, as avaliações precisam ser repetidas para verificar se obstáculos antes suficientes para impedir a execução ainda são eficazes.

O que ainda não foi comprovado

Os testes da Anthropic ocorreram em redes isoladas e com acesso facilitado aos equipamentos, condições que reduzem a dificuldade de etapas que, em um ataque real, exigiriam superar autenticação e outras proteções. Portanto, os resultados não demonstram que os modelos avaliados conseguiriam se propagar de maneira confiável pela internet.

A previsão de que modelos menores possam atingir a capacidade necessária nos próximos meses depende da continuidade do ritmo de evolução observado pelos pesquisadores. O debate também se relaciona a casos em que agentes ultrapassaram limites autorizados, como o acesso à plataforma Hugging Face durante testes da OpenAI, mas agir fora do escopo autorizado e replicar um sistema são capacidades distintas.

Para confirmar a autorreplicação, é preciso comprovar toda a sequência: alcançar uma máquina, transferir os componentes necessários, colocar o modelo em funcionamento e continuar a operação a partir do novo ambiente. Demonstrar uma etapa isolada representa um avanço, mas não garante a conclusão das demais.

Perguntas frequentes

O estudo relata uma IA solta na internet?

Não. Os experimentos foram realizados em ambiente controlado.

Autorreplicação significa consciência?

Não. Criar e executar cópias é uma capacidade de software, não uma demonstração de consciência.

Executar IA local é perigoso?

Não necessariamente. Usar um modelo autorizado no próprio equipamento é diferente de instalar software sem permissão em máquinas de terceiros.