Risco de autorreplicação de IA ganha destaque após estudo da Anthropic

3–4 minutos

Pesquisadores da Anthropic, empresa responsável pelo modelo Claude, publicaram em 12 de outubro um estudo que alerta para os perigos de sistemas de inteligência artificial capazes de se copiar e se espalhar pela internet sem intervenção humana. Os experimentos mostram que modelos relativamente compactos já conseguem realizar várias etapas necessárias para esse processo, indicando um desafio crescente para a segurança cibernética.

O que significa uma IA se replicar sozinha?

A autorreplicação de IA ocorre quando um sistema consegue transferir seus componentes para outros computadores, instalar o que precisa para funcionar e repetir o processo em novas máquinas de forma autônoma. O conceito se assemelha ao de um worm, um tipo de malware que se propaga entre dispositivos conectados, mas com a capacidade adicional de adaptar suas ações a ambientes distintos, identificar ferramentas disponíveis e resolver problemas técnicos durante a propagação.

O que a Anthropic descobriu nos testes?

No estudo disponibilizado em seu site de pesquisa, a Anthropic testou se modelos menores poderiam executar etapas da replicação autônoma sem depender de grandes data centers. Os pesquisadores avaliaram a capacidade de configurar modelos em equipamentos desconhecidos e completar uma cadeia de replicação.

Segundo a empresa, modelos com até 30 bilhões de parâmetros já conseguem realizar diversas tarefas individuais necessárias ao processo, embora ainda cometam erros ao combinar todas as etapas. Nos testes simplificados, o modelo GLM-5.2, da chinesa Z.ai, e modelos mais avançados conseguiram completar o ciclo de ponta a ponta.

Os experimentos também demonstraram que um modelo de 26 bilhões de parâmetros poderia ser distribuído entre 15 dispositivos do tipo TV box, equipamentos baratos conectados à televisão, para investigar se eles poderiam fornecer capacidade computacional suficiente para executar modelos de IA.

É importante ressaltar que os testes não comprovam a existência de uma IA que se espalha livremente pela internet. Eles avaliam capacidades técnicas em condições experimentais específicas, sem demonstrar que um sistema tenha comprometido espontaneamente milhões de dispositivos reais.

Por que TVs, câmeras e eletrodomésticos entram nessa discussão?

O alerta não se limita a computadores e servidores corporativos. Equipamentos conectados à internet, como câmeras de segurança, televisores, robôs aspiradores e eletrodomésticos inteligentes, também podem ter recursos computacionais exploráveis.

Muitos desses dispositivos recebem menos atenção em termos de segurança do que computadores e celulares. Senhas fracas, atualizações infrequentes e falhas de software podem torná-los alvos de invasões.

Uma rede de aparelhos comprometidos pode formar uma botnet, conjunto de dispositivos controlados remotamente para executar atividades coordenadas, como ataques a sites ou outras infraestruturas digitais. Com IA, esse tipo de ameaça poderia ganhar capacidade de adaptação, tentando entender configurações diferentes e ajustar sua abordagem para continuar operando.

Para profissionais e empresas, isso reforça a importância de atualizar equipamentos, trocar senhas padrão, restringir acessos e monitorar comportamentos incomuns nas redes.

Como profissionais podem se preparar para os riscos da IA?

A discussão sobre autorreplicação mostra que conhecer inteligência artificial envolve mais do que aprender a escrever comandos ou automatizar tarefas. Também exige compreender limites, permissões e riscos associados ao uso dessas ferramentas.

Para quem trabalha com tecnologia, segurança da informação ou gestão, isso inclui avaliar quais sistemas podem acessar arquivos, executar códigos e interagir com serviços externos. Nas demais áreas, vale conhecer as políticas de uso de IA da empresa e evitar conceder permissões desnecessárias a ferramentas digitais.

A IA já consegue se replicar sem controle humano?

A Anthropic avalia que a evolução dos modelos pode tornar a replicação autônoma uma possibilidade mais concreta em um futuro próximo. No estudo, a empresa estima que modelos menores poderiam alcançar o nível de capacidade observado nos testes até o fim de 2026, caso mantenham o ritmo histórico de evolução. Essa previsão, porém, não é uma garantia de que o cenário se concretizará.

A principal preocupação é que uma rede descentralizada de dispositivos comprometidos seria mais difícil de desativar do que um sistema concentrado em um único servidor. Ao mesmo tempo, a viabilidade de ataques reais depende de fatores como acesso aos equipamentos, vulnerabilidades exploráveis, recursos computacionais e capacidade de manter o funcionamento.

O cenário ainda exige investigação e medidas preventivas. Acompanhar a evolução da inteligência artificial e entender seus riscos técnicos será cada vez mais relevante para profissionais e organizações que dependem de sistemas conectados.