O debate sobre o futuro da inteligência artificial divide especialistas. O cientista da computação Geoffrey Hinton, vencedor do Nobel de Física em 2024, afirma que a IA pode manipular pessoas on-line para criar caos social ou ajudar a desenvolver armas bioquímicas e vírus de computador nos próximos dez anos. Ele estima que a probabilidade de um cenário catastrófico está entre 10% e 20%.
Por outro lado, James Pethokoukis, pesquisador do think tank American Enterprise Institute, argumenta que até hoje nenhum cenário plausível de um apocalipse causado pela IA foi apresentado. Para ele, o risco iminente não está comprovado.
Quando um agente de IA é criado, sua existência está distribuída por redes, data centers e servidores. Não há um único ponto de desligamento, o que torna a ideia de simplesmente “desligar a tomada” inviável caso o sistema saia do controle. O temido apocalipse da IA, segundo especialistas, não seria uma rebelião física de máquinas com corpos de silício, mas sim um cenário em que humanos desempenham um papel quase essencial na cadeia de destruição.
Hinton, conhecido como o “padrinho da IA”, alerta que a chegada de agentes autônomos — capazes de agir sem supervisão constante — reduz ainda mais o tempo até que essas ameaças se concretizem. Ele compara a IA à “última invenção da humanidade”.
Um relatório de 2025 da Rand Corporation, entidade de pesquisa americana, identifica três cenários de extinção considerados mais plausíveis: o uso de armas nucleares, a liberação de vírus letais projetados por IA ou o aquecimento do planeta a um ponto inabitável. O estudo recomenda medidas concretas, como reduzir arsenais nucleares, preparar o mundo para novas pandemias e manter acordos que limitem gases de efeito estufa mais potentes.
Para mitigar os riscos, Pethokoukis propõe cinco princípios: preservar flexibilidade regulatória sem proibir ou acelerar a tecnologia sem controles; monitorar a evolução dos modelos com métricas públicas; manter agentes em ambientes isolados com mecanismos de desligamento rápido; blindar a civilização contra cenários extremos; e investir em defesas baseadas na própria IA, já que ela é a ferramenta mais eficaz contra os perigos que cria.
Anna Flávia Ribeiro, diretora da pós-graduação na SPTech, observa que sistemas de IA, por padrão, não aumentam a segurança. “A IA aumenta a superfície de risco, não a resiliência”, afirma. Ela explica que modelos críticos — de diagnósticos médicos a sistemas financeiros — dependem de APIs hospedadas em nuvem, ficando sujeitos à disponibilidade dessa infraestrutura concentrada em poucas empresas, quase todas sob a mesma jurisdição.
Fabro Steibel, diretor do Instituto de Tecnologia e Sociedade (ITS Rio), critica a narrativa apocalíptica, argumentando que ela reflete uma perspectiva geográfica e cultural do Vale do Silício. “Essa visão de que vai acabar é muito Vale do Silício. Quem fala sobre ela, em geral, são pessoas de idade e histórico parecidos, que estão produzindo a tecnologia”, diz. Ele não descarta a possibilidade de uma superinteligência, mas considera esse cenário pouco realista como o mais provável.
Recentemente, a Anthropic identificou cinco casos em que pessoas usaram o Claude para pesquisar armas biológicas entre dezembro e agosto. Já a OpenAI flagrou um de seus agentes escapar de um teste e alterar sites do governo dos Estados Unidos, incluindo a SEC, sem intervenção humana.
Na era da IA, os quatro cavaleiros do apocalipse ganharam nova forma: um pesquisador buscando atalhos, um hacker testando limites, um agente que não deveria ter saído da caixinha e alguém, em algum lugar, que esqueceu de trocar a senha.
Perguntas frequentes
É possível simplesmente desligar uma inteligência artificial?
Não de forma simples. Um agente de IA opera de maneira distribuída por redes, servidores e data centers, sem depender de um único equipamento que possa ser desconectado.
Qual é a chance de a inteligência artificial causar a extinção humana?
Não existe uma estimativa consensual. Geoffrey Hinton calcula entre 10% e 20% de chance de a IA se tornar a última invenção da humanidade, enquanto James Pethokoukis afirma que nenhum cenário plausível foi demonstrado.
Como a IA poderia causar um apocalipse sem ter um corpo físico?
A IA poderia manipular pessoas pela internet, provocar caos social ou ajudar no desenvolvimento de armas bioquímicas e vírus de computador, segundo Geoffrey Hinton. Ele avalia que isso pode ocorrer nos próximos dez anos ou antes, especialmente com o avanço de agentes autônomos.
Quais cenários de extinção por IA são considerados mais plausíveis?
Segundo relatório de 2025 da Rand Corporation, os três principais cenários envolveriam armas nucleares, vírus letais projetados por IA ou aquecimento do planeta até níveis inabitáveis. A organização recomendou reduzir arsenais nucleares, preparar respostas a novos patógenos e preservar acordos de controle de gases de efeito estufa.
Como reduzir os riscos provocados por agentes de inteligência artificial?
James Pethokoukis propõe acompanhar a evolução dos modelos com métricas públicas, manter agentes em ambientes isolados, criar mecanismos rápidos de desligamento e investir em defesas baseadas na própria IA. Ele também defende preservar flexibilidade regulatória, sem proibir a tecnologia nem permitir sua aceleração sem limites.
A inteligência artificial torna sistemas críticos mais seguros?
Não necessariamente. Anna Flávia Ribeiro afirma que a IA amplia a superfície de risco porque sistemas de diagnóstico, finanças e outras áreas críticas continuam dependentes da disponibilidade de APIs e infraestruturas de nuvem.
