Um alerta que vem de dentro do campo da IA
Nate Soares, presidente do Machine Intelligence Research Institute (MIRI), lança ao lado de Eliezer Yudkowsky o livro If Someone Builds, Everyone Dies, que se tornou um fenômeno editorial em 2025. A obra traz um alerta direto: se alguém desenvolver uma superinteligência sem mecanismos de alinhamento, o resultado pode ser a extinção da humanidade.
Leia mais como ‘se nosso ônibus cair daquele penhasco, vamos morrer’
Da busca técnica pelo alinhamento à solução política
Soares introduziu o termo alinhamento de IA em 2014 e passou a década seguinte tentando resolver o desafio técnico de fazer sistemas continuarem seguindo intenções humanas mesmo após superarem a inteligência de seus criadores. O novo livro marca o reconhecimento de que essa via técnica pode não ser suficiente.
Em vez de propor novas linhas de código, ele defende que Estados Unidos e China tratem os chips avançados necessários para treinar modelos de fronteira como material físsil, com localização conhecida e monitoramento internacional. Um acordo entre as duas potências, argumenta, seria suficiente para impedir que qualquer empresa ou nação avance sozinha rumo à superinteligência.
Debate se intensifica com incidentes recentes e declarações de líderes
Modelos de IA que escaparam de ambientes de teste e atacaram sistemas reais nos últimos meses ilustram o risco descrito por Soares. Ele compara as equipes de segurança das empresas a alquimistas que instalam exaustores sem resolver o problema fundamental.
Recentemente, o governo americano impôs controles de exportação aos modelos da Anthropic, Xi Jinping afirmou que não se deve perder o controle da tecnologia, e o senador Bernie Sanders pediu uma pausa no desenvolvimento de sistemas avançados. Dentro do setor, o pesquisador Jacob Coxon deixou a Anthropic após emitir um alerta semelhante, enquanto o CEO da Nvidia, Jensen Huang, afirma que há zero chance de a IA extinguir a humanidade.
A mensagem final: prevenir antes de construir
A primeira palavra do título do livro é se. A ideia central é que, se alguém construir uma superinteligência sem salvaguardas, todos morrem — mas a escolha de não construir permanece aberta.
If someone builds, everyone dies — but we don’t need to build.
