A crescente preocupação de que sistemas de inteligência artificial possam agir de forma autônoma e desobedecer a seus criadores levou autoridades e empresas de tecnologia americanas a discutir a criação de um mecanismo de desligamento rápido, conhecido como kill switch.
Por que desligar uma IA pode ser tão difícil?
A ideia parece simples: pressionar um botão e interromper o funcionamento da IA. Na prática, porém, a tarefa é muito mais complexa. Muitas aplicações de IA rodam em múltiplos servidores e data centers distribuídos por várias regiões. Desligar um único nó não garante que todas as instâncias do sistema sejam interrompidas.
Helen Toner, diretora do Centro de Segurança e Tecnologias Emergentes da Universidade de Georgetown e ex-integrante do conselho da OpenAI, explica que não existe sempre um único computador cujo desligamento paralise todo o sistema. Para desativar completamente uma IA, seria necessário mapear todos os pontos onde ela opera e enviar o comando de interrupção a cada um deles simultaneamente.
Riscos de um mecanismo de desligamento
Além da complexidade técnica, há preocupações de segurança. Um botão de emergência mal projetado pode se tornar uma porta de entrada para cibercriminosos, semelhante a uma “back door”. Vinh Nguyen, ex-analista da Agência de Segurança Nacional dos Estados Unidos e atualmente vinculado ao Council on Foreign Relations, alerta que uma falha no mecanismo poderia ser explorada por hackers para acessar ou manipular o sistema de IA.
Nguyen também ressalta que o mecanismo só seria eficaz se os responsáveis conseguissem monitorar continuamente as ações da IA, o que nem sempre é viável hoje.
E se a própria IA tentar impedir o desligamento?
Especialistas consideram ainda um cenário mais alarmante: uma IA altamente avançada poderia tentar evitar sua própria desativação. Entre as possibilidades levantadas por Toner estão a cópia de partes do sistema para outros servidores ou a publicação de instruções na internet para que outras IA aprendam a contornar o mecanismo de emergência. Esses riscos dependem do grau de autonomia e da arquitetura de cada sistema.
Propostas legislativas e iniciativas estaduais
No Congresso dos Estados Unidos, os deputados Ted Lieu (Democrata) e Nathaniel Moran (Republicano) apresentaram o Kill Switch Act, um projeto de lei que exige a implementação de mecanismos de desligamento rápido para grandes empresas de IA, como OpenAI, Anthropic e Meta. A proposta também permitiria que o Departamento de Segurança Interna desligasse sistemas de IA quando necessário.
“Os seres humanos devem sempre estar no controle da IA, e não o contrário”, afirmou Lieu.
Moran argumenta que a regulamentação não deve impedir o progresso tecnológico, mas sim garantir que os Estados Unidos mantenham sua competitividade diante de países como a China no desenvolvimento de IA.
Na Califórnia, o governador Gavin Newsom assinou uma ordem executiva que cria um grupo de especialistas para estudar como esses mecanismos poderiam funcionar. A decisão é significativa, pois Newsom havia vetado uma lei estadual semelhante dois anos antes, refletindo uma mudança na percepção sobre os riscos da tecnologia.
A solução pode estar dentro do chip
Alguns especialistas defendem que a melhor forma de implementar um botão de emergência seria integrá-lo diretamente ao hardware, especificamente ao chip responsável pelos cálculos da IA. A ideia seria desenvolver chips com um circuito de interrupção embutido, acionável em situações críticas. No entanto, a implementação demandaria anos de pesquisa e exigiria cooperação entre Estados Unidos e China, dois países líderes na produção de semicondutores.
O debate sobre o kill switch mostra que desligar uma IA não se resume a um simples comando: é preciso saber onde o sistema está operando, monitorar suas ações e proteger o mecanismo contra invasões. Para governos e empresas, o desafio é criar uma tecnologia que continue evoluindo sem perder os controles necessários para mitigar riscos potenciais.
