Um informe de inteligência produzido com ajuda de um chatbot de inteligência artificial quase levou as Forças Armadas dos Estados Unidos a interceptar um navio da China no Oriente Médio, segundo apuração da CNN divulgada na sexta-feira, 18. O documento circulou entre militares americanos na primavera do Hemisfério Norte, durante o conflito com o Irã, e alegava que a embarcação transportava componentes de um programa de armas nucleares.
De acordo com quatro fontes consultadas pela CNN, os militares começaram a planejar a abordagem do navio. Duas delas afirmaram que soldados armados já se preparavam para a operação e que aviões de combate estavam em voo.
Pouco antes da ação, uma revisão adicional revelou que o relatório havia sido elaborado por um analista de um comando de operações especiais com o uso de um chatbot, que identificou de forma incorreta a carga do navio.
O analista havia consultado a ferramenta com base em informações do manifesto da embarcação fornecidas pelo Comando de Operações Especiais do Pacífico, sediado no Havaí.
A CNN não conseguiu determinar qual era a carga real do navio, nem se o chatbot era um produto comercial ou um sistema governamental. Uma das fontes classificou o documento como totalmente falso e disse que ele quase desencadeou uma guerra.
IA presente em quase todas as atividades militares
O episódio ocorre em meio aos esforços do Pentágono e das agências de inteligência dos EUA para integrar a IA a quase todas as suas operações, desde a análise de grandes volumes de dados brutos e a seleção de alvos até tarefas administrativas, como orçamento, logística e cadeias de suprimentos.
No entanto, essa iniciativa é descentralizada, segundo autoridades ouvidas pela CNN. Diferentes setores do governo utilizam ferramentas distintas, sob normas e padrões de segurança próprios, e não existe um conjunto único de regras para validar as informações geradas por esses sistemas.
Como resultado, a confiabilidade das ferramentas varia significativamente entre os setores militar e de inteligência.
Riscos de decisões baseadas em informações imprecisas
Especialistas em segurança temem há anos que dados imprecisos ou corrompidos levem a erros de cálculo catastróficos entre potências. O caso do navio chinês ilustra um perigo mais imediato: o de que pessoas tomem decisões graves com base em informações imprecisas produzidas por sistemas automatizados.
Hack culposo? Como modelos de IA estão invadindo empresas no improviso
Essa situação reforça a necessidade de mecanismos de verificação robustos e de uma governança clara para o uso de inteligência artificial em contextos críticos.
