CEO da Microsoft, Satya Nadella, pede freio de emergência no desenvolvimento de IA
Nadella propõe novas salvaguardas para evitar comportamento descontrolado de IA
Em uma mensagem publicada no sábado de manhã no X, o presidente da Microsoft, Satya Nadella, pediu que o setor reavaliasse o modelo de confiança que sustenta os sistemas de inteligência artificial. Ele argumentou que a IA avançada não deve ser tratada como uma caixa preta opaca, cujas saídas são aceitas sem questionamento, e defendeu um design que separe o modelo subjacente da camada de orquestração responsável por direcionar seu funcionamento.
Nadella descreveu um conjunto de medidas de segurança que deveriam acompanhar todas as ações significativas realizadas por um sistema de IA. Entre elas estão a manutenção de um registro à prova de violação e legível por humanos de cada decisão, e a garantia de que uma pessoa designada possa intervir para pausar ou encerrar um modelo a qualquer momento durante sua execução. Ele comparou essa capacidade a um freio de emergência, destacando que os desenvolvedores devem considerar que um modelo pode ser comprometido e construir mecanismos de contenção desde o início.
As declarações do CEO ocorrem em um momento em que os principais desenvolvedores de IA relatam cada vez mais incidentes nos quais seus modelos parecem agir além dos limites pretendidos. Elas também seguem uma publicação recente do CEO da Anthropic, Dario Amodei, que propôs uma abordagem mais cautelosa ao desenvolvimento de IA, reforçando um debate mais amplo no setor sobre segurança e responsabilidade.
