Um sistema autônomo de inteligência artificial pode receber uma tarefa, buscar dados, definir os próximos passos e executar ações sem intervenção humana a cada etapa. No entanto, se algo sai errado, a autonomia da tecnologia não elimina a necessidade de responsabilização. A questão passa a ser identificar quem estabeleceu as regras, quem colocou o agente em operação e quais mecanismos existiam para monitorar seu comportamento.
A responsabilidade não recai exclusivamente sobre a IA
Quando um agente toma uma decisão incorreta, a análise tende a voltar para as pessoas e organizações envolvidas em seu desenvolvimento e uso. O fornecedor pode ter obrigações relacionadas ao funcionamento e à segurança da tecnologia. Já a empresa que utiliza o agente pode responder pela forma como o sistema foi configurado, pelo contexto em que opera e pela supervisão adotada.
A União Europeia já estabelece essa divisão para sistemas considerados de alto risco. O AI Act prevê obrigações para fornecedores e responsáveis pela implantação, incluindo monitoramento, documentação, rastreabilidade e supervisão humana. Nesses casos, a pessoa ou equipe responsável pela supervisão precisa ter condições de acompanhar a operação e agir diante de riscos identificados. A apuração depende do sistema utilizado, da atividade envolvida, das regras aplicáveis e das circunstâncias do erro.
O problema começa antes da decisão errada
Uma parte importante da responsabilidade pode estar na maneira como o agente foi projetado e implantado. Se uma empresa permite que uma IA aprove pedidos, altere registros ou envie comunicações externas, por exemplo, precisa estabelecer limites para essas ações. Também é essencial saber quais registros foram mantidos. Sem histórico das instruções recebidas, decisões tomadas e ações executadas, pode ser difícil reconstruir o que aconteceu depois de um incidente.
A rastreabilidade aparece justamente por isso em regras voltadas a sistemas de maior risco. No AI Act, por exemplo, registros de atividade fazem parte das exigências destinadas a permitir o acompanhamento dos resultados.
Quem usa o sistema também precisa controlar seu funcionamento
A ideia de que “a IA decidiu sozinha” pode esconder uma etapa anterior: alguém decidiu que aquele agente teria permissão para agir sozinho. Por isso, a governança passa a envolver perguntas concretas. Quais tarefas podem ser executadas sem aprovação? Quando uma pessoa precisa intervir? Que tipo de decisão deve ser bloqueada? Quem recebe um alerta quando o agente foge do comportamento esperado?
No Brasil, o debate ainda está em construção. Em 2026, projetos apresentados na Câmara passaram a tratar especificamente de temas como responsabilidade por sistemas autônomos, governança de agentes de IA e responsabilidade por sistemas de alto impacto. Essas propostas ainda fazem parte do processo legislativo e não devem ser confundidas com regras já em vigor.
Autonomia não significa ausência de responsáveis
Para as empresas, o avanço dos agentes muda a pergunta sobre o uso da IA. Já não basta avaliar se a tecnologia consegue realizar uma tarefa; também é necessário definir o que acontece quando ela erra. Quanto maior a autonomia concedida, maior tende a ser a importância de limites, registros, mecanismos de interrupção e supervisão. A tecnologia pode executar a ação sozinha, mas a responsabilidade continua sendo uma questão humana, organizacional e, conforme o caso, jurídica.
