O que é model drift?
Uma inteligência artificial pode apresentar bons resultados em testes, mas meses depois suas respostas ou previsões podem se tornar menos precisas. Esse fenômeno é conhecido como model drift, ou deriva de modelo.
O problema não significa que o algoritmo mudou por si só. Na maioria dos casos, o que se altera é o contexto em que ele opera. Dados, comportamento dos usuários, padrões de consumo e até as relações entre determinadas informações podem se transformar ao longo do tempo.
Para profissionais que trabalham com IA, entender esses sinais ajuda a evitar que uma ferramenta continue sendo usada com base em um desempenho que já não corresponde à realidade.
A deriva de modelo ocorre quando o desempenho de um sistema de inteligência artificial se deteriora porque as condições observadas em produção deixam de corresponder às condições existentes durante seu desenvolvimento ou treinamento. O NIST define a deriva como uma situação em que sistemas de IA podem deixar de atender às premissas originais conforme o ambiente evolui.
Um exemplo simples é um sistema usado para prever demanda. Se ele foi treinado com padrões históricos de compra, uma mudança repentina no comportamento dos consumidores pode fazer suas previsões perderem precisão.
Existem diferentes formas de deriva. Uma delas é o data drift, quando a distribuição dos dados de entrada muda. Outra é o concept drift, quando muda a relação entre os dados de entrada e o resultado que o modelo tenta prever.
Por que janeiro pode ser diferente de agosto?
Imagine uma empresa que utiliza IA para classificar currículos. O sistema foi treinado com determinados cargos, termos e perfis profissionais.
Meses depois, novas profissões surgem, competências passam a ser mais valorizadas e os candidatos começam a descrever suas experiências de outra maneira. O modelo continua funcionando, mas pode interpretar os dados com menor precisão.
Situações semelhantes podem ocorrer com sistemas de previsão de vendas, detecção de fraude, recomendação de produtos e outras aplicações profissionais.
No caso da IA generativa, o acompanhamento também pode envolver a qualidade das respostas, a relevância, a consistência, a frequência de alucinações e mudanças no comportamento do sistema. A IBM recomenda observar esses indicadores em aplicações de IA generativa.
Como identificar sinais de model drift?
O primeiro passo é estabelecer uma linha de base. Antes de colocar um modelo em produção, é preciso registrar como ele se comporta em condições consideradas adequadas. Sem essa referência, fica mais difícil determinar quando houve deterioração.
Na prática, o monitoramento pode observar:
- mudanças na distribuição dos dados;
- queda na precisão das previsões;
- aumento de erros;
- alterações na qualidade das respostas;
- mudanças de latência ou consumo de recursos;
- diferença entre resultados esperados e resultados observados.
O acompanhamento não precisa esperar uma falha evidente. O NIST recomenda monitorar o comportamento dos sistemas durante a operação e comparar métricas de produção com aquelas observadas antes da implantação.
O que fazer quando o desempenho cai?
Detectar o problema é apenas uma etapa. A equipe precisa investigar onde ocorreu a mudança antes de decidir como agir.
Em alguns casos, a causa está nos dados. Em outros, pode estar no próprio modelo, em uma alteração na infraestrutura ou no modo como as pessoas utilizam o sistema.
Dependendo do diagnóstico, as alternativas incluem atualizar os dados de treinamento, recalibrar ou retreinar o modelo, alterar métricas de acompanhamento ou revisar o próprio sistema. A IBM recomenda monitoramento contínuo, análise da causa e atualização dos modelos quando necessário.
O tema também ganhou atenção institucional. Em março de 2026, o NIST publicou um relatório sobre os desafios do monitoramento de sistemas de IA em produção e apontou a detecção de degradação e drift entre os problemas ainda enfrentados pelas organizações.
