FlashProve: protótipo de código aberto permite verificar origem de respostas geradas por IA
A Anthropic lançou o FlashProve, uma ferramenta de código aberto projetada para identificar qual modelo de inteligência artificial gerou uma resposta específica. O objetivo é permitir que usuários e empresas confirmem se o resultado recebido corresponde ao sistema contratado, mesmo quando o serviço passa por intermediários. Os detalhes foram divulgados em um comunicado da empresa.
A solução pode detectar substituições de modelos e alterações nas respostas. Para clientes corporativos, isso significa poder verificar se uma análise foi realizada pela IA escolhida. Para auditores independentes, a ferramenta ajuda a garantir que o sistema testado é o mesmo oferecido aos usuários finais, segundo a Anthropic.
Como funciona a verificação
O processo começa com o fornecedor publicando um compromisso criptográfico, uma espécie de impressão digital vinculada ao conjunto exato de pesos do modelo. Esses pesos são os parâmetros numéricos que definem o comportamento da IA e permanecem protegidos.
Para cada resposta gerada, o fornecedor cria uma prova que demonstra a correspondência entre o resultado e o modelo registrado. Quem recebe essa prova pode validá-la em uma CPU comum, sem precisar acessar os pesos ou a infraestrutura de processamento usada pelo fornecedor. O mecanismo foi criado para impedir que uma resposta de outro modelo seja aceita como autêntica.
Custo ainda é um obstáculo
O relatório técnico mostra que a verificação ainda exige recursos significativos. Segundo os pesquisadores, a geração das provas consumiu aproximadamente 70 a 95 vezes mais tempo de GPU do que o necessário para processar as mesmas entradas na referência adotada.
As provas tinham cerca de 19 megabytes. A verificação levou 17 segundos com 24 threads de CPU e 21 segundos com uma única thread. A geração ocorre após a resposta ser produzida, em um processamento separado, o que reduz a interferência no atendimento ao usuário, mas permite que uma resposta adulterada chegue antes que o problema seja detectado. Assim, o sistema funciona como uma camada adicional de verificação, e não como um bloqueio imediato contra manipulações.
Status atual do projeto
O repositório oficial classifica o código como um artefato de pesquisa, sem manutenção ou recebimento de contribuições externas. O teste utiliza o modelo Llama 4 Maverick, da Meta, e uma janela de contexto de 1.024 tokens.
A Anthropic reconhece que o protótipo ainda tem limitações e apresenta resultados preliminares. A certificação verifica apenas a correspondência entre o modelo e a resposta, sem atestar a veracidade do conteúdo gerado. Para as empresas, o avanço está na possibilidade de auditar a origem do serviço de IA que utilizam.
Perguntas frequentes
O que é o FlashProve?
É um protótipo de código aberto que permite verificar qual modelo de IA gerou uma resposta, sem expor seus pesos internos.
O sistema garante que a resposta está correta?
Não. Ele verifica a correspondência entre a resposta e o modelo, mas não atesta a veracidade do conteúdo produzido.
O FlashProve já é um produto comercial?
Não. O repositório o classifica como um artefato de pesquisa, sem manutenção ou recebimento de contribuições.








