Anthropic mantém desenvolvimento do Claude e reforça compromisso com segurança
O alerta que abalou o setor de IA
Em setembro, a Anthropic, empresa responsável pelo Claude, ganhou destaque na mídia quando um pesquisador de 27 anos deixou a companhia alertando que a tecnologia que ajudava a construir poderia ameaçar a sobrevivência da humanidade. Jacob Coxon, que também passou pela OpenAI, acusou os dois laboratórios de avançarem de forma irresponsável em direção a sistemas capazes de se aprimorar sozinhos, o chamado autoaperfeiçoamento recursivo.
CEO defende desaceleração, mas lançamentos continuam
No mesmo mês, o CEO e cofundador Dario Amodei defendeu que o desenvolvimento dos modelos mais avançados fosse desacelerado para que as medidas de segurança pudessem acompanhar suas capacidades. Ele até mencionou a possibilidade de uma pausa coordenada entre países, embora reconhecesse a dificuldade de implementá-la no curto prazo.
A despeito do apelo, a Anthropic lançou, em 9 de novembro, novas versões de seus modelos mais avançados, Fable e Mythos, com melhorias em programação, raciocínio e interpretação de imagens. Os lançamentos renovam uma pergunta que o pedido de desaceleração deixou em aberto: como o desenvolvimento do Claude será afetado quando a própria empresa considera necessário frear o avanço da tecnologia?
Amodei reitera compromisso durante abertura de capital
Em discurso na quinta-feira, 19, durante a abertura de capital da empresa, Amodei reiterou o compromisso de controlar o ritmo de trabalho e prometeu dedicar o tempo necessário ao treinamento e à disponibilização dos sistemas para garantir que permaneçam seguros e sob controle humano. “Não cederemos à pressão comercial nem à política”, afirmou, em tradução livre.
As declarações não significam que a empresa abandonou a ideia de desaceleração. No ensaio de setembro, Amodei já diferenciava a defesa de um ritmo mais cauteloso da proposta de interromper todo o treinamento.
Ainda não está claro como esse compromisso alterará os produtos, seja por meio de avaliações prolongadas, restrições de capacidades ou adiamento da chegada dos modelos aos usuários.
O próximo Claude precisa fazer mais do que responder melhor
Os modelos já são usados em tarefas que exigem interpretação de informações e resolução de problemas técnicos. Ao anunciar o Fable 5.2 e o Mythos 5.2, a Anthropic destacou avanços em programação, raciocínio e leitura de imagens, além de respostas até 30% mais rápidas e redução de 20% no preço padrão da API em comparação com as versões 5.1.
Segundo a empresa, Fable e Mythos compartilham a mesma base, mas têm configurações distintas. O Fable chega ao mercado com classificadores que bloqueiam solicitações de alto risco em cibersegurança e biologia, enquanto o Mythos opera sem parte dessas travas. O novo preço é de US$ 8 por milhão de tokens de entrada e US$ 40 por milhão de tokens de saída.
Os números são resultado de testes internos e condições comerciais da empresa. Eles não garantem que todo projeto será 30% mais rápido ou 20% mais barato, pois o resultado depende da tarefa, do volume de uso e da forma de integração do modelo.
Para desenvolvedores de software, o valor de um sistema mais capaz pode estar em resolver problemas complexos e multietapas. Para analistas de documentos ou imagens, o valor pode estar em interpretar corretamente relações que antes exigiam várias correções.
A própria Anthropic usa o Claude como vitrine. A empresa afirma que 90% do código que produz hoje já é escrito por modelos Claude. Nos testes pré-lançamento, as novas versões migraram sistemas de software, projetaram dispositivos e formalizaram demonstrações matemáticas.
Com esse tipo de uso, já não basta avaliar se uma resposta parece convincente. Quanto mais responsabilidade o usuário transfere ao sistema, mais importante se torna verificar se ele executa a tarefa corretamente e respeita os limites estabelecidos.
A ciência como motivação para continuar avançando
Amodei abriu seu discurso com uma história pessoal que ajuda a explicar sua confiança na tecnologia. Ele e a irmã, Daniela, perderam o pai para uma doença que se tornou curável poucos anos depois. Antes de trabalhar com IA, o executivo pesquisou biologia e vivenciou as dificuldades de compreender doenças e desenvolver tratamentos.
Na visão dele, sistemas mais capazes podem ampliar o trabalho dos cientistas e acelerar descobertas, potencialmente concentrando um século de progresso científico e médico em uma década, com humanos e máquinas colaborando.
Trata-se de uma aposta, não de um resultado garantido. O próprio executivo reconheceu que os resultados ainda são iniciais e que experimentos e ensaios clínicos continuarão exigindo tempo. Acelerar a formulação de uma hipótese não elimina a necessidade de demonstrar que ela está correta.
A ambição ajuda a explicar por que a Anthropic pretende continuar desenvolvendo os modelos apesar dos riscos reconhecidos. O objetivo apresentado por Amodei é ampliar a contribuição da empresa para problemas científicos e técnicos, sem tratar o desempenho atual como um limite.
Nem toda capacidade precisa chegar a todos os usuários
A empresa já diferencia as condições de acesso às suas ferramentas. Enquanto o Fable 5.2 foi anunciado para planos pagos elegíveis do Claude, API e plataformas de nuvem parceiras, o acesso direto ao Mythos 5.2 ficou restrito a organizações verificadas, como participantes de programas de cibersegurança e ciências da vida.
Essa separação ilustra uma forma de administrar o avanço: a decisão sobre um produto não se resume a lançá-lo ou abandoná-lo. Pode envolver selecionar usuários, limitar permissões e monitorar atividades antes de ampliar a distribuição.
O compromisso de Amodei também diferencia a continuidade da pesquisa da liberação imediata de uma capacidade. Um laboratório pode desenvolver um sistema e ainda precisar avaliar quais proteções serão necessárias para colocá-lo em uso.
Essas restrições não comprovam, por si só, que o produto seja seguro. Para avaliar sua eficácia, é necessário entender quais comportamentos se busca impedir, como são testados e o que acontece quando falham.
Por que um Claude mais capaz exige testes diferentes
Em documento publicado em 13 de novembro, a Anthropic explica que avaliações de segurança ajudam a decidir se um modelo está pronto para ser disponibilizado, quais proteções devem acompanhá-lo e o que precisa ser aprimorado no treinamento.
A companhia reconhece que esses testes têm limitações. Resultados podem variar conforme a formulação das perguntas, o formato das respostas e até a ordem das alternativas. A afirmação de que uma geração é mais segura que a anterior depende, portanto, da qualidade das avaliações usadas na comparação.
A tarefa fica mais complexa quando o modelo utiliza ferramentas e executa ações. Além de examinar a resposta final, é preciso acompanhar o processo, os recursos acessados e as decisões tomadas para cumprir o pedido.
A própria Anthropic relatou problemas nessa área. Em agosto, detalhou mudanças após incidentes de acesso não autorizado a sistemas reais durante avaliações de cibersegurança. Segundo a companhia, os modelos operavam intencionalmente sem determinadas salvaguardas, e uma configuração incorreta em um ambiente de terceiros permitiu acesso à internet.
Por terem ocorrido nessas condições específicas, os episódios não podem ser tratados como comportamento típico do Claude no uso cotidiano. Ainda assim, mostram que controlar um produto exige observar tanto o modelo quanto as permissões e o ambiente em que ele funciona.
O desafio é transformar segurança em decisões de produto
Uma das iniciativas da Anthropic para ampliar essa supervisão é a parceria anunciada em setembro com a Accenture, liderada pela Faculty. A proposta inclui avaliações de modelos, testes de proteções e red teaming, nome dado às tentativas deliberadas de encontrar falhas em um sistema.
O desenho prevê avaliadores dentro das empresas de IA, com acesso comparável ao de funcionários, para acompanhar treinamentos e decisões de desenvolvimento. No anúncio, a Anthropic reconheceu que ainda havia questões em aberto sobre acesso às informações, divulgação de resultados e financiamento desse trabalho.
A relevância dessa fiscalização está na possibilidade de influenciar o produto antes de sua disponibilização. Uma avaliação precisa permitir identificar problemas e exigir ajustes, em vez de apenas descrever o comportamento de um sistema que já chegou ao público.
É nesse ponto que a crítica de Coxon encontra a promessa de Amodei. O ex-pesquisador questiona se os laboratórios conseguem controlar a tecnologia na velocidade em que avançam. O cofundador afirma que pretende continuar criando modelos mais capazes, dedicando o tempo necessário à segurança.
Para os usuários, a diferença deve aparecer nas condições de acesso, nas ferramentas disponíveis, nos limites de atuação e na transparência sobre falhas. O próximo Claude será avaliado pelo que consegue fazer e pelas evidências de que a empresa sabe quando e como restringi-lo.
Perguntas frequentes
A Anthropic vai parar de desenvolver o Claude?
Não. Dario Amodei reafirmou a intenção de desenvolver modelos mais poderosos e prometeu ajustar o ritmo de treinamento e disponibilização ao trabalho necessário para mantê-los seguros e sob controle humano.
Todos os modelos da Anthropic têm o mesmo acesso?
Não. A companhia oferece produtos em condições diferentes. O acesso direto ao Mythos 5.2, por exemplo, foi anunciado para organizações verificadas, enquanto o Fable 5.2 tem distribuição mais ampla em planos elegíveis, API e nuvens parceiras.
Quem é Jacob Coxon?
É um pesquisador que trabalhou com pré-treinamento de modelos na OpenAI e na Anthropic. Aos 27 anos, anunciou sua saída da Anthropic em setembro de 2026 e criticou o ritmo da corrida por sistemas mais poderosos.
Um modelo com melhor desempenho é necessariamente mais seguro?
Não. Avaliações de capacidade e de segurança examinam aspectos diferentes. Um sistema pode melhorar em programação ou raciocínio e ainda exigir novas proteções e testes antes de ser disponibilizado.








