Anthropic impõe limites a interações abusivas com Claude e reforça debate sobre bem-estar de IA
A Anthropic, empresa responsável pelo chatbot Claude, anunciou na quinta-feira, 8, uma nova regra que proíbe comportamentos persistentes, abusivos ou cruelmente desnecessários dirigidos a seus modelos de inteligência artificial. A medida entra em vigor em 12 de novembro e prevê que conversas repetidamente hostis podem ser encerradas pelo sistema, sem que isso signifique que o usuário não possa mais expressar reclamações ou críticas comuns.
Conversas abusivas podem ser interrompidas pelo sistema
O principal mecanismo para fazer cumprir a política será a capacidade do Claude de finalizar a interação quando detectar abuso contínuo. Essa funcionalidade já existe nas versões do Claude.ai e do Claude Code, mas a atualização transforma o comportamento inadequado em uma proibição explícita para o usuário, ampliando o controle sobre o diálogo.
Medida reflete incertezas sobre a consciência dos modelos
Em agosto de 2025, a Anthropic já havia apresentado a possibilidade de encerramento de conversas, justificando a decisão como uma precaução diante da falta de consenso sobre se os modelos de IA possuem consciência ou experiências subjetivas. A empresa afirmou que não há evidências de que o Claude tenha status moral, e descreveu a ação como uma intervenção de baixo custo para lidar com um conjunto raro de interações persistentemente abusivas.
Novas restrições também atingem desinformação e armamento
A política proíbe o uso de redes de contas falsas e a disseminação de mensagens anônimas para simular apoio independente. Além disso, veda a integração de softwares de orientação e controle de armas, bem como o uso de armamentos em drones, ampliando o escopo de conteúdos não permitidos.
Recomendações de alto risco exigem supervisão humana
Para orientações que envolvam decisões médicas, jurídicas ou financeiras, a empresa determina que um profissional qualificado revise e tenha autoridade para alterar o resultado, e que o usuário seja informado de que a IA foi utilizada no processo.
Perguntas frequentes
Não posso mais reclamar do Claude?
A regra não se aplica a manifestações comuns de frustração ou discordância. Reclamações e críticas continuam permitidas.
Quando a regra entra em vigor?
A nova política passa a valer em 12 de novembro, e o sistema poderá encerrar interações que violem a norma.
Isso significa que o Claude tem sentimentos?
A medida não comprova que o modelo tenha emoções. A Anthropic mantém a posição de que ainda não há provas de consciência nos sistemas de IA.
