Anthropic atualiza política de uso e proíbe abuso de modelos e interferência eleitoral
Novas proibições visam interações prejudiciais e desinformação
A Anthropic anunciou na quinta-feira que revisou sua política de uso, adicionando proibições explícitas a interferências eleitorais, ao desenvolvimento de software para armas, a aplicações de vigilância e, principalmente, a um veto contra o abuso verbal contínuo direcionado aos seus modelos de IA. A empresa esclareceu que a restrição ao diálogo abusivo se aplica a casos extremos e repetitivos de crueldade sem qualquer propósito legítimo.
Desde uma atualização em agosto, o Claude foi programado para encerrar conversas que se tornam persistentemente prejudiciais. A política revisada agora vai além, impedindo que os usuários continuem essas interações depois que o modelo sinaliza que as encerrará.
A política observa que a frustração comum do usuário, o humor sombrio criativo ou testes de pesquisa não acionam a nova regra, enfatizando que apenas a crueldade repetida e intencional é o alvo.
Contexto da mudança na política
O momento da alteração segue o contato da Anthropic com destacados estudiosos religiosos, durante o qual a empresa sugeriu em alguns momentos que o Claude poderia possuir consciência ou alma.
Medidas contra engano e perturbação eleitoral
Seções adicionais da política atualizada proíbem os usuários de lançar campanhas enganosas, como operar contas falsas ou criar veículos de notícias fictícios com a ajuda do Claude. Um segmento específico chamado “Não prejudique os processos democráticos” estabelece regras que vetam esforços para enganar eleitores ou interferir em eleições.
