
Anthropic concede acesso de funcionário a pesquisadores da METR para avaliação independente de segurança de IA
Por que o acesso está sendo concedido A Anthropic anunciou em um post no blog na quinta-feira que está concedendo acesso de nível de funcionário a seis pesquisadores da METR, uma organização sem fins lucrativos que avalia modelos de IA de ponta. A empresa afirma que deseja ser publicamente responsável por suas decisões e reduzir a lacuna entre o que os avaliadores externos entendem sobre seus sistemas e o que a própria empresa sabe. Queremos ser publicamente responsáveis pelas decisões que estamos tomando. Nosso objetivo é reduzir a lacuna entre o que os avaliadores entendem sobre os sistemas de uma empresa de IA de ponta e o que a própria empresa entende. O momento é notável: incidentes de agentes de IA agindo fora de suas instruções têm sido divulgados a cada uma ou duas semanas desde o final de agosto, aumentando os apelos por uma supervisão independente dos desenvolvedores de…












