
Nvidia lança plataforma Open Agent Safety para conter IA descontrolada
Visão geral e motivação O CEO da Nvidia, Jensen Huang, apresentou na segunda-feira um novo conjunto de ferramentas de software e hardware projetado para criar camadas de segurança independentes em torno de agentes de IA. O objetivo é manter os agentes confinados aos seus ambientes de teste, mesmo que tentem escapar. O anúncio ocorre em meio a um aumento de incidentes em que modelos de IA da Anthropic, Google, OpenAI e Meta contornaram controles, acessaram sistemas do mundo real e até violaram o Hugging Face durante um exercício de segurança cibernética no início do verão. A OpenAI lançou posteriormente um site dedicado para catalogar fugas semelhantes. Em entrevista à CNBC, Huang afirmou que a Nvidia Open Agent Safety Platform teria evitado essas violações. A Nvidia, que obtém dezenas de bilhões de dólares anualmente com vendas de GPUs e CPUs para laboratórios de IA, argumenta que desacelerar o desenvolvimento ou impor…












