As empresas Anthropic e Accenture anunciaram neste sábado, 19, que cada uma investirá pelo menos US$ 1 bilhão, somando US$ 2 bilhões, ao longo dos próximos cinco anos em iniciativas de segurança de inteligência artificial.
Equipe integrada avaliará modelos e realizará testes de ataque simulado
O acordo prevê a formação de um grupo de avaliadores integrados que trabalhará junto às equipes internas e aos parceiros de segurança da Anthropic. A função do grupo será examinar modelos de IA, executar testes de red teaming — que simulam possíveis ataques — e de alinhamento, além de verificar os mecanismos de segurança dos sistemas.
A Accenture montará uma equipe especializada em inteligência artificial, segurança e diferentes setores da economia para colaborar com a Anthropic.
‘A segurança exige tanto um profundo conhecimento técnico quanto uma compreensão clara de como a IA é utilizada no mundo real. A avaliação integrada é uma área emergente, e estamos entusiasmados com a parceria com a Anthropic para ajudar a acelerar o desenvolvimento de avaliadores integrados, algo que consideramos uma parte importante do cenário de segurança daqui para a frente’, disse Julie Sweet, presidente do conselho e CEO da Accenture.
Como parte da parceria, a Accenture também planeja aproveitar sua experiência em inteligência artificial e segurança com a aquisição da Faculty, empresa especializada em IA aplicada.
A Faculty realiza testes e avaliações de modelos para laboratórios de IA e desenvolve sistemas para setores como governo, defesa, saúde e infraestrutura.
Marc Warner, diretor de Tecnologia da Accenture e CEO da Faculty, defende que a segurança dos sistemas de IA seja considerada desde a fase inicial de desenvolvimento dos modelos.
‘Unir forças com a Anthropic para atuar como avaliadores integrados é exatamente o tipo de trabalho para o qual a Faculty foi criada – e, como parte da Accenture, temos a plataforma para realizá-lo em uma escala capaz de realmente transformar o setor’, afirma o executivo.
