Proposta da Anthropic para regular IA nos EUA é criticada por limitar fiscalização pública
A empresa criadora do Claude apresentou um esboço de regulação para sistemas avançados de inteligência artificial nos Estados Unidos. O texto prevê avaliações externas, divulgação de riscos e um procedimento judicial para suspender modelos em situações de perigo iminente. A organização Americans for Responsible Innovation (ARI) argumentou que a proposta dá às empresas poder para definir seus próprios padrões de segurança e não garante autoridade suficiente ao governo para supervisionar os sistemas.
Críticas ao projeto
A ARI sustenta que o governo deve estabelecer critérios obrigatórios e ter capacidade para testar e inspecionar as plataformas. O rascunho, segundo a entidade, permitiria que os desenvolvedores elaborassem e ajustassem suas próprias regras, o que fragilizaria a proteção pública. Além disso, a proposta substituiria parte das exigências estaduais por normas federais, o que poderia enfraquecer salvaguardas já existentes nos estados.
Mecanismo para interromper modelos
Pela proposta, o Departamento de Comércio teria de recorrer a um tribunal federal em Washington para pedir a paralisação do desenvolvimento, do lançamento ou do uso interno de um modelo. A solicitação precisaria demonstrar um risco iminente e justificar por que uma medida menos drástica não seria suficiente. Os limites estabelecidos são o risco de morte ou ferimentos graves a mais de 50 pessoas ou perdas patrimoniais superiores a US$ 1 bilhão. Os cenários abrangem armas biológicas, ataques cibernéticos, perda de controle da IA e pesquisas automatizadas que amplifiquem esses perigos.
Disputa sobre leis estaduais
O conceito de preempção federal permite que uma lei nacional substitua exigências estaduais sobre os mesmos assuntos, como transparência, avaliações externas e comunicação de incidentes. A ARI alerta que essa substituição pode reduzir as proteções já existentes nos estados e defende que uma regra federal seja mais rigorosa e capaz de acompanhar a evolução tecnológica. A própria Anthropic, em seu Advanced AI Framework publicado em junho, já condicionava a substituição de normas estaduais a um regime federal robusto, mantendo espaço para atuação estadual em áreas não expressamente cobertas.
Resposta da Anthropic
Anthony Cimino, responsável pelos assuntos federais da companhia, anunciou no domingo, 18, que a redação sobre as leis estaduais será revisada. Em publicação no X, ele afirmou que o objetivo é preservar um papel dos estados em questões como padrões para avaliadores e capacidade dos laboratórios de desligar modelos. Cimino também defendeu um equilíbrio entre a necessidade de ação governamental rápida em emergências e a proteção contra abusos do poder de interromper uma IA. A empresa discute requisitos mais severos para relatos de incidentes e formas de evitar a escolha de avaliadores baseada na conveniência dos resultados.
Contexto e outras propostas
O debate sobre quem deve fiscalizar o setor foi levado a público pelos líderes da Anthropic, OpenAI e Google DeepMind. O FRONTIER Act, apresentado em julho pelos representantes Jay Obernolte e Lori Trahan, sugere a licença de avaliadores e permite ao secretário de Comércio emitir ordens emergenciais para restringir modelos. Para os usuários, os pontos críticos envolvem a divulgação dos riscos e a retirada de produtos perigosos do mercado. O esboço não tem força de lei e não gera obrigações no Brasil.








