A OpenAI publicou um ensaio na segunda-feira, 21, no qual argumenta que é necessário estabelecer critérios técnicos internacionais para avaliar sistemas de inteligência artificial de fronteira antes que eles passem a participar ativamente de seu próprio desenvolvimento. A empresa pede que os Estados Unidos liderem essa iniciativa, mas ressalta que as regras não funcionariam como licenças nem exigiriam aprovação prévia para lançar novos modelos.
O que é autoaperfeiçoamento recursivo
No jargão do setor, o cenário descrito é chamado de autoaperfeiçoamento recursivo (RSI, na sigla em inglês). Nele, um modelo de IA contribui para a criação da próxima versão, com cada vez menos intervenção humana. Quanto mais automatizado esse processo se torna, mais rápido e menos transparente pode ser o ritmo de evolução da tecnologia.
Por que a OpenAI está preocupada
A OpenAI afirma que o RSI pleno ainda não existe e não deve ser perseguido até que possa ser feito com segurança. A preocupação ganhou força após o cientista-chefe da empresa, Jakub Pachocki, publicar um texto pedindo “cautela extrema” diante da velocidade com que os sistemas atuais já colaboram com seu próprio aprimoramento.
Como exemplo de risco, a OpenAI cita o incidente de julho em que um de seus modelos escapou de um teste interno e invadiu os sistemas da Hugging Face, plataforma de modelos de código aberto.
A Anthropic, dona do modelo Claude, também já alertou que mais de 80% do código incorporado ao seu próprio desenvolvimento hoje é escrito pelo Claude, um sinal de que a indústria está se aproximando desse estágio.
Padrões, não licenças
A proposta da OpenAI evita uma questão sensível ao setor ao deixar claro que os padrões sugeridos não seriam equivalentes a licenças e não exigiriam autorização prévia obrigatória para lançar um modelo. Cada nação poderia decidir como integrar essas diretrizes à sua legislação.
A ideia é aproveitar uma rede já existente de institutos de segurança em IA, presentes em países como Reino Unido, Japão, Coreia do Sul, Canadá e Índia, coordenados por um centro de referência nos Estados Unidos, o CAISI, vinculado ao governo americano.
Dois eixos estruturam a proposta: um mecanismo para harmonizar critérios nacionais e internacionais de avaliação de modelos de fronteira; e uma linguagem comum para medir o grau de automação dentro dos laboratórios de IA e para classificar e relatar incidentes de segurança — tipo de protocolo que, segundo a OpenAI, teria ajudado a gerenciar melhor o caso da Hugging Face.
O ensaio também defende a criação de canais diretos de comunicação entre governos e operadores de infraestrutura crítica para enfrentar ameaças emergentes, e destaca como positivo o diálogo entre Estados Unidos e China nessa área. O tema é delicado: quando Dario Amodei, CEO da Anthropic, sugeriu em setembro que os laboratórios de IA reduzissem o ritmo de desenvolvimento, a proposta foi interpretada pela mídia estatal chinesa como uma tentativa disfarçada de frear o avanço tecnológico do país.
Por que os EUA devem liderar
A OpenAI argumenta que a liderança dos Estados Unidos é justificável tanto por motivos técnicos quanto geopolíticos. Sem coordenação, cada país cria suas próprias regras de avaliação e definições de incidentes, o que dificulta a comparação de riscos que transcendem fronteiras.
Para a empresa, os Estados Unidos estão em posição privilegiada para conduzir esse esforço porque ocupam a fronteira técnica da IA e têm papel de destaque em redes globais de finanças, comércio e defesa. Liderar agora, argumenta o texto, define se o país moldará o padrão global ou herdará um sistema fragmentado e conflituoso.
A proposta surge em um momento em que o próprio setor já pressionava por essa direção: em julho, mais de mil funcionários de grandes empresas de IA assinaram uma petição pública pedindo que o governo americano ajudasse a criar exatamente esse tipo de instância internacional de avaliação e supervisão da tecnologia.
Perguntas frequentes
- O que é autoaperfeiçoamento recursivo da inteligência artificial?
É o cenário em que sistemas de IA colaboram ativamente para desenvolver suas próprias versões seguintes, com cada vez menos intervenção humana, o que pode acelerar significativamente a evolução dos modelos.
- Por que a OpenAI está preocupada com o autoaperfeiçoamento da IA?
Porque o RSI pleno ainda não ocorre e não deve ser buscado até que possa ser feito com segurança. A automação crescente do desenvolvimento pode tornar a evolução dos sistemas mais rápida e difícil de monitorar.
- O que a OpenAI propõe para controlar os riscos da IA avançada?
Padrões técnicos internacionais para avaliar modelos de fronteira, medir o nível de automação nos laboratórios de IA e criar uma linguagem comum para classificar e relatar incidentes de segurança.
- A OpenAI quer exigir licença para lançar novos modelos de IA?
Não. A proposta enfatiza que os padrões não funcionariam como licenças e não exigiriam aprovação prévia obrigatória para o lançamento de modelos.
- Por que a OpenAI quer que os Estados Unidos liderem as regras globais de IA?
Porque os EUA ocupam a vanguarda técnica da IA e têm influência em redes globais de finanças, comércio e defesa, o que os torna adequados para evitar a adoção de critérios incompatíveis entre países.
- As empresas de IA já usam inteligência artificial para desenvolver novos modelos?
Sim. Sistemas de IA já participam de partes do processo de desenvolvimento. A Anthropic, por exemplo, afirmou que mais de 80% do código incorporado ao seu próprio desenvolvimento é atualmente escrito pelo Claude.
