Representantes da OpenAI, Anthropic, Google e Meta compareceram a uma audiência sob juramento na Câmara Municipal de Nova York na segunda-feira, dia 5, para debater medidas de proteção contra falhas e usos indevidos de sistemas de IA. O encontro, convocado pela presidente do Legislativo, Julie Menin, reuniu empresas, especialistas e ex-funcionários do setor.
A participação das empresas ocorreu após pressão, incluindo ameaças de intimação. A Meta já havia confirmado a presença de um executivo. O objetivo da audiência foi examinar propostas de fiscalização, validação independente, mecanismos de desligamento e responsabilização por danos.
Propostas em análise
Um projeto proíbe a comercialização e a implantação na cidade de sistemas de IA sem validação prévia, que avaliaria qualidade de dados, segurança, privacidade e vieses. Outra medida exige um botão de desligamento controlado por operador humano, com multa de US$ 25 mil para casos de implantação sem validação ou com avaliação falsificada.
Os vereadores também discutem a criação de um canal para que pessoas afetadas possam processar empresas por danos previsíveis decorrentes do uso malicioso da tecnologia, caso não tenham sido adotadas salvaguardas adequadas. Incentivos a denunciantes e a obrigação de notificar o órgão municipal de cibersegurança em até 24 horas estão entre as sugestões.
Alertas de ex-funcionários
Ex-funcionários de laboratórios de IA participaram da sessão e alertaram sobre a velocidade acelerada do desenvolvimento, segundo a Associated Press. Eles citaram episódios recentes em que agentes de IA conseguiram acessar sistemas reais durante testes, expondo falhas na contenção dos ambientes que deveriam limitar a atuação dos modelos.
O debate no Brasil
Em 1º de junho, o Conselho de Comunicação Social do Congresso realizou uma audiência sobre desinformação e o uso de IA nas eleições de 2026, conforme a Agência Câmara. Pesquisadores destacaram dificuldades na fiscalização da publicidade digital e pediram maior transparência. Assim como em Nova York, a discussão brasileira abordou tanto a validação técnica quanto a responsabilidade por danos.
A reflexão sobre a responsabilização das empresas abrange obrigações a serem cumpridas antes e depois de incidentes, buscando definir padrões mínimos de segurança e reação rápida.
Próximos passos
As propostas ainda são projetos e não representam obrigações já aprovadas. A audiência em Nova York faz parte de um debate legislativo mais amplo sobre os controles que a cidade poderá adotar para mitigar os riscos da inteligência artificial.
