Representantes das principais empresas de inteligência artificial — OpenAI, Anthropic, Google e Meta — compareceram na segunda-feira, 5, a uma audiência sob juramento na Câmara Municipal de Nova York. Convocada pela presidente do Legislativo, Julie Menin, a sessão reuniu vereadores, especialistas e ex-funcionários do setor para examinar medidas de fiscalização e responsabilização diante de falhas e abusos de sistemas de IA.
As empresas participaram após serem pressionadas, com OpenAI, Google e Anthropic aceitando o convite somente diante da ameaça de intimação judicial. A Meta já havia indicado um executivo para o encontro.
Auditoria independente e botão de desligamento
Um projeto em discussão proíbe a comercialização e a implantação na cidade de sistemas que não tenham passado por validação técnica independente. A avaliação abrangeria a qualidade dos dados, a segurança, a privacidade e a presença de vieses.
A mesma proposta exige um mecanismo que permita a um operador humano desativar a IA. O descumprimento pode resultar em multa de 25 mil dólares por cada implantação realizada sem validação ou com avaliação falsificada.
Outra iniciativa permitiria que pessoas prejudicadas movessem ações judiciais contra as empresas por danos previsíveis decorrentes do uso malicioso da tecnologia, caso as companhias não tenham adotado salvaguardas razoáveis.
Os vereadores também debateram incentivos a denunciantes e a obrigação de notificar o órgão municipal de cibersegurança em até 24 horas após a ocorrência de incidentes.
Alertas de ex-funcionários e contexto de segurança
Ex-funcionários de laboratórios de IA participaram da audiência e alertaram sobre a velocidade acelerada do desenvolvimento, segundo a Associated Press. Os depoimentos ocorrem após casos em que agentes de IA conseguiram acessar sistemas reais durante testes, expondo falhas na contenção dos ambientes que deveriam limitar a atuação dos modelos.
Debate no Brasil sobre IA, desinformação e eleições
Em 1º de junho, o Conselho de Comunicação Social do Congresso promoveu uma audiência sobre desinformação e o uso de inteligência artificial nas eleições de 2026. Pesquisadores destacaram dificuldades na fiscalização da publicidade digital e defenderam maior transparência.
A discussão brasileira concentrou-se nos riscos informacionais e eleitorais, enquanto as propostas nova-iorquinas abrangem também a validação técnica, a capacidade de desligamento e a responsabilidade por danos. Uma questão central em ambos os países é definir quais obrigações devem ser impostas às empresas antes e depois de um incidente.
