De CTO da IBM a fundador de uma startup contra vieses
Calvin Lawrence, ex‑CTO de inteligência artificial responsável na IBM, deixou a empresa após 25 anos de carreira — incluindo quatro anos no conselho de ética em IA — para criar a IntegrityFirst.ai em 2025. A nova empresa oferece a plataforma XTegrity, projetada para identificar danos potenciais de sistemas de IA, testar riscos, medir exposição financeira e de negócios, auditar modelos em operação e estabelecer governança contínua.
Por que documentar políticas não basta
Lawrence explica que, durante seu tempo na IBM, as organizações já possuíam muitos princípios e frameworks, mas careciam de ferramentas práticas para mostrar onde um modelo pode causar prejuízo e o que está sendo feito a respeito. A IntegrityFirst.ai preenche essa lacuna ao permitir que empresas encontrem, testem e corrijam problemas concretos, em vez de apenas produzir documentos.
Quando a precisão não significa justiça
Um exemplo marcante citado por Lawrence envolve um sistema usado para prever reincidência criminal. O modelo utilizava o número de prisões anteriores como indicador. Embora o dado pareça objetivo, ele reflete padrões de policiamento desproporcionais: comunidades mais vigiadas acumulam mais registros, o que leva o algoritmo a classificá-las novamente como áreas de risco. Nesse caso, o viés não é uma falha do código, mas a transformação matemática de desigualdades históricas em decisões futuras.
É preciso perguntar: preciso para quem? Errado para quem? E quem paga o preço quando o modelo erra?
Testes de viés precisam ir além de métricas globais
Lawrence alerta que declarar que um sistema foi “testado contra viés” não tem valor se não forem especificados quais grupos foram examinados, com que dados e quais foram as taxas de falso positivo e falso negativo por grupo. Ele recomenda analisar resultados separados por raça, gênero, idade e outras características relevantes, e garantir que ações corretivas sejam tomadas quando disparidades são identificadas.
Regulação ainda está atrasada em relação à adoção
Na Europa, partes significativas do AI Act entraram em vigor em 2 de agosto de 2026, impondo obrigações de transparência e requisitos para modelos de propósito geral. Nos Estados Unidos, a ausência de uma lei federal abrangente sobre IA deixa um vácuo regulatório, enquanto no Brasil o Projeto de Lei 2338/2023 avança no Congresso. Em todos os casos, a velocidade de implantação de sistemas de IA supera a capacidade de criação de normas, o que exige que as próprias empresas assumam a responsabilidade de governar suas tecnologias antes que reguladores intervenham.
Empoderando a próxima geração de criadores
Além do trabalho técnico, Lawrence fundou a AI 4 Black Kids, iniciativa que busca ensinar crianças negras não apenas a usar IA, mas a se tornarem autoras e questionadoras da tecnologia. A ideia é que elas aprendam a programar, a pensar criticamente sobre decisões automatizadas e a considerar o empreendedorismo como caminho para a autonomia.
Perspectiva para o futuro
Lawrence se diz esperançoso, mas não confortável. O debate sobre vieses e responsabilização avançou, mas o ritmo de evolução da IA, especialmente com modelos generativos e autônomos, exige governança ágil e contínua. A mensagem central é que a proteção humana deve acompanhar o progresso tecnológico, e não ficar para trás.
