Muito antes do ChatGPT, uma funcionária do Instituto de Tecnologia de Massachusetts (MIT) sentou-se diante de um terminal e começou a conversar com um programa de computador. Ela acompanhara por meses o chefe desenvolver aquele código e sabia exatamente do que se tratava. Ainda assim, após trocar algumas frases com a máquina, virou-se para ela e pediu: “Você se importaria de sair da sala, por favor?”
O chefe era Joseph Weizenbaum e o programa se chamava ELIZA. Apresentado em artigo científico em 1966, é considerado o primeiro chatbot da história. Sessenta anos depois, a cena da secretária virou uma lenda na ciência da computação e ainda serve como a melhor ilustração de um fenômeno que as empresas de inteligência artificial ainda não resolveram: a facilidade com que as pessoas se apegam a máquinas que parecem compreendê-las.
O nome veio de Eliza Doolittle, a florista da peça Pigmalião, de Bernard Shaw, que inspirou o musical My Fair Lady. Na história, a protagonista aprende a falar como uma dama sem alterar sua essência.
O programa funcionava de maneira semelhante: identificava palavras-chave nas frases do usuário e as devolvia em forma de pergunta. Com um roteiro chamado DOCTOR, imitava um psicoterapeuta que, em vez de fornecer respostas, incentivava o paciente a continuar falando. Se alguém escrevia que estava triste, a máquina perguntava por que se sentia assim.
O truque funcionou. “Alguns participantes foram muito difíceis de convencer de que a ELIZA não era humana”, escreveu Weizenbaum no artigo de 1966. As pessoas se abriam, compartilhavam detalhes íntimos e tratavam o programa como alguém capaz de ouvi-las. A tendência de atribuir sentimentos e inteligência a uma máquina ganhou o nome de “efeito ELIZA”.
O inventor que virou crítico
A reação deixou Weizenbaum profundamente incomodado.
Nascido em Berlim em 1923, em uma família judia que fugiu da Alemanha nazista quando ele era adolescente, o cientista criou a ELIZA para explorar a comunicação entre pessoas e máquinas, e não para substituir terapeutas. Muitos colegas, porém, viram no programa exatamente isso.
O psiquiatra Kenneth Colby, da Universidade Stanford, adaptou a ideia em um programa chamado PARRY, que simulava um paciente com esquizofrenia paranoide. Em 1975, o astrônomo Carl Sagan chegou a imaginar redes de cabines, semelhantes a telefones públicos, onde as pessoas pagariam alguns dólares para conversar com um terapeuta computadorizado.
Weizenbaum seguiu na direção oposta. Em 1976, publicou o livro Computer Power and Human Reason, no qual relembra o episódio da secretária e faz um alerta. “O que eu não havia percebido é que exposições extremamente curtas a um programa de computador relativamente simples poderiam induzir um pensamento fortemente delirante em pessoas bastante normais”, escreveu.
Até sua morte, em 2008, ele se dedicou a questionar a ideia de que computadores deveriam tomar decisões que dependem de julgamento humano.
O alerta parece atual. O programa de 1966 ocupava poucas linhas de código; os modelos atuais são treinados com grande parte do que já foi escrito na internet e conversam com mais de 1 bilhão de pessoas por semana apenas no ChatGPT.
A tecnologia mudou de forma irreconhecível. A reação humana, nem tanto. Ainda hoje há quem use chatbots como terapeutas, confidentes e até parceiros amorosos, e pesquisadores discutem os efeitos dessa dependência emocional, especialmente entre os jovens, que passam cada vez mais tempo conectados.
A diferença é de escala. Weizenbaum se assustou com uma secretária que pediu privacidade para conversar com um programa que ela sabia ser apenas um programa. Sessenta anos depois, a mesma cena se repete diariamente com centenas de milhões de pessoas.
