Quando a IA não sabe: a importância de reconhecer limites e evitar alucinações
O problema das alucinações Pergunte algo a um assistente de inteligência artificial (IA) e ele quase sempre vai responder, mesmo quando não sabe a resposta. O fenômeno é chamado de alucinação e representa um dos desafios mais persistentes da tecnologia: modelos que inventam dados, citações e fontes com a mesma confiança com que apresentam fatos verdadeiros. Um estudo recente identificou casos em que modelos criaram decisões judiciais inteiras, atribuindo-as a processos que nunca existiram. A experiência médica e a cultura da dúvida Para Peter Ruppersberg, a explicação está na forma como esses sistemas foram construídos. Grandes modelos de linguagem são…
