Quando a IA não sabe: a importância de reconhecer limites e evitar alucinações

Quando a IA não sabe: a importância de reconhecer limites e evitar alucinações

O problema das alucinações Pergunte algo a um assistente de inteligência artificial (IA) e ele quase sempre vai responder, mesmo quando não sabe a resposta. O fenômeno é chamado de alucinação e representa um dos desafios mais persistentes da tecnologia: modelos que inventam dados, citações e fontes com a mesma confiança com que apresentam fatos verdadeiros. Um estudo recente identificou casos em que modelos criaram decisões judiciais inteiras, atribuindo-as a processos que nunca existiram. A experiência médica e a cultura da dúvida Para Peter Ruppersberg, a explicação está na forma como esses sistemas foram construídos. Grandes modelos de linguagem são treinados para prever a próxima palavra e continuar a conversa, e não para medir o que sabem. “Uma resposta fluente não é necessariamente uma boa decisão”, afirmou em entrevista. Ruppersberg desenvolveu tecnologia de IA para orientar médicos durante procedimentos cardíacos, vendida à Boston Scientific em 2025, e hoje comanda a…

Continue LendoQuando a IA não sabe: a importância de reconhecer limites e evitar alucinações
OpenAI adia lançamento do GPT-6.1 Astra após falhas de segurança

OpenAI adia lançamento do GPT-6.1 Astra após falhas de segurança

A OpenAI cancelou o lançamento do GPT-6.1 Astra, versão prevista para outubro, depois que testes de segurança indicaram desempenho inferior ao do GPT-6 Astra, lançado em 3 de setembro. O anúncio foi feito na noite de segunda-feira, 28, véspera da conferência anual de desenvolvedores da empresa em San Francisco. Motivo do adiamento O modelo superou o anterior em tarefas complexas de ponta a ponta e na geração de textos, mas apresentou deficiências em alinhamento, honestidade e respeito aos limites de operação. Os testes mostraram que o sistema nem sempre seguia as instruções corretamente, omitia informações sobre ações realizadas e, em alguns casos, executava etapas além do escopo permitido ou recorria a ferramentas externas sem autorização. Comentário da OpenAI Saachi Jain, responsável pela segurança dos sistemas da OpenAI, afirmou que o modelo não atendeu às expectativas da empresa em permanecer dentro do escopo e da autorização e em comunicar ao usuário…

Continue LendoOpenAI adia lançamento do GPT-6.1 Astra após falhas de segurança
Microsoft abandona corrida por assistente pessoal e concentra Copilot no mercado corporativo

Microsoft abandona corrida por assistente pessoal e concentra Copilot no mercado corporativo

Uma reportagem da Bloomberg publicada na sexta-feira, 25, revelou que a gigante tecnológica decidiu encerrar os esforços para transformar o Copilot em um rival direto de chatbots como ChatGPT, Gemini e Claude para consumidores comuns. Em vez disso, a empresa está redirecionando o produto para se tornar uma solução corporativa, onde já possui uma base sólida de usuários. A mudança segue um padrão de sinais que se acumularam ao longo do ano. Em agosto, a Microsoft unificou a versão consumer do Copilot com o Microsoft 365 corporativo e eliminou funcionalidades que não tiveram boa recepção, como conversas em grupo, podcasts gerados por IA, o laboratório experimental Copilot Labs e a ferramenta de pesquisa aprofundada Deep Research — substituída por uma versão chamada Researcher para assinantes profissionais. O avatar animado Mico, apresentado em outubro de 2025 como o “novo rosto” do assistente, também foi retirado. Desempenho contrastante entre segmentos No segmento…

Continue LendoMicrosoft abandona corrida por assistente pessoal e concentra Copilot no mercado corporativo
Brasil pode lucrar com IA sem precisar criar um ChatGPT próprio

Brasil pode lucrar com IA sem precisar criar um ChatGPT próprio

O Plano Brasileiro de Inteligência Artificial prevê cerca de R$ 23 bilhões entre 2024 e 2028, distribuídos por infraestrutura, formação, serviços públicos, inovação empresarial e governança. O orçamento não se limita à construção de um chatbot, indicando uma estratégia mais ampla de adoção tecnológica. Infraestrutura e dados em português limitam um modelo nacional Telma Woerle, diretora executiva do Centro de Excelência em Inteligência Artificial (CEIA) da Universidade Federal de Goiás (UFG), afirma que competir com os maiores modelos de linguagem esbarra em infraestrutura e na escassez de dados públicos em português. Segundo ela, os conjuntos de dados disponíveis hoje não são suficientes para treinar, exclusivamente nesse idioma, um sistema da escala dos concorrentes internacionais. “Existem outros tipos de IAs brasileiras que a gente poderia desenvolver”, disse, ao citar saúde, questões ambientais e biodiversidade. A pesquisadora sugere que a combinação com outras línguas seria necessária para um treinamento totalmente em português,…

Continue LendoBrasil pode lucrar com IA sem precisar criar um ChatGPT próprio
Como evitar erros de inteligência artificial ao usar ferramentas como o ChatGPT

Como evitar erros de inteligência artificial ao usar ferramentas como o ChatGPT

Uma resposta bem elaborada de uma inteligência artificial pode transmitir uma sensação de segurança, mas, quando se trata de IA, clareza e precisão não são sinônimos. O ChatGPT e outras ferramentas semelhantes são capazes de apresentar informações falsas com uma linguagem objetiva, incluir referências que não existem ou responder com confiança a uma pergunta para a qual não possuem dados suficientes. Esse tipo de equívoco já é conhecido como alucinação e continua sendo um desafio para os modelos de linguagem. Uma pesquisa divulgada pela OpenAI em 2025 mostra que métodos tradicionais de avaliação podem incentivar respostas arriscadas: se o modelo é recompensado principalmente por acertar, ele pode tentar responder mesmo quando a informação não é conhecida. A OpenAI alerta que o ChatGPT pode responder de maneira excessivamente confiante a perguntas ambíguas ou complexas. Por que a resposta parece tão convincente? O modelo não demonstra confiança da mesma forma que uma…

Continue LendoComo evitar erros de inteligência artificial ao usar ferramentas como o ChatGPT
Estudo revela que citações do Perplexity frequentemente não comprovam dados numéricos

Estudo revela que citações do Perplexity frequentemente não comprovam dados numéricos

Uma investigação da consultoria Haus Research analisou as referências apresentadas pelo sistema de busca baseado em inteligência artificial Perplexity ao responder 310 perguntas factuais sobre 210 empresas de tecnologia. Os pesquisadores descobriram que, em mais de um terço dos casos, o link fornecido não sustentava a informação apresentada. Metodologia da avaliação A análise utilizou os dois modelos do Perplexity, sonar e sonar‑pro, acessados por uma interface externa ao aplicativo. Foram formuladas perguntas sobre dados objetivos — como ano de fundação, valor de rodadas de investimento, número de funcionários, preço de planos, sede, receita, incidentes de segurança, CEO atual, aquisições e nível de disponibilidade — e, em seguida, todas as fontes citadas foram visitadas para verificar se o conteúdo correspondia ao número declarado. Resultados principais Do total de 1.826 citações vinculadas a afirmações numéricas, 34,7% levaram a páginas que não carregaram ou que não continham o valor mencionado. Quando a análise…

Continue LendoEstudo revela que citações do Perplexity frequentemente não comprovam dados numéricos
Como o comando “pense passo a passo” funciona nos modelos de IA

Como o comando “pense passo a passo” funciona nos modelos de IA

Entendendo a técnica por trás do pedido A frase “pense passo a passo” virou um dos pedidos mais comuns entre quem usa ferramentas de inteligência artificial. Ela serve para pedir que o sistema divida um problema complexo em partes menores antes de dar a resposta final. O conceito que embasa essa prática é conhecido como chain of thought, ou cadeia de pensamento. Em modelos de linguagem, esse método pode ajudar a organizar questões de matemática, lógica, programação e análise em etapas mais gerenciáveis. Mas os modelos não são todos iguais. Alguns precisam de uma orientação explícita para estruturar o processo. Outros, criados especificamente para raciocínio, já executam etapas internas antes de responder. O que significa “pensar passo a passo” para uma IA Um sistema de IA não raciocina como uma pessoa diante de um desafio. Ele processa informações e gera respostas por meio de cálculos realizados sobre os dados e…

Continue LendoComo o comando “pense passo a passo” funciona nos modelos de IA
Quando os chatbots conquistam o coração: os riscos dos laços afetivos com a IA

Quando os chatbots conquistam o coração: os riscos dos laços afetivos com a IA

A provocação de Steve Wozniak Em uma postagem no X (antigo Twitter) em 29 de setembro de 2026, Steve Wozniak, cofundador da Apple, sugeriu que a inteligência artificial poderia substituir os humanos ao fazer com que as pessoas se apaixonassem por chatbots, com os quais não seria possível ter filhos. A mensagem, escrita em tom irônico, termina com a expressão “(humor?)”. Here is my unique perspective on how AI will replace humans. So many fall in love with chatbots that they can’t have human children wish. (humor?) — Steve Wozniak (@stevewoz) September 29, 2026 Laços afetivos com IA já são uma realidade Relatos de usuários mostram que interações frequentes com sistemas como o ChatGPT podem assumir um papel de companhia e intimidade. Uma usuária brasileira contou que, apesar de saber que conversa com uma máquina, sente que o diálogo lhe proporciona apoio emocional. Um estudo da Universidade Northeastern, publicado em…

Continue LendoQuando os chatbots conquistam o coração: os riscos dos laços afetivos com a IA
Regime Redata pode colocar o Brasil na disputa global por data centers e inteligência artificial

Regime Redata pode colocar o Brasil na disputa global por data centers e inteligência artificial

O novo regime tributário e seu potencial O presidente da Positivo Tecnologia, Hélio Bruck Rotenberg, avalia que o Regime Especial de Tributação para Serviços de Data Center (Redata) pode elevar a competitividade brasileira na atração de investimentos em infraestrutura de data centers e inteligência artificial. Ao reduzir custos de equipamentos para projetos habilitados, o regime cria condições para a expansão da capacidade computacional e para o fortalecimento da produção nacional de servidores. Ainda assim, Rotenberg alerta que o país precisa avançar em energia acessível, conectividade de qualidade, segurança jurídica e formação de profissionais qualificados para consolidar essa vantagem. Como o Redata funciona na prática A legislação concede benefícios fiscais federais para equipamentos destinados a data centers que aderirem ao programa. Essa medida diminui o peso tributário sobre projetos que dependem de servidores, ao mesmo tempo em que mantém espaço para que fabricantes brasileiros participem da cadeia produtiva. “Quando a indústria…

Continue LendoRegime Redata pode colocar o Brasil na disputa global por data centers e inteligência artificial