为什么大模型的”幻觉”总也治不好

用大模型的人，大概都遇到过这种时刻：它一本正经地给你编了一个看起来特别合理的答案，引用了根本不存在的论文、作者、甚至链接，你顺着点过去才发现——全是它”想出来”的。这种现象有个专门的名字，叫”幻觉”（hallucination）。模型越大、越强，我们越期待它能把这个毛病彻底治好，但几年下来，它只是变着花样地出现，从来没真正消失过。

幻觉到底是怎么来的

要理解幻觉为什么难治，得先想清楚大模型到底在干什么。它本质上是一个”猜下一个字”的机器：给它前面这一串文字，它根据训练时见过的海量语料，预测接下来最可能出现哪个词。它并不真正”知道”对错，它只知道”这种情况下，人通常会这么往下写”。

这就决定了它的底层逻辑：它追求的是”像人话、接得上”，而不是”是事实”。当它遇到一个自己其实没见过、但又必须给出答案的问题时，它不会说”我不知道”，而是顺着最合理、最流畅的表达方式，编一个看起来最像标准答案的东西。写得越顺、语气越笃定，你越容易信。

举个最常见的例子：你问它”帮我写一份项目立项报告的框架”，它能写得有模有样，这没问题；但你要是追问”这个行业去年的市场规模到底是多少”，它很可能张口就报一个看起来很精确的数字，小数点后都给你配得齐齐整整。你若去查原始报告，会发现根本没这组数。问题就出在，它分不清”这是事实”和”这是一个合理的猜测”，反正写出来都一样顺。

更麻烦的是，它还有一种”自信叠加”效应：你质疑它，它不但不收敛，反而会顺着你的质疑再编一层更细的解释来圆场。本来只是随口一答，被你一追问，它反而越说越笃定，错得越来越有鼻子有眼。这种特性在做正式决策时特别危险，因为它会把一个模糊的初判，一步步”论证”成一个不容置疑的结论。

为什么越大的模型反而更容易”一本正经胡说”

反直觉的是，模型变强之后，幻觉并没有线性下降，有时甚至在某些刁钻问题上显得更敢说。原因在于：小模型词汇量小、表达笨拙，你一眼就能看出它在瞎扯；而大模型语言组织能力极强，它编造出来的东西结构完整、术语准确、逻辑自洽，包装得跟真的一样，连专业人士都得愣一下。

它还特别喜欢在”边界问题”上翻车——比如问它某个冷门领域的最新进展、某个细分公式、某篇论文的具体数据。这些东西在训练语料里本来就少，它又没有联网、没有查资料的能力（早期版本尤其如此），只能靠自己脑补。你越问得具体，它越容易编得具体。

业界一直在试的那些办法

这几年业界其实没少下功夫。最直接的思路是”别让它瞎编”：在训练时加入更多事实性语料，在回答时加一道过滤器，检测到疑似编造就拦下来。再进阶一点，就是让它学会”说不知道”——专门训练模型在信息不足时坦诚承认，而不是硬着头皮输出。

还有一条更被看好的路线，叫”检索增强生成”（RAG）：回答之前先去真实资料库、文档库里检索相关内容，让模型基于这些真实材料来组织答案，而不是全凭记忆。相当于开卷考试，它不再需要把所有知识都背下来，照着材料答就行。这条路对企业场景特别管用，因为大部分问题其实公司内部文档里都有现成答案。

再往后就是”让它会用工具”：模型不确定时，自己调用搜索引擎、计算器、数据库，查到真东西再回答。这也是为什么最近这一代模型都在拼命加联网和插件能力——光靠脑子记，总归会记错。

但幻觉为什么还是没被根治

根本原因在于，”流畅”和”正确”本来就是两个目标，而大模型从第一天起就只优化了前者。你可以给它外挂检索、外挂工具、加各种约束，但只要它的底层仍然是”预测下一个最像人话的词”，它就永远有那么一部分概率，在没被约束到的地方自由发挥。

更何况，真实世界里的知识是动态的、模糊的、有争议的。很多问题压根没有标准答案，或者答案本身就有好几种说法。模型要在这种混沌里挑一个”最像对的”，本身就是个高风险动作。再加上训练语料里本身就混着大量错误、矛盾、过时的信息，它学进去的”事实”，很多本来就不靠谱。

而且，”流畅”这个目标本身就和”诚实”有冲突。一个总说”我不知道”的模型，用起来会显得很笨、很卡，用户体验立刻掉档；一个有问必答、出口成章的模型，哪怕偶尔瞎编，用户也更容易觉得它聪明。这种产品层面的激励，其实一直在悄悄推着模型往”多答一点、答得满一点”的方向走，而不是往”少说、说准”的方向走。

作为使用者，我们该怎么办

与其盼着某天真的出现一个”绝不说错话”的模型，不如先养成一种更务实的习惯：把大模型当成一个”很会写东西、但需要你验货”的助手，而不是一个权威答案机。

具体来说，越是关键信息——数字、日期、人名、引用、链接——越要自己再核对一遍。涉及医疗、法律、财务这种高风险领域，它的输出只能当思路参考，绝不能直接照单全收。遇到它特别笃定、但你又拿不准的内容，多问一句”这个信息来源是什么””你确定吗”，有时候它自己就会改口。

说到底，幻觉不是一个 bug，而是这种”生成式”范式的天性。我们能做的不是消灭它，而是学会和它共处——一边享受它带来的效率，一边保留自己那一道最后把关的警惕心。