治理大模型幻觉：让它少说胡话的工程几招

如果要给大模型挑一个最让人头疼的毛病，”一本正经地胡说八道”一定榜上有名。它能把错误信息说得文采飞扬、语气笃定，让你很难分辨真假。这个毛病有个专门的名字，叫”幻觉”。只要你的应用要输出对外负责的内容，幻觉就是你绕不过去的一道坎。这篇文章，我把自己在生产里对付幻觉的几招，系统地讲一讲。

先搞清楚：幻觉为什么会发生

要治幻觉，得先明白它的根子在哪。大模型的本质，是根据上下文预测”下一个最可能出现的词”。它不是在查一个数据库、也不是在核对事实，而是在”顺着最像答案的方向往下编”。当它不知道答案时，它不会说”我不知道”，而是出于本能，编一个看起来最合理、最像答案的东西出来。这就是幻觉的来源——它不是故意撒谎，而是它根本没有”知道/不知道”的开关。

理解这一点很重要：你不能指望模型自己变得”诚实”，你得在工程上给它加上诚实的约束。幻觉不是模型的 bug 等它修好，而是它的工作方式决定的固有特性。想清楚这个，你就不会再纠结”怎么让它永远不说错”，而是转向”怎么让它在该老实的时候老实”。

第一招：明确告诉它”不知道就说不知道”

最便宜也最有效的一招，是在提示词里直接给它划边界。很多幻觉，纯粹是因为你没告诉它”可以拒绝回答”。你只要在提示里加一句”如果根据已知信息无法确定答案，就直接说不知道，千万不要编造”，效果往往立竿见影。

这个简单的约束，等于给模型装了一个”刹车”。它知道了：原来这种情况下，承认不知道是被允许的，甚至是被要求的。于是那些为了”显得什么都懂”而硬编出来的内容，就少了很多。别小看这一句话，它往往是性价比最高的一步。很多团队花大价钱换更强的模型，却忘了先把这句话加上去。

第二招：让它基于资料回答，而不是凭记忆

幻觉最常发生在什么场景？当你问它需要外部事实、而它只能靠训练时记的模糊印象去答的时候。解决办法就是：别让它凭记忆，把权威资料直接喂给它，让它基于你给的资料来答。

这其实就是检索增强的核心思路。你把相关的文档、最新的数据、官方说明找出来，和问题一起交给模型，并要求它”只根据下面提供的资料回答，资料里没有的就说不知道”。这样一来，它的回答就有了事实的锚点，而不是在那里凭空发挥。对于企业里那些”基于自家文档回答”的场景，这一招几乎是标配。让它”照着材料念”，比让它”凭脑子想”可靠得多，也安心得多。

第三招：要它给出来源、留出核查口

对付幻觉，还有一个很实用的思路：不追求让它一次答对到底，而是要求它把依据摆出来。让它在给出结论的同时，说明这个结论是从哪段资料来的、依据是什么。这样你（或用户）一眼就能看到它的底气从哪来，哪里是它自己推断的。

这种做法的好处是把”黑盒回答”变成了”可核查回答”。即便它偶尔错了，你也能顺着它给出的依据，快速定位是哪一步出了问题，而不是被一个孤立的结论蒙在鼓里。在任何对准确性有要求的场景，我都会要求模型把依据摆出来——这既是对它的约束，也是给人留的一道安全阀。

这里还想强调一点：衡量幻觉治理有没有成效，同样不能靠感觉。你得像前面讲评测那样，准备一批专门”测幻觉”的用例——那些模型很容易一本正经答错的问题，定期跑一遍，看胡说八道的比例有没有真的降下来。否则你改了半天提示词，自以为好多了，其实只是在你自己试的那几条上变好了，真实场景里该错还是错。用数据盯着幻觉率，你才知道自己的治理到底有没有用。

第四招：关键场景，一定要人工兜底

最后必须说一句实在话：不管你前面几招用得多好，幻觉都不可能被彻底消灭。在那些一旦出错就后果严重的场景——医疗、法律、金融建议、对外的正式声明——你绝不能把模型的输出直接当成最终结论发出去。

正确的姿势是：让模型做”初稿”和”整理”，人来做”把关”和”拍板”。模型负责把材料快速拼好、把初草写出来，人负责核对关键事实、签发。这种”AI 起草、人类复核”的分工，目前是对幻觉最稳妥的工程防线。承认它会错，并给它配一个会复查的人，比幻想它永不出错要现实得多。

一个反差强烈的实测

说个我亲眼见过的对比。我们做过一个帮销售团队查产品政策的功能。最初直接让模型回答”某类客户能不能享受某折扣”，结果它经常编出一个似是而非的政策，销售差点拿去跟客户承诺。后来我们改成：先把最新的政策手册检索出来，连同”只按手册回答、查不到就说不知道”的要求一起给它。就这一个改动，那种凭空捏造的错误回答几乎绝迹了。

这个对比再次说明：幻觉很多时候不是模型能力不够，而是我们没给它”锚”。当它必须在一片空白里凭印象作答，幻觉就容易冒头；当它手里有明确的、最新的材料，它的发挥就稳了。所以下次遇到它胡说八道，先别急着骂模型，回头看看：你是不是把它放到了一个”只能靠编”的位置上。

几个新手常踩的坑

第一个坑，是发现幻觉就立刻想”换个更强的模型”。其实很多时候，加一句”不知道就说不知道”、或者喂对资料，比换模型有效得多，也便宜得多。第二个坑，是把模型的流畅度当成了准确度。它写得越顺、越自信，你越要警惕——流畅和正确，完全是两码事。

第三个坑，是在关键场景图省事、跳过人工复核。这是最危险的。技术再好，也代替不了最后那一道人来把关。尤其是对外的、有法律和金钱后果的内容，那一道人工复核，永远不要省。把这些坑避开，你对幻觉的治理就已经上了正轨。

总的来说，治理幻觉不是一场要把它清零的战役，而是一套层层设防的组合拳：划清”可以说不知道”的边界、用资料给它锚点、要求它给出依据、在关键处人工兜底。把这几招组合起来用，你就能把幻觉的危害压到可接受的范围。大模型很聪明，但它从不保证诚实——这一点，我们做工程的必须时刻记在心里，落到每一行代码、每一条提示词里。