大模型为什么会自信地说错

它到底在做什么

语言模型的核心任务是预测下一个词出现的概率。给定前文，它输出一个分布，再从中采样。整个过程优化的是「像不像人写的」，而不是「对不对」。

这就解释了为什么错误可以很流利。语法通顺与事实正确是两套标准，模型只被训练去满足前者。

幻觉从哪来

训练数据里有大量模糊、过时、互相矛盾的内容。模型把它们压缩进参数，遇到细节问题时只能靠模式补全，补出来的内容看起来合理，实际未必存在。

另一个来源是提问方式。问题预设了错误前提时，模型倾向于顺着前提回答，而不是指出前提有问题。

为什么它看起来很自信

模型的输出没有「不确定」这个默认档位。除非被明确要求表达保留，它通常给出肯定句式。语气与可信度之间没有必然联系。

人类交流中，犹豫和限定词是可信度的信号。模型缺少这套信号，读者就容易高估它的把握程度。

怎么用得更稳

把模型当成一个知识面广但需要核对的助手。涉及数据、法规、医疗、金额的内容，必须回到原始来源确认。

在提示中要求给出处、要求标注不确定、要求分点列出假设，都能降低出错概率。对关键结论做交叉验证，是现阶段比较务实的习惯。

把它当工具而不是权威

工具的价值取决于使用方式。把模型用于起草、改写、归纳，风险较低；用于事实查询、数值计算、法律医疗判断，则需要额外核对。

给它明确的角色与输出格式，往往比反复追问更有效。