AI一本正经地“胡说八道”？读懂AI幻觉，做聪明的使用者

你可能遇到过这样的情况：请AI推荐几本书，它给出的书名和作者都像模像样，一搜才发现根本没有这本书；请它帮忙查资料，它列出一串“参考文献”，点进去却发现论文压根不存在；明明只让它概括一句话，它却洋洋洒洒写了一大段……

AI这是怎么了？

一、AI也会“编故事”

2023年，美国纽约州发生过一起真实的案件。一名律师使用ChatGPT辅助法律研究，AI生成了一份看起来非常专业的法律文书，还引用了6起相关判例。问题是，这6起判例全都不存在。最终，这名律师因提交虚假的司法判例，被法官处以5000美元罚款。

AI并不是故意骗人，但它确实可能生成听起来合情合理、实际上并不存在的信息。这种现象，被称为“AI幻觉”。

二、为什么AI会产生幻觉？

不妨把大语言模型想象成一个“超级接龙选手”：它根据前面已经出现的文字，计算接下来最可能出现什么，然后一个词一个词地生成答案。

因此，AI特别擅长把话说得流畅、连贯、像那么回事。可“说得像真的”和“真的就是这样”，完全是两码事。

举个例子：“爱因斯坦1905年因相对论获得诺贝尔奖。”这句话听上去是不是挺可信？但事实上，爱因斯坦获得诺贝尔物理学奖，是因为他在光电效应方面的工作。AI的问题恰恰在这里——它首先追求的是生成通顺合理的语言，而不是像人类查资料那样，先去确认事实。

三、幻觉从哪里来？

AI产生幻觉，原因并不单一。

第一，“吃进去”的资料本身就不完美。AI训练时要学习海量文本，其中难免夹杂过时的信息、互相矛盾的说法，以及极其冷门、几乎找不到资料的知识。模型学到的世界，本身就不是一份百分之百准确的“标准答案”。

第二，它擅长“接龙”，却不擅长“查证”。大语言模型的训练目标之一，是更准确地预测下一个词。一旦中间某个词出了错，后面接上的内容就可能越来越离谱。

第三，问题越模糊，它越容易自由发挥。比如你问“介绍一下某某人物”，如果这个人资料很少，或者名字容易混淆，AI就可能依据已有的语言模式“补全”一些内容——而这些补出来的信息，未必是真的。

四、AI幻觉能被解决吗？

科学家们当然没有坐视不管。目前已有不少方法用来检测和减少AI幻觉：让AI先检索资料再作答；让它多次回答同一个问题，比较答案是否一致；让它主动检查回答中的关键事实；通过训练，让模型更加重视准确性。

其中一个重要思路是：不要让AI只靠“记忆”和概率来回答，而是让它先找到可靠的信息，再给出答案。

五、AI到底能不能信？

可以用，但别把它当成“永远正确的百科全书”。尤其在医疗、法律、金融等重要领域，AI给出的信息更需要仔细核实。

平时写作文、查资料，也最好养成一个习惯：AI告诉你的，不等于已经被证实的事实。你可以请它帮忙寻找思路、整理材料、润色表达，但涉及人物、时间、数据、书名、论文、历史事件等关键信息时，最好再到教材、官方网站或权威资料中核对一遍。

毕竟，AI最危险的时刻，不是它说“我不知道”，而是它把一个错误答案说得特别像真的。学会提问、学会查证，才能真正让AI成为学习的好帮手。

（素材来源：《中学生天地》高中版2026年9月刊）