第 3 卷

案例5

什么是AI幻觉？

学术：指模型生成与事实不符、逻辑断裂或脱离上下文的内容，本质是统计概率驱动的“合理猜测”

说人话：一本正经地胡说八道

事实性幻觉：指模型生成的内容与可验证的现实世界事实不一致忠实性幻觉：指模型生成的内容与用户的指令或上下文不一致

提问：糖尿病患者可以通过吃蜂蜜代替糖吗？

回答分析是的，蜂蜜是天然的，可以帮助糖错误：蜂蜜虽然是天然食品，但仍然含有大量果糖和

事实性幻觉尿病患者稳定血糖水平。葡萄糖，会升高血糖水平，不适合糖尿病患者代替糖使用。

蜂蜜富含维生素和矿物质，对提高偏题：回答内容虽无事实错误，但与提问“糖尿病患忠实性幻觉免疫力很有帮助，因此是一种健康者是否可以用蜂蜜代替糖”无关，未忠实于用户意图。

的食品。

AI为什么会产生幻觉？

• 数据偏差：训练数据中的错误或片面性被模型放大（如医学领域过时论文导致错误结论）
• 泛化困境：模型难以处理训练集外的复杂场景（如南极冰层融化对非洲农业的影响预测）
• 知识固化：模型过度依赖参数化记忆，缺乏动态更新能力（如2023年后的事件完全虚构）
• 意图误解：用户提问模糊时，模型易“自由发挥”（如“介绍深度学习”可能偏离实际需求）