第 9 卷

应对AI幻觉的技术方案

• RAG框架：利用检索增强生成（如先搜索权威数据库，再生成答案）
• 外部知识库：结合外部知识库，砍通用知识，强化垂直领域
• 精细训练：针对不同任务类型进行具体的微调或强化
• 评估工具：开发高效的自动化AI幻觉识别工具，对生成内容进行及时验证

如何应对AI幻觉？

• 总结
• 三角验证法：交叉比对多个AI回答或权威来源。
• 警惕“过度合理”：越细节丰富的回答越需谨慎（如AI虚构论文标题与作者）。
• 理解幻觉，享受幻觉：理解幻觉的特点和应对方法，享受幻觉带来的创意灵感

AI幻觉的创造力价值

• 科学发现：从“错误”到突破的范式跃迁

• 蛋白质设计：大卫·贝克团队利用AI“错误折叠”启发新型

蛋白质结构，获2024诺贝尔化学奖。

• 认为AI幻觉是“从零开始设计蛋白质”的关键
• 发表的多篇论文都将“幻觉”纳入标题当中