← 返回目录

第 14 卷

第 14 / 100 卷作者:乔剑、苏小文、刘源日期:

AI幻觉是指模型生成看似合理但实际错误或虚构内容的现象。在知识问答、文献总结、数据引用等场景中,幻觉可能带来严重误导。虽然

AI无法完全消除幻觉,但通过巧妙的提示词设计,可以大幅降低其发生概率,让输出更可靠。

2.4.1 要求联网检索,获取实时信息

当问题涉及新事件、具体数据或需要验证的事实时,强制AI联网检索是最直接有效的方法。联网后,AI可以访问外部信息,将回答建立在

真实资料之上,而不是仅靠内部参数臆测。向AI输入提示词如下。

“请联网检索2024年诺贝尔生理学或医学奖的获奖者名单及其主要贡献。每一条信息后请标注信息来源。”

AI生成内容如下。

“根据联网检索结果,2024年诺贝尔生理学或医学奖授予维克托·安布罗斯和加里·鲁夫昆,以表彰他们发现微小RNA及其在转录后基因调控

中的作用。

信息来源:诺贝尔奖官网(www.nobelprize.org)”

2.4.2 上传附件,限定知识边界

对于需要严格基于给定材料的任务,上传附件并限定AI只能使用附件内容,是防止幻觉的强力手段。无论是论文、报告,还是内部文档,

附件为AI划定了明确的事实边界,杜绝其自行编造。向AI输入提示词如下。

“请基于我上传的这份《2024年第三季度销售总结报告》PDF,总结本季度的三大销售亮点和两大问题。只使用报告中的信息,不要添加任

何外部知识。”

AI读取附件内容后,提取关键信息生成如下总结。

“根据上传的《2024年第三季度销售总结报告》,本季度三大销售亮点为:

1.华东区销售额同比增长22%,主要得益于新渠道拓展。

2.新产品线上市三个月即贡献总营收的18%。

3.线上商城复购率提升至45%。

两大问题为:

1.华北区因物流调整,交付延迟导致客户投诉增加30%。

2.营销费用占比过高,ROI较上季度下降5个百分点。”

2.4.3 明确要求提供来源和核查步骤

对于无法联网或上传附件的场景,可以在提示词中明确要求AI区分陈述与推断,并尽可能提供可核查的来源。同时,引导AI展示推理过

程,便于手动验证。向AI输入提示词如下。

“请列举三种常见的消费者决策偏差,并说明每种偏差的经典研究出处。对于研究出处,请提供作者、年份和发表期刊。如果不确定,请

如实说明。”

AI根据内部知识库,生成如下内容,并如实说明信息来源。

“1.锚定效应:人们在决策时会过度依赖最初接触到的信息。经典研究出自Tversky & Kahneman(1974),发表于Science。

2.确认偏误:人们倾向于寻找和相信支持自己已有观点的信息。相关研究可追溯到Wason(1960),发表于

Quarterly Journal of Experimental Psychology。

3.框架效应:对同一问题的不同表述会影响人们的决策。经典研究由 Tversky & Kahneman(1981)完成,发表于Science。

注:以上信息基于常见学术引用,如需精确页码可进一步核查原文献。”

图 46-1
图 46-1

图2-3 如何减少AI幻觉

2.5 如何降低AI味

“AI味”是指生成内容虽然语法正确、逻辑通顺,但读起来机械、刻板,缺乏人类写作的生动性和情感色彩。要降低AI味,关键在于让AI模拟

真实人类的表达习惯、思考方式和情感立场,而不是输出标准化的“正确答案”。

2.5.1 设定人设与身份,赋予说话立场

全站分卷索引 · 100 卷
  1. 1第 1 卷
  2. 2第 2 卷
  3. 3第 3 卷
  4. 4第 4 卷
  5. 5第 5 卷
  6. 6第 6 卷
  7. 7第 7 卷
  8. 8第 8 卷
  9. 9第 9 卷
  10. 10第 10 卷
  11. 11第 11 卷
  12. 12第 12 卷
  13. 13第 13 卷
  14. 14第 14 卷
  15. 15第 15 卷
  16. 16第 16 卷
  17. 17第 17 卷
  18. 18第 18 卷
  19. 19第 19 卷
  20. 20第 20 卷
  21. 21第 21 卷
  22. 22第 22 卷
  23. 23第 23 卷
  24. 24第 24 卷
  25. 25第 25 卷
  26. 26第 26 卷
  27. 27第 27 卷
  28. 28第 28 卷
  29. 29第 29 卷
  30. 30第 30 卷
  31. 31第 31 卷
  32. 32第 32 卷
  33. 33第 33 卷
  34. 34第 34 卷
  35. 35第 35 卷
  36. 36第 36 卷
  37. 37第 37 卷
  38. 38第 38 卷
  39. 39第 39 卷
  40. 40第 40 卷
  41. 41第 41 卷
  42. 42第 42 卷
  43. 43第 43 卷
  44. 44第 44 卷
  45. 45第 45 卷
  46. 46第 46 卷
  47. 47第 47 卷
  48. 48第 48 卷
  49. 49第 49 卷
  50. 50第 50 卷
  51. 51第 51 卷
  52. 52第 52 卷
  53. 53第 53 卷
  54. 54第 54 卷
  55. 55第 55 卷
  56. 56第 56 卷
  57. 57第 57 卷
  58. 58第 58 卷
  59. 59第 59 卷
  60. 60第 60 卷
  61. 61第 61 卷
  62. 62第 62 卷
  63. 63第 63 卷
  64. 64第 64 卷
  65. 65第 65 卷
  66. 66第 66 卷
  67. 67第 67 卷
  68. 68第 68 卷
  69. 69第 69 卷
  70. 70第 70 卷
  71. 71第 71 卷
  72. 72第 72 卷
  73. 73第 73 卷
  74. 74第 74 卷
  75. 75第 75 卷
  76. 76第 76 卷
  77. 77第 77 卷
  78. 78第 78 卷
  79. 79第 79 卷
  80. 80第 80 卷
  81. 81第 81 卷
  82. 82第 82 卷
  83. 83第 83 卷
  84. 84第 84 卷
  85. 85第 85 卷
  86. 86第 86 卷
  87. 87第 87 卷
  88. 88第 88 卷
  89. 89第 89 卷
  90. 90第 90 卷
  91. 91第 91 卷
  92. 92第 92 卷
  93. 93第 93 卷
  94. 94第 94 卷
  95. 95第 95 卷
  96. 96第 96 卷
  97. 97第 97 卷
  98. 98第 98 卷
  99. 99第 99 卷
  100. 100第 100 卷