← 返回目录

第 21 卷

第 21 / 30 卷日期:

图 73-1
图 73-1

什么叫训练和推理?

概念让AI疯狂刷题(数据),调整脑回路(参数)的过程。

训练类比学生寒窗苦读十年,做遍《五三》《黄冈密卷》,直到考试不犯错。

例子相当于请100个名师辅导,烧钱买教辅书(GPU算力)

概念 AI学成后,现场做题(回答你的问题)。

推理类比学霸上考场,快速写出答案(生成响应)。

例子速度快,但依赖训练质量

图 74-1
图 74-1

什么叫32B?

概念

模型脑容量大小,32B=320亿个神经元连接。

类比

32B模型 = 一个拥有320亿条知识笔记的学霸

对比人类

人脑约860亿神经元,但AI的"神经元"更专注

为什么重要

参数越多,能处理复杂任务(如编程、多轮对话),但需要

更强硬件(比如4090显卡)

图 75-1
图 75-1

什么叫蒸馏?

Open ai(教师模型)是需要让ai学习完《几何原本》之后,然后去参加

考试。而deepseek(学生模型)是让AI直接学习《五年高考三年模拟》,

然后去参加考试。从《几何原本》到《五年高考三年模拟》,就是蒸馏。

教师模型(OpenAI)=学完《几何原本》的哲学大师,懂原理但解题慢
学生模型(DeepSeek)=刷完《五三》的应试高手,直接套题型快准狠
技术本质把大模型的"内功心法"(推理能力),压缩成小模型的"速成口诀"(高频题型)
优势小模型成本低、速度快,适合明确答案的任务(比如客服、代码补全)

本卷图片

本页图片

第 73 页图片 1
图 73-1
第 73 页图片 2
图 73-2

本页图片

第 74 页图片 1
图 74-1

本页图片

第 75 页图片 1
图 75-1
第 75 页图片 2
图 75-2
第 75 页图片 3
图 75-3
第 75 页图片 4
图 75-4
第 75 页图片 5
图 75-5
全站分卷索引 · 30 卷
  1. 1第 1 卷
  2. 2第 2 卷
  3. 3第 3 卷
  4. 4第 4 卷
  5. 5第 5 卷
  6. 6第 6 卷
  7. 7第 7 卷
  8. 8第 8 卷
  9. 9第 9 卷
  10. 10第 10 卷
  11. 11第 11 卷
  12. 12第 12 卷
  13. 13第 13 卷
  14. 14第 14 卷
  15. 15第 15 卷
  16. 16第 16 卷
  17. 17第 17 卷
  18. 18第 18 卷
  19. 19第 19 卷
  20. 20第 20 卷
  21. 21第 21 卷
  22. 22第 22 卷
  23. 23第 23 卷
  24. 24第 24 卷
  25. 25第 25 卷
  26. 26第 26 卷
  27. 27第 27 卷
  28. 28第 28 卷
  29. 29第 29 卷
  30. 30第 30 卷