← 返回目录

第 6 卷

第 6 / 8 卷日期:

图 16-1
图 16-1

三、本地部署搭建知识库

如果只是想简单体验,或者本地算力充足、希望保护数据安全,那么可以考虑本地部署的方案。

图 17-1
图 17-1

2、双击运行Ollama后,打开命令行,运行需要安装的模型(参数越大,显存要求越高)。

地址:https://ollama.com/library/deepseek-r1

图 18-1
图 18-1

如果没有GPU,建议选择1.5B,运行相对轻量。我这4G显存勉强能跑8B,但速度较慢。

有朋友用RTX 4090测试32B,效果和速度都不错。大家可以参考这个梯度,根据自己的硬件选择合适的模型。。

下载并运行成功后,就可以和DeepSeek R1对话啦。

全站分卷索引 · 8 卷
  1. 1第 1 卷
  2. 2第 2 卷
  3. 3第 3 卷
  4. 4第 4 卷
  5. 5第 5 卷
  6. 6第 6 卷
  7. 7第 7 卷
  8. 8第 8 卷