第 6 卷

三、本地部署搭建知识库
如果只是想简单体验,或者本地算力充足、希望保护数据安全,那么可以考虑本地部署的方案。

2、双击运行Ollama后,打开命令行,运行需要安装的模型(参数越大,显存要求越高)。
地址:https://ollama.com/library/deepseek-r1

如果没有GPU,建议选择1.5B,运行相对轻量。我这4G显存勉强能跑8B,但速度较慢。
有朋友用RTX 4090测试32B,效果和速度都不错。大家可以参考这个梯度,根据自己的硬件选择合适的模型。。
下载并运行成功后,就可以和DeepSeek R1对话啦。