第 1 卷
5分钟用满血DeepSeek R1搭建个人AI
知识库(含本地部署)
老实说,如果你不是为了研究技术,或者确实需要保护涉密数据,我真不建议去折腾本地部署。
为什么呢?
目前Ollama从1.5B到70B都只是把R1的推理能力提炼到Qwen和Llama的蒸馏版本上。
虽说性能是提升了不少,但跟原汁原味的R1模型比起来,还是差太多了。
官方的满血版本可是671B的参数量,说实话,对普通人来说想本地部署,这成本确实太高了。
不过我最近发现了一个平台,不仅能用上R1本1,还提供了不少免费额度。
此外,为了让拥有算力的朋友可以本地部署,我也提供了相关教程。
看完全文,你会收获:
1、满血DeepSeek R1模型API搭建方式
2、本地部署DeepSeek R1模型搭建方式
一、个人知识库使用效果(满血版)
来看几个使用案例:如何借助个人知识库文件作为外脑,用方法论指导我们正确做事?
DeepSeek确实很好用,但关键还是会不会提问。如果不会提问,AI再强也帮不上忙。
除了花时间学习提示词,更快的方式是本地备一份提问指南,让AI指导你该怎么正确提问,这样才能真正发挥它的价值!
AI借助知识库内的DeepSeek指导手册,预判了我可能想问的问题,以及建议的正确提示词格式。
从回答中可以发现,AI不是依据自身语料库回复,而是基于知识库内容回复。