第 1 卷
DeepSeek V3搭建个人知识库教程
DeepSeekAI知识库AnythingLLM
为什么需要私人AI知识库
是不是厌倦了LLM一本正经的答非所问、套话...等低效的信息检索。
私有知识库在前AI时代就有非常多使用场景,尤其是企业内部知识、个人知识库等。结合一个优秀的 LLM之后,能够让知识检索和归纳上升一个台阶。
小白快速搭建个人AI知识库
个人AI知识库的方案有很多种,今天介绍一种难度很低且知识检索效果不错的方案:
AnythingLLM+DeepSeekV3。
• AnythingLLM 是一个知识库管理前端工具,支持上传知识、向量化数据、RAG(检索增强)一条
龙服务,而且是开源免费的。
• DeepSeekV3(简称DS)是幻方量化的大模型,总体评分和Cladue3.5不相上下,而且Token非常
便宜,本次方案使用DS作为推理模型。
(AnythingLLM还支持其他推理模型,如GPT、Claude或者ollama运行本地开源模型等)
一、安装AnythingLLM
1.下载地址:https://anythingllm.com/,支持windows、mac、Linux系统。
2.打开软件,先设置LLM,这里选DeepSeek,模型选择chat(也就是最新的V3模型)。API Key可以去它们官网注册下,充值几块钱就够用了。

3.进入工作区,可以在左下角设置按钮中进行基础配置,如:LLM、嵌入模型、向量数据库选择等,新手可以先保持默认设置。
要本地运行Ollama加载这个模,由于需要安装Ollama,新手可以跳过这一步)。

二、上传文档
1.上点击工作空间的上传按钮,打开上传

2.支持上传pdf、csv、音频或者抓取网页内容等等。上传后右键加入工作空间就ok了。

3.也可以在Data Connnector中获取youtube(需要有cc字幕)视频、confluence文档库等内容平台的数据。

三、知识检索问答
1.在工作区点击new thread可以开启新的对话,然后提问就ok了