← 返回目录

第 1 卷

第 1 / 2 卷日期:

DeepSeek V3搭建个人知识库教程

DeepSeekAI知识库AnythingLLM

为什么需要私人AI知识库

是不是厌倦了LLM一本正经的答非所问、套话...等低效的信息检索。

私有知识库在前AI时代就有非常多使用场景,尤其是企业内部知识、个人知识库等。结合一个优秀的 LLM之后,能够让知识检索和归纳上升一个台阶。

小白快速搭建个人AI知识库

个人AI知识库的方案有很多种,今天介绍一种难度很低且知识检索效果不错的方案:

AnythingLLM+DeepSeekV3。

• AnythingLLM 是一个知识库管理前端工具,支持上传知识、向量化数据、RAG(检索增强)一条

龙服务,而且是开源免费的。

• DeepSeekV3(简称DS)是幻方量化的大模型,总体评分和Cladue3.5不相上下,而且Token非常

便宜,本次方案使用DS作为推理模型。

(AnythingLLM还支持其他推理模型,如GPT、Claude或者ollama运行本地开源模型等)

一、安装AnythingLLM

1.下载地址:https://anythingllm.com/,支持windows、mac、Linux系统。

2.打开软件,先设置LLM,这里选DeepSeek,模型选择chat(也就是最新的V3模型)。API Key可以去它们官网注册下,充值几块钱就够用了。

图 1-1
图 1-1

3.进入工作区,可以在左下角设置按钮中进行基础配置,如:LLM、嵌入模型、向量数据库选择等,新手可以先保持默认设置。

要本地运行Ollama加载这个模,由于需要安装Ollama,新手可以跳过这一步)。

图 2-1
图 2-1
二、上传文档

1.上点击工作空间的上传按钮,打开上传

图 2-2
图 2-2

2.支持上传pdf、csv、音频或者抓取网页内容等等。上传后右键加入工作空间就ok了。

图 3-1
图 3-1

3.也可以在Data Connnector中获取youtube(需要有cc字幕)视频、confluence文档库等内容平台的数据。

图 3-2
图 3-2
三、知识检索问答

1.在工作区点击new thread可以开启新的对话,然后提问就ok了

全站分卷索引 · 2 卷
  1. 1第 1 卷
  2. 2第 2 卷