分享
DeepSeek R1本地知识库问答快速实战
输入“/”快速插入内容
DeepSeek R1本地知识库问答快速实战
课程说明:
•
体验课内容节选自
《2025大模型Agent智能体开发实战》
完整版付费课程
体验课时间有限,若想深度学习大模型技术,欢迎大家报名由我主讲的
《2025大模型Agent智能体开发实战》
:
71%
29%
此外,公开课全套学习资料,已上传至网盘(
https://pan.baidu.com/s/15UyjwfDNouCFyra7Dp3JHw?pwd=29tt
)
需要更系统深入学习大模型可扫码⬆️添加助教咨询喔~
一
、
主
流
大
模
型
W
e
b
对
话
框
架
介
绍
本节公开课,我们来详细介绍如何借助DeepSeek R1进行本地知识库问答。
此前公开课中,我们已经详细讨论了DeepSeek R1从原版模型到蒸馏模型的各系列模型本地安装部 署方法,以及借助ollama、VLLM、LMDeploy 等主流推理框架进行调用等方法,详情见:
https://www.bilibili.com/video/BV19kFoe6Ef7/
本节公开课,我们继续探讨如何借助DeepSeek R1进行本地知识库问答。
关于本地知识库问答,目前有非常多实现方法,主流的本地知识库问答开源框架如下:
【个人】多端&多模型聊天框架:ChatBox
项目展示:
GitHub地址:
https://github.com/Bin-Huang/chatbox
【个人】轻量级便捷RAG
推理框架:AnythingLLM
o 项目展示: