首页 最新 热门 推荐

  • 首页
  • 最新
  • 热门
  • 推荐

AI入门6:基于Ollama+DeepSeek,用RAGFlow搭建本地知识库

  • 25-04-25 06:01
  • 3505
  • 12505
blog.csdn.net

书接上篇:分别使用Page Assist和AnythingLLM接入deepseek模型,并上传及分析本地知识:

AI入门:AI模型管家婆ollama的安装和使用-CSDN博客

AI入门2:本地AI部署,用ollama部署deepseek(私有化部署)-CSDN博客

AI入门3:给本地deepseek设置网页访问方式(UI插件Page Assist 安装)_deepseek本地部署网页访问-CSDN博客

  AI入门4:基于Ollama+DeepSeek,用Page Assist搭建本地知识库-CSDN博客 

AI入门5:基于Ollama+DeepSeek,用AnythingLLM搭建本地知识库-CSDN博客

本节介绍用RAGFlow搭建本地知识库,‌RAG(Retrieval-Augmented Generation)结合了检索和生成的技术,主要用于提升内容生成的质量和效率,RAGFlow则是RAG技术的一种具体实现,它通过模块化的方式组织RAG系统,提高了系统的灵活性和可扩展性。

和Page Assis,以及AnythingLLM相比,知识库命中率更高,软件体积更大,技术难度也更高,大家根据自己的情况选择。

准备工作

ollama和deepseek安装设置好,具体操作参考,上面AI入门1和2。

下载ragflow

在GitHub平台,下载ragflow,在百度搜索:GitHub ragflow

进入下载界面:

下载,解压后,在其docker目录,找到配置文件.env

编辑.env,找到RAGFLOW_IMAGE参数,把slim版本这一行注释掉,把下面完全版本的放开,因为完全版才有内置了的Embedding模型和Reranker模型,slim版本没有:

安装docker

下载后,安装过程很简单,就是有可能遇到安装环境的问题,大家参考:

windows下安装docker-CSDN博客

 docker设置(很重要)

打开docker,进入“settings”:

​

在docker engine里,设置docker的镜像信息,如果镜像不可用,后面的操作就会失败,我尝试了多次,所以下面的镜像看起来有了冗余,但是管用:

  1. {
  2. "builder": {
  3. "gc": {
  4. "defaultKeepStorage": "20GB",
  5. "enabled": true
  6. }
  7. },
  8. "experimental": false,
  9. "features": {
  10. "buildkit": true
  11. },
  12. "registry-mirrors": [
  13. "https://docker.m.daocloud.io",
  14. "https://docker.1panel.live",
  15. "https://registry.docker-cn.com",
  16. "https://cr.console.aliyun.com",
  17. "https://mirror.ccs.tencentyun.com",
  18. "https://huecker.io/",
  19. "https://dockerhub.timeweb.cloud",
  20. "https://noohub.ru/",
  21. "https://dockerproxy.com",
  22. "https://docker.mirrors.ustc.edu.cn",
  23. "https://docker.nju.edu.cn",
  24. "https://xx4bwyg2.mirror.aliyuncs.com",
  25. "http://f1361db2.m.daocloud.io",
  26. "https://registry.docker-cn.com",
  27. "http://hub-mirror.c.163.com",
  28. "https://docker.mirrors.ustc.edu.cn",
  29. "https://docker.registry.cyou",
  30. "https://docker-cf.registry.cyou",
  31. "https://dockercf.jsdelivr.fyi",
  32. "https://docker.jsdelivr.fyi",
  33. "https://dockertest.jsdelivr.fyi",
  34. "https://mirror.aliyuncs.com",
  35. "https://dockerproxy.com",
  36. "https://mirror.baidubce.com",
  37. "https://docker.m.daocloud.io",
  38. "https://docker.nju.edu.cn",
  39. "https://docker.mirrors.sjtug.sjtu.edu.cn",
  40. "https://docker.mirrors.ustc.edu.cn",
  41. "https://mirror.iscas.ac.cn",
  42. "https://docker.rainbond.cc"
  43. ]
  44. }

安装rayflow

到刚才下载完成的ragflow-main文件夹下,在上面这个路径输入cmd,进入命令行,输入命令

docker compose -f docker/docker-compose.yml up -d

如果正常执行完,就可以了,如果不顺利,可能遇到镜像拉不下来的情况,如下图:

​

解决问题参考文档已备好:

docker找不到镜像,无法成功下载ragflow-main的问题_ragflow报错error response from daemon-CSDN博客 如果很不凑巧,你有遇到了“Error response from daemon: Ports are not available: exposing port TCP 0.0.0.0:xxx -> 0.0.0.0:0: listen tcp 0.0.0.0:xxx: bind: An attempt was made to access a socket in a way forbidden by its access permissions.”错误,类似像这样:

​解决问题参考文档已备好:

Docker容器的守护进程无法使用端口-CSDN博客

解决了重重问题,ragflow就会启动了:

​

配置 ragflow,添加模型

 通过浏览器,http://localhost:80/ 访问ragflow,注册一个账号:

​

进行如下设置:

​

如图:

1、修改语言

2、点击头像,再选择“模型供应商”

3、找到ollama,然后“添加模型”

填写模型信息:

​

注意,上图基础url需要用真实ip(真实ip查看方式:win+r,输入cmd,输入命令ipconfig),用http://127.0.0.1:11434/报错:

​

用真实ip,正常保存显示如下:

​

在ollama下,点击“显示更多模型”,可以查看及删除已设置模型:

​

然后,点击“系统模型设置”,选择刚才添加的模型,确定即可。

​

设置知识库

点击“知识库”标签,创建知识库:

​

填写知识库名称:

​

设置“嵌入模型”、“解析方法”,鼠标点击每个条目旁边的?图标,会有解释:

​保存后,进入知识上传界面,点击“新增文件”,将文件拖进来:

​

增加的文件,是未解析的状态,点击绿色运行按钮,进入解析 

​

解析完成后,显示“成功”状态,也可以通过批量按钮,进行批量操作:

​

然后,老试试知识库,点击“聊天”标签,新建助理,选择助理所对应的知识库:

​

 保存后,选择助手,新建一个聊天,问你的问题,就可以开始聊天了:

​还可以点击“搜索”标签,直接对知识库进行搜索。

​

日常启动和关闭模型

总结一下,日常启动,在ollama,和docker正常启动后(ollama和docker都有程序菜单,从开始中找到运行即可,运行后在右下角程序栏有运行图标),在doc窗口,先跳转到ragflow-main所在目录,执行命令:

docker compose -f docker/docker-compose.yml up -d

不需要的时候,通过docker命令关闭模型,不然有点费资源:

docker compose -f docker/docker-compose.yml down

 然后,再关闭docker和ollama(右下角程序栏有运行图标,右键菜单中关闭)。

日常启动和关闭的执行界面参考: 

​

其他

在系统使用过程中,如果遇到C盘越来越小,可以看看docker占用C盘过大的问题的处理:

docker占用C盘问题

**************本节内容华丽结束,主大家有个愉快的体验**************

注:本文转载自blog.csdn.net的正经教主的文章"https://blog.csdn.net/2501_90561511/article/details/145833460"。版权归原作者所有,此博客不拥有其著作权,亦不承担相应法律责任。如有侵权,请联系我们删除。
复制链接
复制链接
相关推荐
发表评论
登录后才能发表评论和回复 注册

/ 登录

评论记录:

未查询到任何数据!
回复评论:

分类栏目

后端 (14832) 前端 (14280) 移动开发 (3760) 编程语言 (3851) Java (3904) Python (3298) 人工智能 (10119) AIGC (2810) 大数据 (3499) 数据库 (3945) 数据结构与算法 (3757) 音视频 (2669) 云原生 (3145) 云平台 (2965) 前沿技术 (2993) 开源 (2160) 小程序 (2860) 运维 (2533) 服务器 (2698) 操作系统 (2325) 硬件开发 (2492) 嵌入式 (2955) 微软技术 (2769) 软件工程 (2056) 测试 (2865) 网络空间安全 (2948) 网络与通信 (2797) 用户体验设计 (2592) 学习和成长 (2593) 搜索 (2744) 开发工具 (7108) 游戏 (2829) HarmonyOS (2935) 区块链 (2782) 数学 (3112) 3C硬件 (2759) 资讯 (2909) Android (4709) iOS (1850) 代码人生 (3043) 阅读 (2841)

热门文章

101
推荐
关于我们 隐私政策 免责声明 联系我们
Copyright © 2020-2024 蚁人论坛 (iYenn.com) All Rights Reserved.
Scroll to Top