docker搭建dify实操、使用

id="article_content" class="article_content clearfix"> id="content_views" class="markdown_views prism-atom-one-dark">

操作日期：2024-8-26 linux操作系统 dify最新版本0.7.1

拉取代码

git clone --depth 1 https://github.com/langgenius/dify.git
 class="hljs-button signin active" data-title="登录复制" data-report-click="{"spm":"1001.2101.3001.4334"}">
  • 1

docker部署

cd dify/docker
cp .env.example .env
docker compose up -d   如报错找不到命令则用 docker-compose up -d
 class="hljs-button signin active" data-title="登录复制" data-report-click="{"spm":"1001.2101.3001.4334"}">
  • 1
  • 2
  • 3

注意：我自己本地已经有一个80端口的进程了，而这个dify里面的nginx默认也是80，这里给它改成180，不改的话，直接跳过改步骤

sudo vim .env
 class="hljs-button signin active" data-title="登录复制" data-report-click="{"spm":"1001.2101.3001.4334"}">
  • 1

将里面的EXPOSE_NGINX_PORT默认80改成180，然后保存

sudo vim docker-compose.yaml
 class="hljs-button signin active" data-title="登录复制" data-report-click="{"spm":"1001.2101.3001.4334"}">

将里面的EXPOSE_NGINX_PORT默认80改成180，然后保存

部署后，docker ps查看结果如下
image.png
包括 3 个业务服务 api / worker / web，以及 6 个基础组件 weaviate / db / redis / nginx / ssrf_proxy / sandbox 。

首次访问安装页面

使用浏览器访问http://your_server_ip:180/install （这里我改为了180，如果没改就是80，不填也行）
image.png
首次访问会出现上面的注册页面，填入信息即可。后续访问，查询到已注册，会自动跳转到登录页面，如下：
image.png

设置模型供应商

这里我以openai和xinference为例
点击设置进入到设置模型供应商页面
image.png
然后会出现如下图，我这里设置过了，如果没设置点击"OpenAI",image.png

OpenAI设置

image.png
然后点击右上角“系统模型设置”,如下图，你会发现，除了rerank模型，其它的从OpenAI都能选，我这里的openai的APIkey只支持gpt-3.5-turbo，所以就选了这个。最后语音和文本互转的，没试过，不知道我的key支不支持，后续测试下。
image.png

XInference设置

rerank配置，如下，这里我选择了使用XInference，这个我之前搭建过了，详情可以看我其它笔记，很简单。
打开XInference，http://yourip:9997/ui/#/launch_model/rerank,我这里选择了 bge-reranker-v2-m3
我都选择默认的配置，直接点击启动，没一会就能启动，初次需要下载模型，稍微慢点。
image.png
验证是否启动，如下图，表明已经启动成功
image.png
后续即可回到dify里面继续设置rerank了。服务器URL就填web访问XInference的地址即可。
image.png
然后就可以设置rerank了
image.png

创建知识库

image.png
image.png
image.png
上图点击文件后，右边会有预览，然后点击 “下一步”
image.png
如上图，可以点击"前往文档"去看下。

创建应用

image.png
image.png
image.png
image.png

修改工作流

image.png
知识检索链接LLM
image.png

整理节点

image.png
整理后如下图
image.png

配置知识库

image.png
选择后如下图
image.png

image.png

设置LLM

如上面一个步骤一样，点击LLM节点，然后设置上下文，选择result，即为知识检索的结果作为result
image.png

设置prompt

image.png
设置后，如下图
image.png

发布

image.png

image.png

调试和预览

image.png
可以分析工作流
image.png

追踪示例
image.png

API访问创建的应用

进入应用

image.png

点击访问API

image.png

生成API秘钥

image.png

接口测试

该页面下面提供了很多接口，这里简单示例下

发送对话消息

把下面ip改成自己的IP，把{api_key}替换成自己刚刚创建的API秘钥

curl -X POST 'http://192.168.xxx.xxxx:180/v1/chat-messages' \
--header 'Authorization: Bearer app-MMhqyRPIeoeKSXtM2l1vxVPw' \
--header 'Content-Type: application/json' \
--data-raw '{
    "inputs": {},
    "query": "你是谁?",
    "response_mode": "blocking",
    "conversation_id": "",
    "user": "admin"
}'
 class="hljs-button signin active" data-title="登录复制" data-report-click="{"spm":"1001.2101.3001.4334"}">

调用如下图
image.png

有返回结果，表明可以使用该API。

网页使用

image.png
点击上图的运行，会跳转到一个页面，这里可能是我修改了端口的地方没改全，或者这个系统有点bug，暂时不去细究，如果修改过端口，发现跳转的页面没有端口，就自己加上。
image.png
进行提问
image.png

image.png

至此简单的使用就完成了。后续高阶用法，有空我也更新下。

data-report-view="{"mod":"1585297308_001","spm":"1001.2101.3001.6548","dest":"https://blog.csdn.net/wade1010/article/details/141573513","extend1":"pc","ab":"new"}">>
注：本文转载自blog.csdn.net的3333333_的文章"https://blog.csdn.net/wade1010/article/details/141573513"。版权归原作者所有，此博客不拥有其著作权，亦不承担相应法律责任。如有侵权，请联系我们删除。
复制链接
复制链接
相关推荐
发表评论

评论记录：

未查询到任何数据！