openwebui入门

id="article_content" class="article_content clearfix"> id="content_views" class="markdown_views prism-atom-one-dark">

1 简介

‌Open WebUI‌（网址是openwebui.com）是一个高度可扩展、功能强大且用户友好的自托管Web用户界面，专为完全离线操作设计，编程语言是python。它支持对接Ollama和OpenAI兼容的API的大模型。‌
Open WebUI‌在架构上是一种中间层，屏蔽了后端具体的大模型，最终对外体现为OpenAI兼容的API。
在这里插入图片描述

2 主要功能和特性

  • 直观的界面‌：Open WebUI的聊天界面灵感来自于ChatGPT，确保了用户友好的体验‌。
  • 响应式设计‌：在桌面和移动设备上都能享受无缝的体验‌。
  • ‌快速响应‌：享受快速且响应迅速的性能‌。
  • ‌轻松设置‌：使用Docker或Kubernetes（kubectl、kustomize或helm）无缝安装，提供无忧的体验‌。
  • ‌代码语法高亮‌：通过语法高亮功能享受增强的代码可读性‌。
  • ‌全面的Markdown和LaTeX支持‌：提升LLM体验，丰富互动‌。
  • ‌本地RAG集成‌：支持检索增强生成（RAG）技术，将文档交互无缝集成到聊天体验中‌。
  • ‌网络浏览能力‌：将网站无缝集成到聊天体验中，增强互动的丰富性和深度‌。
  • ‌提示预设支持‌：使用聊天输入中的/命令即时访问预设提示，加速互动‌。
  • ‌RLHF注释‌：通过点赞和点踩赋予消息力量，促进人类反馈强化学习（RLHF）的数据集训练‌。
  • ‌对话标记‌：分类和定位特定聊天，方便快速参考和简化数据收集‌。‌
  • 模型管理‌：直接从Web UI中轻松下载或移除模型，创建Ollama模型‌。
  • ‌多模型支持‌：无缝切换不同的聊天模型，进行多样化的互动‌。

3 API

‌Open WebUI‌的API接口文档是：

https://docs.openwebui.com/getting-started/api-endpoints
 class="hljs-button signin active" data-title="登录复制" data-report-click="{"spm":"1001.2101.3001.4334"}">
  • 1

3.1 API 认证

访问API需要认证，在设置 -> 账号中获取API_KEY，或者直接使用JWT，放在HTTP Authorization头中。

3.2 聊天API

聊天API是一个OpenAI API兼容的API，真的和openai的聊天接口一模一样。

curl -X POST http://localhost:3000/api/chat/completions \
-H "Authorization: Bearer YOUR_API_KEY" \
-H "Content-Type: application/json" \
-d '{
      "model": "llama3.1",
      "messages": [
        {
          "role": "user",
          "content": "Why is the sky blue?"
        }
      ]
    }'
 class="hljs-button signin active" data-title="登录复制" data-report-click="{"spm":"1001.2101.3001.4334"}">
  • 1
  • 2
  • 3
  • 4
  • 5
  • 6
  • 7
  • 8
  • 9
  • 10
  • 11
  • 12

3.3 获取大模型列表的API

curl -H "Authorization: Bearer YOUR_API_KEY" http://localhost:3000/api/models
 class="hljs-button signin active" data-title="登录复制" data-report-click="{"spm":"1001.2101.3001.4334"}">
  • 1

>>
注：本文转载自blog.csdn.net的nangonghen的文章"https://blog.csdn.net/nangonghen/article/details/145463044"。版权归原作者所有，此博客不拥有其著作权，亦不承担相应法律责任。如有侵权，请联系我们删除。
复制链接
复制链接
相关推荐
发表评论

评论记录：

未查询到任何数据！