首页 最新 热门 推荐

  • 首页
  • 最新
  • 热门
  • 推荐

openwebui入门

  • 25-03-07 16:51
  • 4106
  • 8784
blog.csdn.net

1 简介

‌Open WebUI‌(网址是openwebui.com)是一个高度可扩展、功能强大且用户友好的自托管Web用户界面,专为完全离线操作设计,编程语言是python。它支持对接Ollama和OpenAI兼容的API的大模型。‌
Open WebUI‌在架构上是一种中间层,屏蔽了后端具体的大模型,最终对外体现为OpenAI兼容的API。
在这里插入图片描述

2 主要功能和特性

  • 直观的界面‌:Open WebUI的聊天界面灵感来自于ChatGPT,确保了用户友好的体验‌。
  • 响应式设计‌:在桌面和移动设备上都能享受无缝的体验‌。
  • ‌快速响应‌:享受快速且响应迅速的性能‌。
  • ‌轻松设置‌:使用Docker或Kubernetes(kubectl、kustomize或helm)无缝安装,提供无忧的体验‌。
  • ‌代码语法高亮‌:通过语法高亮功能享受增强的代码可读性‌。
  • ‌全面的Markdown和LaTeX支持‌:提升LLM体验,丰富互动‌。
  • ‌本地RAG集成‌:支持检索增强生成(RAG)技术,将文档交互无缝集成到聊天体验中‌。
  • ‌网络浏览能力‌:将网站无缝集成到聊天体验中,增强互动的丰富性和深度‌。
  • ‌提示预设支持‌:使用聊天输入中的/命令即时访问预设提示,加速互动‌。
  • ‌RLHF注释‌:通过点赞和点踩赋予消息力量,促进人类反馈强化学习(RLHF)的数据集训练‌。
  • ‌对话标记‌:分类和定位特定聊天,方便快速参考和简化数据收集‌。‌
  • 模型管理‌:直接从Web UI中轻松下载或移除模型,创建Ollama模型‌。
  • ‌多模型支持‌:无缝切换不同的聊天模型,进行多样化的互动‌。

3 API

‌Open WebUI‌的API接口文档是:

https://docs.openwebui.com/getting-started/api-endpoints
  • 1

3.1 API 认证

访问API需要认证,在设置 -> 账号中获取API_KEY,或者直接使用JWT,放在HTTP Authorization头中。

3.2 聊天API

聊天API是一个OpenAI API兼容的API,真的和openai的聊天接口一模一样。

curl -X POST http://localhost:3000/api/chat/completions \
-H "Authorization: Bearer YOUR_API_KEY" \
-H "Content-Type: application/json" \
-d '{
      "model": "llama3.1",
      "messages": [
        {
          "role": "user",
          "content": "Why is the sky blue?"
        }
      ]
    }'
  • 1
  • 2
  • 3
  • 4
  • 5
  • 6
  • 7
  • 8
  • 9
  • 10
  • 11
  • 12

3.3 获取大模型列表的API

curl -H "Authorization: Bearer YOUR_API_KEY" http://localhost:3000/api/models
  • 1

注:本文转载自blog.csdn.net的nangonghen的文章"https://blog.csdn.net/nangonghen/article/details/145463044"。版权归原作者所有,此博客不拥有其著作权,亦不承担相应法律责任。如有侵权,请联系我们删除。
复制链接
复制链接
相关推荐
发表评论
登录后才能发表评论和回复 注册

/ 登录

评论记录:

未查询到任何数据!
回复评论:

分类栏目

后端 (14832) 前端 (14280) 移动开发 (3760) 编程语言 (3851) Java (3904) Python (3298) 人工智能 (10119) AIGC (2810) 大数据 (3499) 数据库 (3945) 数据结构与算法 (3757) 音视频 (2669) 云原生 (3145) 云平台 (2965) 前沿技术 (2993) 开源 (2160) 小程序 (2860) 运维 (2533) 服务器 (2698) 操作系统 (2325) 硬件开发 (2492) 嵌入式 (2955) 微软技术 (2769) 软件工程 (2056) 测试 (2865) 网络空间安全 (2948) 网络与通信 (2797) 用户体验设计 (2592) 学习和成长 (2593) 搜索 (2744) 开发工具 (7108) 游戏 (2829) HarmonyOS (2935) 区块链 (2782) 数学 (3112) 3C硬件 (2759) 资讯 (2909) Android (4709) iOS (1850) 代码人生 (3043) 阅读 (2841)

热门文章

126
软件工程
关于我们 隐私政策 免责声明 联系我们
Copyright © 2020-2024 蚁人论坛 (iYenn.com) All Rights Reserved.
Scroll to Top