首页 最新 热门 推荐

  • 首页
  • 最新
  • 热门
  • 推荐

DeepSeek本地化部署【window下安装】【linux下安装】

  • 25-02-16 22:21
  • 3375
  • 10483
blog.csdn.net

一、window 本地安装指导

1.1、下载window安装包

https://ollama.com/download/OllamaSetup.exe

1.2、点击下载好的安装包进行安装

检测安装是否成功:

C:\Users\admin>ollama -v
ollama version is 0.5.7
  • 1
  • 2

有上面的输出,则证明已经安装成功。

配置系统的环境变量

# 配置ollama监听网址,这里表示监听所有网卡
OLLAMA_HOST=0.0.0.0:11434
# 下载的大模型存放路径
OLLAMA_MODELS=F:\ollama_model
  • 1
  • 2
  • 3
  • 4

这里最后重启下电脑,使得设置的环境变量生效。

1.3、运行需要的大模型

在ollama官网搜索,deepseek,这里选择deepseek-coder来进行部署

在这里插入图片描述

并且选择1.3b参数的模型进行部署(资源有限,先保证能用)。

运行命令为:

ollama run deepseek-coder
  • 1

二、linux本地安装指导

ollama api使用指南:

https://github.com/datawhalechina/handy-ollama/blob/main/docs/C4/1.%20Ollama%20API%20%E4%BD%BF%E7%94%A8%E6%8C%87%E5%8D%97.md

2.1、下载安装ollama

1、安装ollama模型

curl -fsSL https://ollama.com/install.sh | sh

修改

/etc/systemd/system/ollama.service

添加上环境变量即可

OLLAMA_HOST=0.0.0.0:11434
  • 1

重新启动ollama服务

sudo systemctl daemon-reload
sudo systemctl restart ollama
  • 1
  • 2

2.2、下载模型

ollama run deepseek-r1:1.5b

2.3、测试模型

curl http://localhost:11434/api/generate -d '{
  "model": "deepseek-r1:1.5b",
  "prompt": "你是一个高级运维工程师。你的职责",
  "stream": false
}'


curl http://localhost:11434/api/chat -d '{
  "model": "deepseek-coder:latest",
  "messages": [
    {
      "role": "user",
      "content": "为什么草是绿的?"
    }
  ],
  "stream": false
}'



curl http://localhost:11434/v1/chat/completions -d '{
    "model": "deepseek-coder:latest",
  "messages": [
    {
      "role": "user",
      "content": "使用java实现一个冒泡排序算法"
    }
  ],
  "stream": false
}'
  • 1
  • 2
  • 3
  • 4
  • 5
  • 6
  • 7
  • 8
  • 9
  • 10
  • 11
  • 12
  • 13
  • 14
  • 15
  • 16
  • 17
  • 18
  • 19
  • 20
  • 21
  • 22
  • 23
  • 24
  • 25
  • 26
  • 27
  • 28
  • 29
  • 30

三、IDEA接入私有化部署的Deepseek大模型

安装CodeGPT插件

3.1、在插件市场搜索CodeGPT,并进行安装。

在这里插入图片描述

3.2、配置codeGPT

在这里插入图片描述

安装上述图片描述进行配置。

其中URL:部署Deepseek的服务器的IP地址和端口

请求体中model参数是你安装那个deepseek大模型的名称。可以通过ollama list来列出已经安装的大模型。

[root@iZbp156z1grx9j03c0zl8tZ ~]# ollama list
NAME                     ID              SIZE      MODIFIED
deepseek-coder:latest    3ddd2d3fc8d2    776 MB    About an hour ago
  • 1
  • 2
  • 3

如果通过ollama安装了多个大模型,你可以指定其他大模型,但是名称要跟使用上面命令列出的模型名称保持一致。

指定刚刚配置的模型为我们的编码助手。

在这里插入图片描述

3.3、测试功能是否可用

在这里插入图片描述

经过测试,发现已经可以通过codeGPT插件调用Deepseek的大模型了。

四、Deepseek本地部署的大模型API调用

可以参考下面的文档进行使用

ollama api使用指南:

https://github.com/datawhalechina/handy-ollama/blob/main/docs/C4/1.%20Ollama%20API%20%E4%BD%BF%E7%94%A8%E6%8C%87%E5%8D%97.md

此外,ollama 还支持通过openAI格式的接口调用,

如对话接口:

http://8.136.125.228:11434/v1/chat/completions
  • 1

在这里插入图片描述

注:本文转载自blog.csdn.net的张声录1的文章"https://blog.csdn.net/zhangshenglu1/article/details/145493648"。版权归原作者所有,此博客不拥有其著作权,亦不承担相应法律责任。如有侵权,请联系我们删除。
复制链接
复制链接
相关推荐
发表评论
登录后才能发表评论和回复 注册

/ 登录

评论记录:

未查询到任何数据!
回复评论:

分类栏目

后端 (14832) 前端 (14280) 移动开发 (3760) 编程语言 (3851) Java (3904) Python (3298) 人工智能 (10119) AIGC (2810) 大数据 (3499) 数据库 (3945) 数据结构与算法 (3757) 音视频 (2669) 云原生 (3145) 云平台 (2965) 前沿技术 (2993) 开源 (2160) 小程序 (2860) 运维 (2533) 服务器 (2698) 操作系统 (2325) 硬件开发 (2492) 嵌入式 (2955) 微软技术 (2769) 软件工程 (2056) 测试 (2865) 网络空间安全 (2948) 网络与通信 (2797) 用户体验设计 (2592) 学习和成长 (2593) 搜索 (2744) 开发工具 (7108) 游戏 (2829) HarmonyOS (2935) 区块链 (2782) 数学 (3112) 3C硬件 (2759) 资讯 (2909) Android (4709) iOS (1850) 代码人生 (3043) 阅读 (2841)

热门文章

101
推荐
关于我们 隐私政策 免责声明 联系我们
Copyright © 2020-2025 蚁人论坛 (iYenn.com) All Rights Reserved.
Scroll to Top