就在昨天DeepSeek-R1模型问世即爆火，37B的大模型，你想部署一下试试吗？我就想试试，毕竟本人有8卡A100可以玩。

首先我们需要从Huggingface下载模型权重，我在国内，文件太大了，下载不了。有方法，有教程，请仔细看。

模型地址：https://huggingface.co/deepseek-ai/DeepSeek-R1/tree/main  

下载工具：https://gist.github.com/padeoe/697678ab8e528b85a2a7bddafea1fa4f

1. 安装下载工具。

# 设置镜像地址
export HF_ENDPOINT="https://hf-mirror.com"
# 创建模型下载存放路径
mkdir model_download
# 进入该目录
cd model_download
# 下载所需的脚本
wget 
 
https://gist.githubusercontent.com/padeoe/697678ab8e528b85a2a7bddafea1fa4f/raw/3ed815fdcef9a30bd985772ab95ca57801c80bfa/hfd.sh
# 修改文件的执行权限
chmod a+x hfd.sh
# 注册执行命令
alias hfd="$PWD/hfd.sh"

2.  下载模型

hfd deepseek-ai/DeepSeek-R1 --tool wget

如果不指定参数 --tool wget，会报如下错误， 建议加上 --tool wget：

aria2c is not installed. Please install it first.

如果你想用aria2进行下载，难么你需要安装aria2。

sudo apt update
 
sudo apt install aria2

我分别都体验了，感觉aria2更好用。