在 VPS 服务器上部署 DeepSeek 需要什么配置？怎么部署？

大家新年好，很久没有更新了，今天分享一下在 VPS 服务器上部署 DeepSeek-R1 需综合考虑的配置和步骤，具体还是请参考 DeepSeek 官方文档。

DeepSeek 官方地址：

• https://github.com/deepseek-ai/DeepSeek-R1

• https://github.com/deepseek-ai/DeepSeek-V3

一、基础硬件配置

1. CPU

• 推荐：至少 4 核以上（如 Intel Xeon 或 AMD EPYC 系列），若需处理高并发请求或复杂计算，建议 8 核+。

2. 内存

• 小型模型：16 GB+（如 7B 参数的模型需约 20GB 内存）。

• 大型模型：32 GB+（如 13B+ 参数模型建议 64GB+）。

3. 存储

• SSD 硬盘：至少 50GB 可用空间（模型文件+系统环境）。

• 大型模型：预留 200GB+（如包含向量数据库或数据集）。

4. GPU（可选但推荐）

• 若需加速推理，选择支持 CUDA 的 NVIDIA GPU（如T4/V100/A10），显存至少 16GB。

二、软件环境

1. 操作系统

• Ubuntu 20.04/22.04 LTS（社区支持完善，兼容性强）。

2. 深度学习框架

• PyTorch / TensorFlow：根据模型要求安装对应版本。

• CUDA/cuDNN（若用GPU）：需与框架版本匹配。

3. Python环境

• Python 3.8+，推荐使用 conda 或 venv 创建虚拟环境。

4. 依赖库

• transformers, sentencepiece, accelerate等（Hugging Face生态工具）。

• Web 框架：FastAPI/Flask（提供API服务）。

三、部署步骤

1. 环境初始化

   
   

   # 更新系统sudo apt update && sudo apt upgrade -y
   # 安装基础工具 sudo apt install -y git curl wget python3-pip
   # 安装CUDA（GPU场景）# 参考NVIDIA官方文档：https://developer.nvidia.com/cuda-downloads

3. 安装Python环境

   
   

   # 使用conda管理环境wget https://repo.anaconda.com/miniconda/Miniconda3-latest-Linux-x86_64.shbash Miniconda3-latest-Linux-x86_64.sh
   conda create -n deepseek python=3.10conda activate deepseek

4. 安装模型依赖

   
   

   pip install torch torchvision torchaudio --extra-index-url https://download.pytorch.org/whl/cu117  # 根据CUDA版本调整

5. pip install transformers accelerate sentencepiece

6. 下载模型从Hugging Face Hub或官方渠道获取模型权重：

   复制复制复制复制复制复制复制

   复制

   from transformers import AutoModel, AutoTokenizermodel = AutoModel.from_pretrained("deepseek-ai/deepseek-llm-7b")tokenizer = AutoTokenizer.from_pretrained("deepseek-ai/deepseek-llm-7b")

7. 部署API服务使用FastAPI编写推理接口：

   复制复制复制复制复制复制

   复制

   from fastapi import FastAPIfrom pydantic import BaseModelapp = FastAPI()class Query(BaseModel):
       text: str@app.post("/predict")async def predict(query: Query):
       inputs = tokenizer(query.text, return_tensors="pt")
       outputs = model.generate(**inputs)
       return {"response": tokenizer.decode(outputs[0])}

8. 配置Web服务器使用NGINX反向代理并配置SSL：

   
   

   server {
       listen 80;
       server_name your-domain.com;
       return 301 https://$host$request_uri;}server {
       listen 443 ssl;
       server_name your-domain.com;
       ssl_certificate /etc/letsencrypt/live/your-domain.com/fullchain.pem;
       ssl_certificate_key /etc/letsencrypt/live/your-domain.com/privkey.pem;
   
       location / {
           proxy_pass http://localhost:8000;
           proxy_set_header Host $host;
       }}

四、安全与优化

1. 防火墙设置

   复制复制复制复制

   复制

   sudo ufw allow ssh
   sudo ufw allow http
   sudo ufw allow https
   sudo ufw enable

2. 进程管理使用systemd托管服务：

   
   

   # /etc/systemd/system/deepseek.service[Unit]Description=DeepSeek APIAfter=network.target[Service]User=ubuntuWorkingDirectory=/opt/deepseekExecStart=/opt/miniconda3/envs/deepseek/bin/uvicorn main:app --host 0.0.0.0 --port 8000Restart=always[Install]WantedBy=multi-user.target

3. 监控与日志使用journalctl查看日志：

   
   

   journalctl -u deepseek.service -f

五、成本参考

注意事项

• 模型量化：若资源有限，可使用bitsandbytes进行4/8-bit量化降低显存占用。

• 缓存优化：启用vLLM或TGI（Text Generation Inference）提升推理速度。

• 带宽限制：确保VPS流量充足（如1TB+），避免超额收费。

根据实际需求调整配置，建议从低配测试后逐步升级。