Skip to content

DeepSeek-R1 模型本地部署硬件配置

1. DeepSeek-R1-Distill-Qwen-1.5B

1.5b


2. DeepSeek-R1-Distill-Qwen-7B


3. DeepSeek-R1-Distill-Llama-8B


4. DeepSeek-R1-Distill-Qwen-14B


5. DeepSeek-R1-Distill-Qwen-32B


6. DeepSeek-R1-Distill-Llama-70B


7. DeepSeek-R1-671B


⚠️ 注意

  • 硬盘空间估算公式参数量 × 4 Bytes(FP32) × 1.2(冗余系数)
  • 显存估算公式参数量 × 2 Bytes(FP16) × 1.2(冗余系数)
  • 实际需求受批次大小序列长度框架效率影响,部署前建议:
    1. 使用 nvidia-smi 监控资源;
    2. 从量化模型开始测试;
    3. 参考官方文档调整并行策略。