Skip to content

DeepSeek-R1 模型本地部署硬件配置 ​

1. DeepSeek-R1-Distill-Qwen-1.5B ​

1.5b


2. DeepSeek-R1-Distill-Qwen-7B ​


3. DeepSeek-R1-Distill-Llama-8B ​


4. DeepSeek-R1-Distill-Qwen-14B ​


5. DeepSeek-R1-Distill-Qwen-32B ​


6. DeepSeek-R1-Distill-Llama-70B ​


7. DeepSeek-R1-671B ​


⚠️ 注意

  • 硬盘空间估算公式:参数量 × 4 Bytes(FP32) × 1.2(冗余系数)
  • 显存估算公式:参数量 × 2 Bytes(FP16) × 1.2(冗余系数)
  • 实际需求受批次大小、序列长度和框架效率影响,部署前建议:
    1. 使用 nvidia-smi 监控资源;
    2. 从量化模型开始测试;
    3. 参考官方文档调整并行策略。