Appearance
DeepSeek-R1 模型本地部署硬件配置
1. DeepSeek-R1-Distill-Qwen-1.5B

2. DeepSeek-R1-Distill-Qwen-7B

3. DeepSeek-R1-Distill-Llama-8B

4. DeepSeek-R1-Distill-Qwen-14B

5. DeepSeek-R1-Distill-Qwen-32B

6. DeepSeek-R1-Distill-Llama-70B

7. DeepSeek-R1-671B

⚠️ 注意
- 硬盘空间估算公式:
参数量 × 4 Bytes(FP32) × 1.2(冗余系数) - 显存估算公式:
参数量 × 2 Bytes(FP16) × 1.2(冗余系数) - 实际需求受批次大小、序列长度和框架效率影响,部署前建议:
- 使用
nvidia-smi监控资源; - 从量化模型开始测试;
- 参考官方文档调整并行策略。
- 使用