学习心得
以DeepSeek-R1-Distill-Qwen-1.5B 为例,由于部署DeepSeek-R1 成本高,而使用成本更低的开源模型Qwen2或者Qwen2.5进行部署,利用知识蒸馏可以既保证模型推理能力,又显著降低开发、部署成本
了解香橙派平台上昇腾进行DeepSeek模型开发的流程以及具体需要注意的细节
学习心得
以DeepSeek-R1-Distill-Qwen-1.5B 为例,由于部署DeepSeek-R1 成本高,而使用成本更低的开源模型Qwen2或者Qwen2.5进行部署,利用知识蒸馏可以既保证模型推理能力,又显著降低开发、部署成本
了解香橙派平台上昇腾进行DeepSeek模型开发的流程以及具体需要注意的细节