很好的MindSpore关于模型微调和推理课程

活动公告 Activities 活动打卡
1

课程学习

48050cc3-6e48-4964-a50a-1f5eb6e93336
48050cc3-6e48-4964-a50a-1f5eb6e933361109×291 22.3 KB

:books: 学习内容

  • DeepSeek-R1-Distill-Qwen-1.5B 模型开发与适配
  • DeepSeek-R1-Distill-Qwen-1.5B 模型LoRA微调
  • DeepSeek-R1-Distill-Qwen-1.5B 模型推理和性能优化

:light_bulb: 学习收获

  • 异思平台支持模型版本管理、监控和OTA更新
  • 香橙派OrangePi 5B搭载RK3588S芯片，具备8核CPU+6TOPS NPU
  • DeepSeek-R1-Distill是1.5B参数的蒸馏模型，适合边缘部署
  • 三者的结合可实现低延迟AI推理应用

:puzzle_piece: 学习难点

  • 边缘计算资源约束与模型压缩的平衡
  • 异构硬件加速的配置复杂度
  • 微调后模型量化精度损失
  • 量化精度损失补偿