昇思学习营第七期·昇腾开发板 学习打卡_01

昇思学习营第七期·昇腾开发板 学习打卡_第一次:

一:昇思+DeepSeek+香橙派

DeepSeek

听老师讲课时,蒸馏模型的概念让我很蒙圈,上网搜索后得知:蒸馏模型是一种让大模型教小模型的技术,然后再结合昇腾开发板和DeepSeek两个关键词,突然觉得这个词语非常的形象!并且DeepSeek有如下优点:

  • 资源需求小的前提下,能力依旧出色;
  • 可在昇思框架上部署运行,提供接口方便用户使用
  • 大模型本身是开源项目,对开发者更加友好

香橙派

而相应搭配的香橙派,也为学生部署DeepSeek提供了条件:

  • 可支持多种操作系统
  • 支持昇思框架(MindSpore Lite)
  • 性能足够支撑学生部署属于自己的模型

昇思

华为开源的一款国产深度学习框架,昇思的优点也在视频中列出:

  • 全面支持类DeepSeekV3/R1MoE模型高性能训推
  • 简单易上手,人人都能上手部署DeepSeek-R1蒸馏模型
  • 高性能MOE预训练,性能提升30%

二:DeepSeek-R1-Distill-Qwen-1.5B在香橙派上的开发与适配

由于手上没有香橙派,于是我选择用实训平台jupytert上的算力资源。

查看版本信息

首先我们先cd到相关目录下查看版本信息

image-20250731014119992

接着使用cat命令查看版本信息,得到如下图

证明我们安装的为8.1版本。

查看我们的 mindspore对应版本

接下来我们通过pip show mindspore来查看我们的 mindspore对应版本,得到如下信息

对应的上。

查看我们的mindlp版本情况及安装

通过pip show mindnlp,查看我们的mindlp版本情况,得到如图

image-20250731014707886

没有安装,需要我们自己来安装,输入git clone MindSpore/mindnlp: Easy-to-use and high-performance NLP and LLM framework based on MindSpore, compatible with models and datasets of 🤗Huggingface. - mindnlp - OpenI - 启智AI开源社区提供普惠算力!

cd mindnlp
bash scripts/build_and_reinstall.sh即可完成安装,

如果git clone时遇到和我一样的报错时image-20250731015125897

可以cd ~回到根目录,然后注意我下载的时候需要开代理,如果遇见下载问题,可以往这两方面考虑。

继续运行pip show mindnlp,得到如图信息

image-20250731015423582

视频中时0.4,但我发现已经更新到了0.5,目前没发现问题,若以后遇到问题再解决!

检查mindspore是否与cann匹配:

python -c “import mindspore;mindspore.set_context(device_target=‘Ascend’);mindspore.run_check()”

发现成功匹配。