模型开发与适配学习心得
很遗憾由于没有香橙派开发板，我无法进行实际操作，但通过认真学习老师的实操讲解，我对DeepSeek-R1-Distill-Qwen-1.5B模型在香橙派上的开发与适配有了深入且全面的认识。
一、开发步骤：环环相扣，步步为营
从系统烧录与启动开始，我了解到烧录官方镜像到SD卡时要注意区分8-12T镜像和20T镜像，设置swap这一步也不容忽视。CANN安装包含固件与驱动安装、toolkit安装、kernels安装以及导出环境变量等子步骤，每一步都有其特定的作用，比如固件与驱动安装是为了让硬件能够正常工作，导出环境变量则是为后续操作提供必要的环境支持。MindSpore安装涉及昇腾处理器配套软件安装、MindSpore安装和安装验证，这确保了MindSpore框架能够在香橙派上稳定运行。MindSpore NLP安装是针对自然语言处理任务的进一步配置。网络调试环节中，利用pytest进行模型训练和推理测试的方法让我眼前一亮，而解决MindSpore动态图下多线程异步导致调用栈不准确问题时，在代码中加入mindspore.set_context(pynative_synchronize=True)的技巧，也让我对模型开发过程中的问题排查有了新的思路。
二、环境准备：基础筑牢，事半功倍
环境准备CheckList明确了香橙派开发板（OrangePi Alpro 20T 24G）、CANN（社区版8.0.0beta1，镜像内置）、MindSpore（2.5.0，镜像内置2.4.10，需手动升级）、MindSpore NLP（0.4分支）的版本要求。这让我深刻认识到，在模型开发与适配过程中，环境的一致性和兼容性是确保模型顺利运行的基础。不同版本的软件可能存在差异，严格遵循版本要求能避免许多潜在的问题，为后续的开发工作筑牢根基。
三、经验分享：排忧解难，拨云见日
（一）算子缺失：抽丝剥茧，精准施策
面对算子缺失问题，通过执行特定测试用例，初步判断出是aclnn cumsum算子的问题，但无法定位到具体脚本行。开启同步后，确定错误具体位置是modeling_qwen2.py的cumsum算子问题。因Tensor.cumsum走的是aclnn的cumsum算子，所以将其切换成ops.cumsum，改为走aclop算子执行。这种解决问题的思路让我明白，在遇到技术难题时，要善于运用工具和方法，逐步排查，精准定位问题根源，然后采取针对性的解决措施。
（二）损失函数报错：追本溯源，对症下药
执行测试用例后，在开同步前提下，看出是CrossEntropyLoss的问题。查阅文档可知，损失函数相关问题建议使用mindspore.ops.primitive中的接口替换，其中支持昇腾硬件的接口为mindspore.ops.SoftmaxCrossEntropyWithLogits。进一步查阅文档发现该损失函数的注意点，包括labels输入需要one-hot格式、logits和labels的数据类型需要一致、输出不是零维Tensor而是(loss, dlogits)的tuple且loss是Tensor。针对这些注意点，需要对代码进行修改，包括将损失函数修改为mindspore.ops.SoftmaxCrossEntropyWithLogits、将labels修改为one-hot格式、统一labels和logits的数据类型并计算获取loss、按照原本默认的reduction='mean’转成零维Tensor。这一系列操作让我学会了如何从问题识别到查阅文档找到合适的接口替换，再根据接口要求对代码进行针对性修改，每一步都体现了严谨的开发态度。
（三）Tensor索引/切片报错：明察秋毫，修正于微
执行测试用例后，发现原代码中的best_idx类型为tuple，需要将其转换成Tensor来解决报错问题。这提醒我在代码编写过程中要注意数据类型的一致性，一个小小的数据类型问题可能会导致整个程序运行出错，因此在开发过程中要保持高度的警惕性，关注每一个细节。
四、总结与展望
通过这次学习，我不仅掌握了DeepSeek-R1-Distill-Qwen-1.5B模型在香橙派上开发与适配的具体流程和方法，更重要的是学到了解决实际问题的思路和技巧。这些知识将为我今后在类似模型开发与适配工作中提供宝贵的经验和指导，帮助我更高效地应对可能遇到的各种挑战。我相信，只要将这些所学运用到实践中，不断探索和总结，我在模型开发领域的能力将会得到更大的提升。同时，我也期待在未来能够有机会使用香橙派开发板进行实际操作，将所学知识真正运用到实践中，进一步加深对模型开发与适配的理解和掌握。