昇思学习营- 模型推理和性能优化打卡



本次实践在昇思大模型平台的 Ascend 环境中操作,先加载使用 DeepSeek 进行微调并蒸馏的模型,配置 GenerationConfig 参数,然后使用 JIT 编译进行推理加速,本次学习到如何使用模型推理并优化推理的性能,受益匪浅。