计划在昇腾 310P3 4卡环境中构建vLLM-MindSpore 镜像,部署并运行 Qwen3-Coder-30B 模型。
宿主机系统:openEuler 22.03 LTS SP3 aarch64,NPU 型号:昇腾 300I Duo(共 8 卡:0~7)
有什么方法能使用vllm-mindspore吗?是vllm-mindspore不支持310p构建吗?
初始镜像构建,脚本 / 依赖异常
-
install_depend_pkgs.sh中 vLLM/MindSpore 等依赖链接为目录地址(非.whl)、部分链接失效 / 不支持文件类型 -
build_image.sh会自动生成临时 Dockerfile,无视自定义 Dockerfile,强制走错误逻辑 -
执行
pip install .源码编译时,C++ 算子_C_ops构建失败
已尝试方案
-
修复
install_depend_pkgs.sh,替换为正确 whl 链接 -
自定义
Dockerfile.310P,内置 CANN 8.3.RC1 双 run 包 -
跳过官方脚本,直接用
docker build手动构建
CANN 8.3.RC1 成功安装,但**vLLM 源码编译依然失败
**

