请教各位，推理MindSpore-Lab/DeepSeek-R1-0528-gs-A8W4模型用哪个docker镜像？

问题求助 Help
, ,
1

正在进行MindSpore-Lab/DeepSeek-R1-0528-gs-A8W4模型的推理部署。

参考的文档是： “魔乐社区

因文档较为简略，没有描述具体用到的是哪一个Docker镜像，所以推进受阻。

尝试过以下镜像（均失败）：

（1）”docker pull swr.cn-central-221.ovaijisuan.com/mindsporelab/infer_a8w4_ms_20250708:latest”

（2）”docker pull Harbor ”

麻烦各位大佬指点一下，非常感谢！

2

用户您好，已收到您上述的问题，建议您在该模型的讨论区中联系和咨询！

image
image981×540 49.5 KB

3

可以自己尝试构建镜像

构建镜像

用户可执行以下命令，拉取vLLM-MindSpore插件代码仓库：

git clone https://gitee.com/mindspore/vllm-mindspore.git

根据计算卡类型，构建镜像：

  • 若为Atlas 800I A2，则执行

    bash build_image.sh

  • 若为Atlas 300I Duo，则执行

    bash build_image.sh -a 310p
1 Like
4

嗯嗯，已经同步提了issue。

只是这个社区的回复率好低呀 :sob:

5

我们是在内网部署，而外网又没有ARM架构的机器进行编译，有点难办额 :sob:

6

此话题已在最后回复的 60 分钟后被自动关闭。不再允许新回复。