test 4

我是单卡单机跑模型的训练和微调,use_parallel设置成False而且各种并行都设成了1,但总是报Distributed communication is not initialized,到底是什么问题?

报错:

用户您好,还请将问题标题和信息补充完整,方便专家分析解答~

我是单卡单机跑模型的训练和微调,use_parallel设置成False而且各种并行都设成了1,但总是报Distributed communication is not initialized,到底是什么问题?

报错:

请完善问题帖子的标题!

@Nyquispei 有相似问题在进行全参微调时,显示HFDataLoader: process.type错误 已解答,如果有要补充信息,请在新问题中补充,这里将进行结贴,谢谢支持!

此话题已在最后回复的 60 分钟后被自动关闭。不再允许新回复。