1. 系统环境
硬件环境(Ascend/GPU/CPU): Ascend910
MindSpore版本: mindspore=2.2.10
执行模式(PyNative/ Graph):PyNative/ Graph
Python版本: Python=3.8.15
操作系统平台: linux
2. 问题描述
在Ascend910环境,进行单节点8卡分离部署,全量模型正常执行,但是增量模型请求获取KV数据时,GE报错请求超时。
3. 根因分析
通过日志分析,怀疑是节点内device通信问题,使用的是Ascend910环境。
4. 解决方案
numa_config_global.json内容修改如下所示:
"nodes_topology":
{
"protocol": "TCP",
"type" : "star",
"topos" : [
{
"plane id" : 0,
"devices" : [0, 4]
},
{
"plane id" : 1,
"devices": [1, 5]
},
{
"plane id" : 2,
"devices": [2, 6]
},
{
"plane id" : 3,
"devices": [3, 7]
}
]
修改为:
"nodes_topology":
{
"protocol": "RDMA",
"type" : "star",
"topos" : [
{
"plane id" : 0,
"devices" : [0, 4]
},
{
"plane id" : 1,
"devices": [1, 5]
},
{
"plane id" : 2,
"devices": [2, 6]
},
{
"plane id" : 3,
"devices": [3, 7]
}
]