Ascend910环境分离部署时请求超时

1. 系统环境

硬件环境(Ascend/GPU/CPU): Ascend910
MindSpore版本: mindspore=2.2.10
执行模式(PyNative/ Graph):PyNative/ Graph
Python版本: Python=3.8.15
操作系统平台: linux

2. 问题描述

在Ascend910环境,进行单节点8卡分离部署,全量模型正常执行,但是增量模型请求获取KV数据时,GE报错请求超时。

3. 根因分析

通过日志分析,怀疑是节点内device通信问题,使用的是Ascend910环境。

4. 解决方案

numa_config_global.json内容修改如下所示:

"nodes_topology":  
{  
    "protocol": "TCP",  
    "type" : "star",  
    "topos" : [  
        {  
            "plane id" : 0,  
            "devices" : [0, 4]  
        },  
        {  
            "plane id" : 1,  
            "devices": [1, 5]  
        },  
        {  
            "plane id" : 2,  
            "devices": [2, 6]  
        },  
        {  
            "plane id" : 3,  
            "devices": [3, 7]  
        }  
    ]

修改为:

"nodes_topology":  
{  
    "protocol": "RDMA",  
    "type" : "star",  
    "topos" : [  
        {  
            "plane id" : 0,  
            "devices" : [0, 4]  
        },  
        {  
            "plane id" : 1,  
            "devices": [1, 5]  
        },  
        {  
            "plane id" : 2,  
            "devices": [2, 6]  
        },  
        {  
            "plane id" : 3,  
            "devices": [3, 7]  
        }  
    ]