1 系统环境
硬件环境(Ascend/GPU/CPU): Ascend
MindSpore版本: 2.2
执行模式（PyNative/ Graph）: 不限
2 问题描述
qwen1.5_1.8B推理出现回答混乱的情况
2024-05-09 10:14:49,029 - mindtormers［mindtormers/generation/text_generator.py:1103] - INFO - Generation Contig is: {'max_length': 8192, rax_new_tokens': None, "num beams': 1, . 'do sample': True. 'use past': True, 'temperature': 1.0, 'top k': 1, 'top_p': 0.8, "repetition_penalty': 1, 'encoder_repetition_penalty':1.0, 'renormalize_logits": False ,'pad_token_id': 151645,' bos_token_id': 1, 'eos_token_ id': 151645, _from model config': True}
2024-05-09 10:14:49,030 - mindformers[mindformers/generation/text_generator.py:174] - INFO - The generation mode will be **SAMPLE**
2024-05-09 10:14:49,031 - mindformers[mindformers/generat ion/text_generator.py:551] - WARNING - max_length 8192 can not exceeds model seq_length 2048, set max_length = seq_length.
2024-05-09 10:18:36,522-- mindformers[mindformers/generation/text_generator .py:724] - INFO - total time: 227.4914104938507 s; generated tokens: 2039 tokens; generate speed: 8.962975769386757 tokens/s
2024-05-09 10:18:36,685 - mindformers[mindformers/trainer/base_t rainer.py:940] - INFO - output result is: [{'text_generat ion_text': ['帮助我制定一份去上海的旅游攻略，以上海的旅游规划，以上海的旅游攻略，以上海的旅游攻略， 以上海的旅游攻略，以上海的旅游景点，以景点景点景点景 购买，游玩， 门票购买，门票购买门票购实，门票购 实，门票购买，购实门票购实门票购实门票购实，购买， 购买购实门熏购实购实购买购买门票购实购买购买购实购实购买购实购买购买购买购买购购买购买购买购买购买购买购买购买购买购买购买购买购买购买购买购买购买购买购买购买购买购买购买门票购买 门栗购买门票购买门票购买门栗购买门票购买门票购买门票购买门票门票门票门票 门票门票门票门票门票门票 门票门票门票购买门票购买门票购买门票购买门票购买门票购买门票购买门票购买门票购买 门票购买门票购买门票购买门票购买门票购买门票购买门票购买门票购买门票购买门 票购买门票购买门票购买门票购买门 票购买门票购买门票购买 门票购买地购买地点购买门票购买门票购买地点购买地点购买门票购买地点购买门票购买门票购买门票购买地点购买地点购买门票购买地点购买地点购买门票购买购买购购买地点购买购买地点购买购买购买购买购买购买购买地点购买购买购买购买购买地点购买购买购买购买购买购买购买购买购买购买购买地点购买地点购买购买购买购买地点购买购买购买购买购买购买购买购买购买购买购买地点购买购买购买购买购买购买购买地点购买购买购买购买地点购买地点购买购买购买购买购买购买购买购买购买地点购买地点购买购买购买购买购买购买购买购买购买购买购买购买购买购买购买购买购买地点购买购买购买购买购买购买购买购买购买购买购买购买购买购买费购买购买购买购买购买购买贝构买购买购买购买购买购买购买费购买购买购买购买购买购买购买费购买购买购买购买购买购买购买购买购买购买购买地点购买购买购买购买购买购买购买购买购买购买购买购买购买购买购买购买购买购买地点购买购买购买购买购买购买购买购买购买购买购买购买地点购买购买购买购买购买购买购买购买购买购买购买购买地点购买购买购买购买购买地点购买购买购买购买购买购买购买购买购买购买购买购买地点购买购买购买购买购买购买购买购买购买!购买买购买地点购买购买购买!购买购买地点购买购买购买购买购买购买地点购买购买购买购买购买地点购买购买购买购买购买购买购买购买购买购买购买购买地点购买购买购买购买购买地点购买购买购买购买购买购买购买购买购买购买购买购买购买购买购买购买购买购买购买购买购买购买购买购买购买购买购买购买购买购买购买购买购买购买购买购买购买购买购买购买购买购买购买购买购买购买购买购买购买购买购买购买购买购买购买购买购买购买购买购买费购买购买购买购买购买购买购买费购买购买购买购买购买购买费购买购买购买购买购买购买购买费购买购买购买购买购买购买购买购买购买购买购买购买购买购买购买购买购买购买购买购买购买购买购买购买购买购买购买购买购买购买购买购买购买购买购买购买购买购买购买购买购买购买购买购买购买购买购买购买购买购买购买购买购买购买购买购买购买购买购买购买购买购买购买购买购买购买购买购买购买购买购买购买购买购买购买购买购买购买购买购买购买购买购买购买购买购买购买购买购买购买购买购买购买购买购买购买购买购买购买购买购买购买购买费购买购买购买购买购买购买购买购买购买购
买购买购买购买购买购买购买购买购买购买购买购买购买购买购买购买购买购买购买购买购买购买购买购买购买购买购买购买购买购买购买购买购买购买购买购买购买购买购买购买购买购买购买购买购买购买购买购买购买购买购买购买购买购买购买购买购买购买购买购买购买购买购买购买购买购买购买购买购买购买购买购买购买购买购买费买购买购买购买购买购买费购买购买购买购买购买购买购买购买购买购买购买购买购买购买购买购买购买购买购买购买购买购买购买购买购买购买购买购买购买购买购买购买购买购买购买购买购买购买购买购买购买购买购买购买购买购买购买购买购买购买购买购买购买购买购买购买购买购买购买购买购买购买购买购买购买购买购买购买购买购买购买购买购买购买购买购买购买购买购买购买购买购买购买购买购买购买购买购买购买购买购买购买
3 解决方案
属于环境问题，装错了nnae;改为toolkit后推理正常，使用nnae进行推理时需要先设置：
export MS_GE_TRAIN=0
export MS_ENABLE_GE=1
export MS_ENABLE_REF_MODE=1
yaml根据hg上的Transformer的confing.json来修改