获取详细信息

功能介绍

EMS捕获到接口执行异常，可以通过接口获取异常详细信息。

方法定义

EmsExcepiton.message()

返回结果

代码样例

本示例用于获取异常详细描述信息 。

import os 
import torch, torch_npu 
from ems import Ems, EmsConfig, EmsException, CcConfig_v1, CcKvOption, KvBufferWrapper 
# 初始化cc配置 
cc_config = CcConfig_v1(rank_id=8, device_id=0, model_id="llama2-13b") 
# 初始化Ems 
config = EmsConfig(cc_config_v1=cc_config) 
try: 
    Ems.init(config) 
except EmsException as e: 
    print(f"exception: {e}.") 
    exit(1) 
# 获取context caching对象 
cc = Ems.get_cc() 
if cc is None: 
    print("cc is None.") 
    exit(1) 
# 设置save请求的超时时间 
option = CcKvOption(timeout=5000) 
 # hash语义下的保存和加载显存数据，参数：slot_mapping + hashes + offsets
block_size = 4
# 组成参数列表 
slot_mapping = [0, 1, 2, 3, 4, 5] 
hashes = [0x1111, 0x2222] 
offsets = [4, 4]
# 多次异步下发异步load请求，增加load并发能力。 
try: 
    result = cc.load(slot_mapping, hashes, offsets, option) 
except EmsException as e: 
    print(f"failed to load, message: {e.message()}.")