获取Context Caching对象

功能介绍

获取Ems初始化的Context Caching对象，在访问Context Caching的相关接口前使用。

方法定义

Ems.get_cc()

请求参数说明

无。

返回结果说明

代码样例

以下为获取ContextCaching对象示例，用于后续执行该对象内部的方法。

from ems import Ems, EmsConfig, EmsException, CcConfig
# 初始化cc配置
cc_config = CcConfig(rank_id=8, device_id=0, model_id="llama2-13b")
# 初始化Ems
config = EmsConfig(cc_config=cc_config)
try:
    Ems.init(config)
except EmsException as e:
    print(f"exception: {e}.")
    exit(1)
cc = Ems.get_cc()
if cc is None:
    print(f"cc is not initialized.")