# 推理代码包 |──llm_tools # 推理工具 代码上传至OBS 将llm_train文件上传至OBS中。 结合准备数据、准备权重、准备代码，将数据集、原始权重、代码文件都上传至OBS后，OBS桶的目录结构如下。

查看更多 →

# 推理代码包 |──llm_tools # 推理工具 代码上传至OBS 将llm_train文件上传至OBS中。 结合准备数据、准备权重、准备代码，将数据集、原始权重、代码文件都上传至OBS后，OBS桶的目录结构如下。

查看更多 →

S中。 结合准备数据、准备权重、准备代码，将数据集、原始权重、代码文件都上传至OBS后，OBS桶的目录结构如下。 <bucket_name> |──llm_train # 解压代码包后自动生成的代码目录，无需用户创建 |──

查看更多 →

软件包名称中的xxx表示时间戳。 包含了本教程中使用到的推理部署代码和推理评测代码、推理依赖的算子包。代码包具体说明请参见模型软件包结构说明。 获取路径：Support-E 说明： 如果上述软件获取路径打开后未显示相应的软件信息，说明您没有下载权限，请联系您所在企业的华为方技术支持下载获取。 模型软件包结构说明

查看更多 →

171ba0b3"。该问题会导致代码安装失败，会在后续版本修复。 代码上传至OBS 将AscendSpeed代码包AscendCloud-3rdLLM-905-xxx.zip在本地解压缩后，将llm_train文件上传至OBS中。 结合准备数据、准备权重、准备代码，将数据集、原始权重、代码文件都上传至OBS后，OBS桶的目录结构如下。

查看更多 →

软件包名称中的xxx表示时间戳。 包含了本教程中使用到的vLLM 0.3.2推理部署代码和推理评测代码。代码包具体说明请参见模型软件包结构说明。 获取路径：Support-E 说明： 如果没有下载权限，请联系您所在企业的华为方技术支持下载获取。 AscendCloud-OPP-6.3.905-xxx

查看更多 →

软件包名称中的xxx表示时间戳。 包含了本教程中使用到的推理部署代码和推理评测代码、推理依赖的算子包。代码包具体说明请参见模型软件包结构说明。 获取路径：Support-E 说明： 如果没有下载权限，请联系您所在企业的华为方技术支持下载获取。 模型软件包结构说明 本教程需要使用到的AscendCloud-6.3

查看更多 →

准备代码 本教程中用到的训练推理代码和如下表所示，请提前准备好。 获取模型软件包 本方案支持的模型对应的软件和依赖包获取地址如表1所示，模型列表、对应的开源权重获取地址如表2所示。 表1 模型对应的软件包和依赖包获取地址 代码包名称 代码说明 下载地址 AscendCloud-6

查看更多 →

准备代码 本教程中用到的训练、推理代码如下表所示，请提前准备好。 获取模型软件包和权重文件 本方案支持的模型对应的软件和依赖包获取地址如表1所示，模型列表、对应的开源权重获取地址如表1所示。 表1 模型对应的软件包和依赖包获取地址 代码包名称 代码说明 下载地址 AscendCloud-6

查看更多 →

AXB模式 样例 AXB模式绑定接口 AXB模式解绑接口 AXB模式绑定信息修改接口 AXB模式绑定信息查询接口 获取录音文件下载地址接口 呼叫事件通知接口 话单通知接口 短信通知接口 环境要求 基于Python 3.7.0版本，要求Python 3.0及以上版本。 引用库 requests

查看更多 →

AX模式 样例 AX模式绑定接口 AX模式解绑接口 AX模式绑定信息修改接口 AX模式绑定信息查询接口 AX模式设置临时被叫接口 获取录音文件下载地址接口 呼叫事件通知接口 话单通知接口 短信通知接口 环境要求 基于Python 3.7.0版本，要求Python 3.0及以上版本。

查看更多 →

AXYB模式 样例 AXYB模式绑定接口 AXYB模式解绑接口 AXYB模式绑定信息查询接口 获取录音文件下载地址接口 呼叫事件通知接口 话单通知接口 环境要求 基于.NET Core SDK 2.1.401版本，要求.NET Core 2.0及以上版本或.NET Framework

查看更多 →

AX模式 样例 AX模式绑定接口 AX模式解绑接口 AX模式绑定信息修改接口 AX模式绑定信息查询接口 AX模式设置临时被叫接口 获取录音文件下载地址接口 呼叫事件通知接口 话单通知接口 短信通知接口 环境要求 基于Node.js 8.12.0版本，要求Node.js 7.0.0及以上版本。

查看更多 →

AXE模式 样例 AXE模式绑定接口 AXE模式解绑接口 AXE模式绑定信息查询接口 获取录音文件下载地址接口 呼叫事件通知接口 话单通知接口 环境要求 基于Node.js 8.12.0版本，要求Node.js 7.0.0及以上版本。 本文档所述Demo在提供服务的过程中，可能会

查看更多 →

对接模式 座席事件获取方式 C4 座席操作类接口鉴权方式 座席连接超时检测 座席事件推送方式 父主题： 简介

查看更多 →

AX模式 AX模式接口使用说明 AX模式绑定接口 AX模式解绑接口 AX模式绑定信息修改接口 AX模式绑定信息查询接口 AX模式设置临时被叫接口 AX模式呼叫事件通知接口 AX模式话单通知接口 X号码状态通知接口 获取录音文件下载地址接口 短信通知接口

查看更多 →

AXB模式 AXB模式接口使用说明 AXB模式绑定接口 AXB模式解绑接口 AXB模式绑定信息修改接口 AXB模式绑定信息查询接口 AXB模式呼叫事件通知接口 AXB模式话单通知接口 X号码状态通知接口 获取录音文件下载地址接口 短信通知接口

查看更多 →

X模式 X模式接口使用说明 X模式呼叫事件通知接口 X模式话单通知接口 X号码状态通知接口 获取录音文件下载地址接口 短信通知接口

查看更多 →

故障模式页面 参考表1 故障模式参数说明填写故障模式信息。 图2 创建故障模式 表1 故障模式参数说明 参数名 参数描述 故障模式名称 用户自定义故障模式名称 企业项目 故障模式资源所属的企业项目，默认为default 所属应用 演练目标所属的应用 事件级别评估 参考事件中心事件级别定义

查看更多 →

会话模式 会话模式是一种邮件阅读模式，将同一主题的多封往来邮件转化为一封会话邮件，可简化邮件列表，使阅读更加轻松。 设置入口：【设置->通用设置->阅读模式】切换会话模式功能。 注意：会话模式功能当前小范围体验中，后续将逐步全面开放。 父主题： 设置

查看更多 →

只读模式 独享型实例测试列表 表1 只读模式测试数据（X86架构多AZ场景） 模型 表数量 表数据量 线程 规格 TPS QPS 只读模式 250 25000 64 2c8g 7892.35 78923.54 64 2c16g 7989.1 79891.04 64 4c16g 21694

查看更多 →