# 推理代码包 |──llm_tools # 推理工具 代码上传至SFS Turbo 将AscendSpeed代码包AscendCloud-LLM-xxx.zip直接上传至E CS 服务器 中的SFS Turbo中，例如存

查看更多 →

准备代码 本教程中用到的训练推理代码和如下表所示，请提前准备好。 获取模型软件包和权重文件 本方案支持的模型对应的软件和依赖包获取地址如表1所示，模型列表、对应的开源权重获取地址如表2所示。 表1 模型对应的软件包和依赖包获取地址 代码包名称 代码说明 下载地址 AscendCloud-6

查看更多 →

代码浏览 CodeArts IDE提供了多种浏览Python代码的功能。除了代码导航中描述的常规代码导航外，您还可以使用一些特定为Python语言服务的功能。 转到定义 结构 CodeLens 查找所有引用 查找所有Supers 查找所有实现 类型层次结构 父主题： Python

查看更多 →

代码模型的基础构造型与自定义构造型元素才认定为代码模型元素）。 在代码模型图上创建出来的代码模型元素； 引用到代码模型中的代码元素（包含关联空间中的引用的代码元素）； 如何检查 查询基于模型图（只有代码模型图内的代码元素参与构树）并展示不匹配元素构出的代码模型架构树，找出所有代码元素中不在架构树中的代码元素。 正确示例

查看更多 →

弹性云服务器控制台获取您的服务器所绑定的弹性公网IP地址。 图1 查看游戏服务器的公网IP地址（一键快速部署） 图2 查看游戏服务器的公网IP地址（手动快速部署） 打开幻兽帕鲁游戏，进入主页，单击“加入多人游戏（专用服务器）”。 在服务信息配置页面输入步骤一获取游戏服务器的公网I

查看更多 →

故障代码 【功能说明】 用于维护资产设备的故障信息 【操作说明】 新增：单击“新增”按钮 -> 输入故障代码信息 -> 单击“保存”按钮； 图1 输入故障代码信息 修改：选择故障代码 -> 单击“修改”按钮 -> 修改故障代码信息 -> 单击“保存”按钮； 图2 修改故障代码信息

查看更多 →

”选择“代码编辑”。 图1 信息抽取 选择“默认抽取”开关。 图标说明开关处于开启状态。开启后，在每个数据类别中，为每个数据字段建立同名抽取项，抽取函数为${数据字段名}。 图标说明开关处于关闭状态，需要编辑json格式代码。 在“信息抽取”对话框下方编辑json格式代码。 在“

查看更多 →

代码解析 Demo代码如下，具体实现的是模拟电机设备上报数据，SDK获取上报数据做进一步分析处理。如果遇到状态为error，则调用事先在产品模型定义好的设备命令。对于未指定MOTOR_PRODUCT_ID的产品上报的数据将继续上报给云端。 #include "edge.h" #include

查看更多 →

代码解析 项目结构如下 ApiController：提供被北向应用NA调用的接口。 Application：主启动类 AuthFilter：鉴权过滤器。 ConfigController：被云端调用进行配置处理。 ConfigService：配置管理服务 。 ItIntegrat

查看更多 →

代码调试 CodeArts IDE Online 支持C/C++工程调试，调试之前需满足以下条件： 编译时，已在“.theia/tasks.json”中需要加上调试参数“-g”，如：“g++ -g -o hello helloworld.cpp”，默认已经添加，如没有，需要手动添加。

查看更多 →

Code代码 Code代码也被称为函数连接器，仅包含“运行动作”一个执行动作。 连接参数 Code代码连接器无需认证，无连接参数。 运行动作 输入参数 用户配置运行动作执行动作，相关参数说明如表1所示。 表1 运行动作属性配置输入参数说明 参数 必须 说明 函数名称 是 选择下拉

查看更多 →

代码生成 简介 构造函数生成 Override/implement方法 组织imports 生成getters和setters 生成hashCode()和equals() 测试 生成toString() 父主题： Java

查看更多 →

测试代码 Python扩展支持使用unittest和pytest框架进行测试。CodeArts可以帮助您配置框架集成，并提供专用的“测试”视图，让您能够方便地识别和运行测试。 以下是一个如何创建和运行一个unittest测试的示例。 创建一个测试对象，也就是新建一个名为 “inc_dec

查看更多 →

代码重构 简介 内联变量 引入变量 变量重命名 父主题： 代码编辑

查看更多 →

准备代码 软件配套版本 本方案支持的软件配套版本和依赖包获取地址如表1所示。 表1 软件配套版本和获取地址 软件名称 说明 下载地址 AscendCloud-6.3.909-xxx.zip 说明： 软件包名称中的xxx表示时间戳。 包含了本教程中使用到的推理部署代码和推理评测代码、

查看更多 →

软件包名称中的xxx表示时间戳。 包含了本教程中使用到的推理部署代码和推理评测代码、推理依赖的算子包。代码包具体说明请参见模型软件包结构说明。 获取路径：Support-E 说明： 如果上述软件获取路径打开后未显示相应的软件信息，说明您没有下载权限，请联系您所在企业的华为方技术支持下载获取。 模型软件包结构说明

查看更多 →

准备代码 本教程中用到的训练、推理代码如下表所示，请提前准备好。 获取模型软件包和权重文件 本方案支持的模型对应的软件和依赖包获取地址如表1所示，模型列表、对应的开源权重获取地址如表1所示。 表1 模型对应的软件包和依赖包获取地址 代码包名称 代码说明 下载地址 AscendCloud-6

查看更多 →

S中。 结合准备数据、准备权重、准备代码，将数据集、原始权重、代码文件都上传至OBS后，OBS桶的目录结构如下。 <bucket_name> |──llm_train # 解压代码包后自动生成的代码目录，无需用户创建 |──

查看更多 →

软件包名称中的xxx表示时间戳。 包含了本教程中使用到的推理部署代码和推理评测代码、推理依赖的算子包。代码包具体说明请参见模型软件包结构说明。 获取路径：Support-E 说明： 如果上述软件获取路径打开后未显示相应的软件信息，说明您没有下载权限，请联系您所在企业的华为方技术支持下载获取。 模型软件包结构说明

查看更多 →

171ba0b3"。该问题会导致代码安装失败，会在后续版本修复。 代码上传至OBS 将AscendSpeed代码包AscendCloud-3rdLLM-905-xxx.zip在本地解压缩后，将llm_train文件上传至OBS中。 结合准备数据、准备权重、准备代码，将数据集、原始权重、代码文件都上传至OBS后，OBS桶的目录结构如下。

查看更多 →

软件包名称中的xxx表示时间戳。 包含了本教程中使用到的vLLM 0.3.2推理部署代码和推理评测代码。代码包具体说明请参见模型软件包结构说明。 获取路径：Support-E 说明： 如果没有下载权限，请联系您所在企业的华为方技术支持下载获取。 AscendCloud-OPP-6.3.905-xxx

查看更多 →