准备代码 本教程中用到的训练推理代码和如下表所示，请提前准备好。 获取模型软件包和权重文件 本方案支持的模型对应的软件和依赖包获取地址如表1所示，模型列表、对应的开源权重获取地址如表2所示。 表1 模型对应的软件包和依赖包获取地址 代码包名称 代码说明 下载地址 AscendCloud-6

查看更多 →

软件包名称中的xxx表示时间戳。 包含了本教程中使用到的推理部署代码和推理评测代码、推理依赖的算子包。代码包具体说明请参见模型软件包结构说明。 获取路径：Support-E 说明： 如果上述软件获取路径打开后未显示相应的软件信息，说明您没有下载权限，请联系您所在企业的华为方技术支持下载获取。 模型软件包结构说明

查看更多 →

h_obs.py工具将其它节点的权重文件同步上传到主节点。修改代码如图3。 图3 多机同步权重文件 代码上传至OBS 将llm_train文件上传至OBS中。 结合准备数据、准备权重、准备代码，将数据集、原始权重、代码文件都上传至OBS后，OBS桶的目录结构如下。 <bucket_name>

查看更多 →

代码签名 为了保障用户的代码安全，防止代码文件损坏或被篡改导致代码不一致问题，保证被执行的函数代码为正确版本，当函数创建或修改代码时，FunctionGraph对用户的函数代码签名加密，为其生成代码签名，并存储在函数元信息内。 FunctionGraph在函数执行时，为当前执行的

查看更多 →

件代码示例。 自定义不同类型的子组件。 提供多种类型的子组件，如文本组件、图片组件、按钮组件等，可按需调用。 编写子组件的HTML、 CSS 、JavaScirpt。 子组件代码示例提供了各类型子组件的HTML、 CS S和JavaScript代码段供参考，开发时请以实际使用框架和组件库为准。

查看更多 →

显示所有角色和用户的绑定关系 功能描述 在当前database显示角色与某用户的绑定关系。 语法格式 1 SHOW PRINCIPALS ROLE; 关键字 无。 注意事项 变量ROLE必须存在。 示例 1 SHOW PRINCIPALS role1; 父主题： 数据权限管理

查看更多 →

故障代码 【功能说明】 用于维护资产设备的故障信息 【操作说明】 新增：单击“新增”按钮 -> 输入故障代码信息 -> 单击“保存”按钮； 图1 输入故障代码信息 修改：选择故障代码 -> 单击“修改”按钮 -> 修改故障代码信息 -> 单击“保存”按钮； 图2 修改故障代码信息

查看更多 →

在“代码编辑”页签编辑json代码配置信息抽取时，可单击“交互界面”，切换至“交互界面”页签，查看信息抽取前后的相关字段。 单击“保存”，完成信息抽取。 如果创建多个数据源，请完成所有数据源的信息抽取配置。配置数据源请参见配置数据源。 示例 以一个电影实体为例，抽取信息前后的实体信息如图2所示，代码示例如下所示：

查看更多 →

emo代码里的output_name）。 调用设备命令，只有当设置的MOTOR_PRODUCT_ID的当前上报数据的设备的产品ID吻合，并且显示状态为error时，通过edge_call_device_command调用设备命令将设备重启。 处理过程结束。 修改Demo里的参数可参考修改代码。

查看更多 →

Algorithm：表示签名使用的算法名称。 AK：表示客户端身份。 SignedTime：表示签名时间戳。 Signature：为使用由Algorithm指定的签名算法对以上相应字段进行签名的结果。 对于发送到Api GW的请求，ItClient中提供的**Json()方法已做鉴权相关处理。

查看更多 →

Program”模板。 修改其中的“program”，指向可执行文件。 添加断点 将鼠标移到需要添加断点的行的左侧，显示暗红色小圆点后单击鼠标左键，红点高亮后说明打断点成功。 在调试视图中可以查看所有的断点，并可勾选是否启用。 调试代码 在调试视图中选择添加调试配置时添加的配置。 单击，或者使用“F5”快捷键，开始调试。

查看更多 →

代码生成 简介 构造函数生成 Override/implement方法 组织imports 生成getters和setters 生成hashCode()和equals() 测试 生成toString() 父主题： Java

查看更多 →

单击CodeArts IDE底部面板中的“测试”按钮（）打开“测试”视图，单击“Configure Python Tests”按钮。 在弹出的对话框中，选择您想要启用集成的测试框架，在本例中是 “unittest”。 在接下来的对话框中，选择包含测试源文件的项目文件夹。在我们的例子中，是项目根文件夹（“

查看更多 →

代码重构 简介 内联变量 引入变量 变量重命名 父主题： 代码编辑

查看更多 →

推理依赖的算子包。代码包具体说明请参见模型软件包结构说明。 获取路径：Support-E 说明： 如果上述软件获取路径打开后未显示相应的软件信息，说明您没有下载权限，请联系您所在企业的华为方技术支持下载获取。 模型软件包结构说明 本教程需要使用到的AscendCloud-6.3.

查看更多 →

软件包名称中的xxx表示时间戳。 包含了本教程中使用到的推理部署代码和推理评测代码、推理依赖的算子包。代码包具体说明请参见模型软件包结构说明。 获取路径：Support-E 说明： 如果上述软件获取路径打开后未显示相应的软件信息，说明您没有下载权限，请联系您所在企业的华为方技术支持下载获取。 模型软件包结构说明

查看更多 →

准备代码 本教程中用到的训练推理代码和如下表所示，请提前准备好。 获取模型软件包 本方案支持的模型对应的软件和依赖包获取地址如表1所示，模型列表、对应的开源权重获取地址如表2所示。 表1 模型对应的软件包和依赖包获取地址 代码包名称 代码说明 下载地址 AscendCloud-6

查看更多 →

准备代码 本教程中用到的模型软件包如下表所示，请提前准备好。 获取模型软件包 本方案支持的模型对应的软件和依赖包获取地址如表1所示。 表1 模型对应的软件包和依赖包获取地址 代码包名称 代码说明 下载地址 AscendCloud-6.3.907-xxx.zip 说明： 软件包名称中的xxx表示时间戳。

查看更多 →

软件包名称中的xxx表示时间戳。 包含了本教程中使用到的推理部署代码和推理评测代码、推理依赖的算子包。代码包具体说明请参见模型软件包结构说明。 获取路径：Support-E 说明： 如果上述软件获取路径打开后未显示相应的软件信息，说明您没有下载权限，请联系您所在企业的华为方技术支持下载获取。 模型软件包结构说明

查看更多 →

准备代码 本教程中用到的模型软件包如下表所示，请提前准备好。 获取模型软件包 本方案支持的模型对应的软件和依赖包获取地址如表1所示。 表1 模型对应的软件包和依赖包获取地址 代码包名称 代码说明 下载地址 AscendCloud-3rdLLM-905-xxx.zip 说明： 软件包名称中的xxx表示时间戳。

查看更多 →

service_predict.py # 发送请求的服务。支持vllm的openai，atb的tgi模板 ├── ... ├──benchmark_tools #性能评测 ├── benchmark.py # 可以基于默认的参数跑完静态benchmark和动态benchmark

查看更多 →