# 推理代码包 |──llm_tools # 推理工具 代码上传至OBS 将llm_train文件上传至OBS中。 结合准备数据、准备权重、准备代码，将数据集、原始权重、代码文件都上传至OBS后，OBS桶的目录结构如下。

查看更多 →

准备代码 本教程中用到的训练推理代码和如下表所示，请提前准备好。 获取模型软件包 本方案支持的模型对应的软件和依赖包获取地址如表1所示，模型列表、对应的开源权重获取地址如表2所示。 表1 模型对应的软件包和依赖包获取地址 代码包名称 代码说明 下载地址 AscendCloud-6

查看更多 →

S中。 结合准备数据、准备权重、准备代码，将数据集、原始权重、代码文件都上传至OBS后，OBS桶的目录结构如下。 <bucket_name> |──llm_train # 解压代码包后自动生成的代码目录，无需用户创建 |──

查看更多 →

软件包名称中的xxx表示时间戳。 包含了本教程中使用到的推理部署代码和推理评测代码、推理依赖的算子包。代码包具体说明请参见模型软件包结构说明。 获取路径：Support-E 说明： 如果上述软件获取路径打开后未显示相应的软件信息，说明您没有下载权限，请联系您所在企业的华为方技术支持下载获取。 模型软件包结构说明

查看更多 →

171ba0b3"。该问题会导致代码安装失败，会在后续版本修复。 代码上传至OBS 将AscendSpeed代码包AscendCloud-3rdLLM-905-xxx.zip在本地解压缩后，将llm_train文件上传至OBS中。 结合准备数据、准备权重、准备代码，将数据集、原始权重、代码文件都上传至OBS后，OBS桶的目录结构如下。

查看更多 →

软件包名称中的xxx表示时间戳。 包含了本教程中使用到的vLLM 0.3.2推理部署代码和推理评测代码。代码包具体说明请参见模型软件包结构说明。 获取路径：Support-E 说明： 如果没有下载权限，请联系您所在企业的华为方技术支持下载获取。 AscendCloud-OPP-6.3.905-xxx

查看更多 →

软件包名称中的xxx表示时间戳。 包含了本教程中使用到的推理部署代码和推理评测代码、推理依赖的算子包。代码包具体说明请参见模型软件包结构说明。 获取路径：Support-E 说明： 如果没有下载权限，请联系您所在企业的华为方技术支持下载获取。 模型软件包结构说明 本教程需要使用到的AscendCloud-6.3

查看更多 →

准备代码 本教程中用到的训练推理代码和如下表所示，请提前准备好。 获取模型软件包和权重文件 本方案支持的模型对应的软件和依赖包获取地址如表1所示，模型列表、对应的开源权重获取地址如表2所示。 表1 模型对应的软件包和依赖包获取地址 代码包名称 代码说明 下载地址 AscendCloud-3rdLLM-6

查看更多 →

准备代码 软件配套版本 本方案支持的软件配套版本和依赖包获取地址如表1所示。 表1 软件配套版本和获取地址 软件名称 说明 下载地址 AscendCloud-6.3.909-xxx.zip 说明： 软件包名称中的xxx表示时间戳。 包含了本教程中使用到的推理部署代码和推理评测代码、

查看更多 →

软件包名称中的xxx表示时间戳。 包含了本教程中使用到的推理部署代码和推理评测代码、推理依赖的算子包。代码包具体说明请参见模型软件包结构说明。 获取路径：Support-E 说明： 如果上述软件获取路径打开后未显示相应的软件信息，说明您没有下载权限，请联系您所在企业的华为方技术支持下载获取。 模型软件包结构说明

查看更多 →

准备代码 本教程中用到的训练推理代码和如下表所示，请提前准备好。 获取模型软件包 本方案支持的模型对应的软件和依赖包获取地址如表1所示，模型列表、对应的开源权重获取地址如表2所示。 表1 模型对应的软件包和依赖包获取地址 代码包名称 代码说明 下载地址 AscendCloud-6

查看更多 →

# 推理代码包 |──llm_tools # 推理工具 代码上传至OBS 将llm_train文件上传至OBS中。 结合准备数据、准备权重、准备代码，将数据集、原始权重、代码文件都上传至OBS后，OBS桶的目录结构如下。

查看更多 →

”选择“代码编辑”。 图1 信息抽取 选择“默认抽取”开关。 图标说明开关处于开启状态。开启后，在每个数据类别中，为每个数据字段建立同名抽取项，抽取函数为${数据字段名}。 图标说明开关处于关闭状态，需要编辑json格式代码。 在“信息抽取”对话框下方编辑json格式代码。 在“

查看更多 →

登录系统网站 使用浏览器打开 http://xx.xx.xx.xx:9992/login.jsp，使用用户名密码登录应用。 图1 登录应用 登录成功 图2 登录应用2 父主题： 实施步骤

查看更多 →

网站文件托管 开发过程中，您有任何问题可以在github上提交issue，或者在华为云 对象存储服务 论坛中发帖求助。接口参考文档详细介绍了每个接口的参数和使用方法。 您可通过以下步骤实现网站文件托管： 将网站文件上传至OBS的桶中，并设置对象MIME类型。 设置对象访问权限为公共读。

查看更多 →

规格限制 将网站接入WAF后，网站的文件上传请求限制为10G。 网站接入流程 WAF不同接入模式的网站接入流程如下。 云模式-CNAME接入 云模式-ELB接入 独享模式 以云模式CNAME接入方式接入网站时，您可以参照图1所示的配置流程，快速使用WAF。 图1 网站接入WAF的操作流程图-云模式（CNAME接入）

查看更多 →

设置网站后台 统计功能 文章功能 产品功能 表单功能 互动管理 图册功能 资源库功能 交易管理 搜索优化功能 系统设置

查看更多 →

员和订单）。 网站数据清空后无法恢复，请在操作前先备份网站数据。 PC站、手机站和小程序共用管理后台的网站数据，网站数据删除后，不但会影响删除网站数据的站点，也会影响其他站点，请谨慎操作。 清空PC模板数据 登录企业门户控制台，选择需要清空模板数据的站点，单击“网站设计”。 图1

查看更多 →

网站编辑语言 编辑网站时，网站设置界面显示的语言，而非网站内容区域的语言。例如，您习惯使用的是英语，则将“网站编辑语言”设置为“English”，此时网站设置界面的字体变为英文，便于您设置网站，如图1所示。 图1 网站编辑语言 区别于“多语言站点”，如果您希望网站包含多种语言，需要设置“多语言站点”，而不是“网站编辑语言”。

查看更多 →

为账户充值。 详细请参见账户充值。 已经完成网站 服务器 的搭建和 域名 注册，并获取网站的IP地址。 网站搭建详细请参见E CS 搭建网站入门。 通过华为云注册域名详细请参见流程指引。 中国大陆地区部署的网站服务器，需要完成网站域名和IP地址备案。 如果在华为云搭建网站服务器，则通过华为云的备案中心进行备案，详细内容请参见什么是备案。

查看更多 →

网站接入配置 未使用代理的网站通过CNAME方式接入WAF 使用DDoS高防和WAF提升网站全面防护能力 使用CDN和WAF提升网站防护能力和访问速度 使用独享WAF和7层ELB以防护任意非标端口 CDN回源OBS桶场景下连接WAF提升OBS安全防护 使用WAF、ELB和NAT网关防护云下业务

查看更多 →