准备代码 本教程中用到的训练推理代码和如下表所示，请提前准备好。 获取数据及代码 表1 准备代码 代码包名称 代码说明 下载地址 AscendCloud-3rdLLM-6.3.904-xxx.zip 说明： 包名中的xxx表示具体的时间戳，以包名的实际时间为准。 包含了本教程中使用到

查看更多 →

配置认证 服务器 配置无线认证模板（用户名密码认证） 在WAC认证界面，创建SSID信息，与WAC设备侧保存一致。对通过WAC上线的用户进行认证。 登录华为乾坤控制台。 单击页面左上角按钮，单击“我的服务 > 云管理网络”，在快捷菜单栏选择“ > 高级配置”。 在高级配置界面选择“网络配置

查看更多 →

预训练 预训练 介绍如何进行预训练，包括训练数据处理、超参配置、训练任务、性能查看。 微调训练 SFT全参微调 介绍如何进行SFT全参微调、超参配置、训练任务、性能查看。 LoRA微调训练 介绍如何进行LoRA微调、超参配置、训练任务、性能查看。 父主题： 主流开源大模型基于DevServer适配PyTorch

查看更多 →

参数值需为正整数。例如10，表示节点最少有10张容器网卡绑定在节点上。当超过节点的容器网卡配额时，后台取值为节点的容器网卡配额。 默认：10 建议配置为大部分节点平时日常运行的Pod数。 节点池级别的节点预热容器网卡上限检查值 nic-maximum-target 当节点绑定的容器网卡数超过节点预热容器

查看更多 →

终端节点服务 VPC终端节点支持将云服务或者用户私有服务配置为可被终端节点访问的终端节点服务。 终端节点服务包括“网关”和“接口”两种类型。 网关：由系统配置的云服务类别的终端节点服务，用户无需创建，可直接使用。 接口：包括由系统配置的云服务类别的终端节点服务，以及由用户私有服务

查看更多 →

介绍如何进行预训练，包括训练数据处理、超参配置、创建训练任务及性能查看。 微调训练 SFT全参微调 介绍如何进行SFT全参微调，包括训练数据处理、超参配置、创建训练任务及性能查看。 LoRA微调训练 介绍如何进行LoRA微调训练，包括训练数据处理、超参配置、创建训练任务及性能查看。 父主题：

查看更多 →

配置服务器 通过分配的公网IP-121.36.25.2远程服务器配置。 Hosts配置 图1 Hosts配置 IIS组件安装 图2 IIS组件安装 父主题： 安装测试环境

查看更多 →

Yarn节点配置调优 操作场景 合理配置大数据集群的调度器后，还可通过调节每个节点的可用内存、CPU资源及本地磁盘的配置进行性能调优。 具体包括以下配置项： 可用内存 CPU虚拟核数 物理CPU使用百分比 内存和CPU资源的协调 本地磁盘 操作步骤 若您需要对参数配置进行调整，具体操作请参考修改集群服务配置参数。

查看更多 →

创建VPC终端节点 创建终端节点服务 登录管理控制台。 在服务列表中，单击“网络 > VPC终端节点”，进入“终端节点”页面。 在左侧导航栏，选择“VPC终端节点 > 终端节点服务”。 单击“创建终端节点服务”，进入“创建终端节点服务”页面。 根据界面提示配置参数。 若待安装机有多个，

查看更多 →

节点服务器挂载Nas存储 主节点挂载Nas（从节点同） 背景 主从节点同步和通信需要使用到共享存储 解决思路 在需要共享节点挂载共享文件到对于目录（xxx.xxx.xxx.xxx为SFS服务器地址） yum install nfs-utils mount -t nfs -o vers=3

查看更多 →

详情请参见如何加固CCE集群的自动创建的安全组规则？ 节点应按需进行加固 CCE服务的集群节点操作系统配置与开源操作系统默认配置保持一致，用户在节点创建完成后应根据自身安全诉求进行安全加固。 CCE提供以下建议的加固方法： 通过“创建节点”的“安装后执行脚本”功能，在节点创建完成后，执行命令加固节点。具体操作步骤参考

查看更多 →

配置IEF高可用节点 IEF高可用节点实现该功能要手动操作，使用rsync命令在多台虚机间定时同步文件，操作步骤如下： 以下教程适用于E CS 机器系统为Centos 7.5。操作前需要购买两台同网段同文件系统的ecs节点A与节点B。 在两台虚机上安装rsync及corntab服务，

查看更多 →

配置IEF高可用节点 IEF高可用节点实现该功能要手动操作，使用rsync命令在多台虚机间定时同步文件，操作步骤如下： 以下教程适用于ECS机器系统为Centos 7.5。操作前需要购买两台同网段同文件系统的ecs节点A与节点B。 在两台虚机上安装rsync及corntab服务，

查看更多 →

Yarn节点配置调优 操作场景 合理配置大数据集群的调度器后，还可通过调节每个节点的可用内存、CPU资源及本地磁盘的配置进行性能调优。 具体包括以下配置项： 可用内存 CPU虚拟核数 物理CPU使用百分比 内存和CPU资源的协调 本地磁盘 操作步骤 如果您需要对参数配置进行调整，具体操作请参考修改集群服务配置参数。

查看更多 →

服务器基础配置 本方案基于HCS底座部署，华为云的欧拉系统：基于稳定的Linux内核研发出面向企业级的通用服务器架构平台——Euler OS（Open Euler OS 2.8开源欧拉操作系统），支持ARM64鲲鹏处理器和容器虚拟化技术。 由HCS底座运维人员提供相关的操作系统、镜像和 云服务器 。

查看更多 →

准备数据 本教程使用到的训练数据集是Alpaca数据集。您也可以自行准备数据集。 Alpaca数据 本教程使用到的训练数据集是Alpaca数据集。Alpaca是由OpenAI的text-davinci-003引擎生成的包含52k条指令和演示的数据集。这些指令数据可以用来对语言模型

查看更多 →

区分。 图1 基础配置 由于很多模型文件都在1G到10G+的大小，建议您根据具体需要选择系统盘容量，或者挂载数据盘。配置好后，单击“下一步：网络配置”，进入网络配置页面。 图2 系统盘选择 VPC、子网请选择之前步骤创建的VPC和子网。 图3 VPC和子网配置 安全组设置请参考以

查看更多 →

“升级中”状态的网关无法使用文件共享和网关管理操作。请选择在业务系统未使用网关文件共享的时间窗升级。 图1 升级网关提示 确认升级网关后，网关状态切换为“升级中”，进入网关升级状态，如图2。 图2 网关升级状态 表1 网关升级状态说明 升级过程 升级状态 说明 检查网关 检查网关状态 检

查看更多 →

，进入网格详情页面。 在左侧导航栏选择“网关管理”，单击“添加网关”。 配置网关参数。 网关名称 请输入网关的名称。由小写字母、数字和中划线（-）组成，且必须以小写字母开头，小写字母或数字结尾，长度范围为4~59个字符。 集群选择 选择网关所属的集群。 访问方式 协议版本：支持选

查看更多 →

单击“添加云服务器”。 在弹窗中，选择子网并勾选要添加的云服务器，单击“确定”。 配置完成后，进行健康检查配置。 指定服务器地址。 单击“创建服务器分组”。 在弹窗中填写服务器分组信息，单击“确定”。配置参数请参考表2。 单击“添加后端服务器地址”，在列表中填写后端服务器地址。 表3

查看更多 →

准备数据 本教程使用到的训练数据集是Alpaca数据集。您也可以自行准备数据集。 Alpaca数据集 本教程使用Alpaca数据集，数据集的介绍及下载链接如下。 Alpaca数据集是由OpenAI的text-davinci-003引擎生成的包含52k条指令和演示的数据集。这些指令

查看更多 →