LoRA适配流是怎么样的？ 因为现在pytorch-npu推理速度比较慢（固定shape比mindir慢4倍），在现在pth-onnx-mindir的模型转换方式下，暂时只能把lora合并到unet主模型内，在每次加载模型前lora特性就被固定了（无法做到pytorch每次推理都可以动态配置的能力）。

查看更多 →

LoRA微调训练 前提条件 已上传训练代码、训练权重文件和数据集到SFS Turbo中，具体参考代码上传至OBS和使用Notebook将OBS数据导入SFS Turbo。 Step1 在Notebook中修改训练超参配置 以llama2-13b LORA微调为例，执行脚本0_pl_lora_13b

查看更多 →

删除LoRa节点。应用已鉴权，在header中携带参数app_key和Authorization: Bearer {accessToken}Status Code: 204 No Content

查看更多 →

LoRA微调训练 本章节以Llama2-70B为例，介绍LoRA微调训练的全过程。对于Llama2-7B和Llama2-13B，操作过程与Llama2-70B相同，只需修改对应参数即可。 Step1 LoRA微调数据处理 训练前需要对数据集进行预处理，转化为.bin和.idx格式文件，以满足训练要求。

查看更多 →

r/ws。 SEQ_LEN 4096 非必填。默认值为4096。 在qwen.sh脚本默认情况下Lora微调的配置为： --lora-r 16 --lora-alpha 32 LoRA微调训练的计算量要小于预训练，可以适当增加MBS的值，这里建议： 对于7B：TP=4 PP=1 MBS=2

查看更多 →

loraServer网关上线后，注册LoRa网关。应用已鉴权，在header中携带参数app_key和Authorization: Bearer {accessToken}Status Code: 201 Created

查看更多 →

删除LoRa网关。应用已鉴权，在header中携带参数app_key和Authorization: Bearer {accessToken}Status Code: 204 No Content

查看更多 →

查询单个LoRa网关信息。应用已鉴权，在header中携带参数app_key和Authorization: Bearer {accessToken}Status Code: 200 OK

查看更多 →

loraServer网关上线后，注册LoRa节点。应用已鉴权，在header中携带参数app_key和Authorization: Bearer {accessToken}Status Code: 201 Created

查看更多 →

LoRA微调训练 本章节以Baichuan2-13B为例，介绍LoRA微调训练的全过程。 Step1 LoRA微调数据处理 训练前需要对数据集进行预处理，转化为.bin和.idx格式文件，以满足训练要求。 LoRA微调训练与SFT微调使用同一个数据集，如果已经在SFT微调时处理过

查看更多 →

练的数据集预处理说明。 Step2 修改训练超参配置 以Llama2-70b和Llama2-13b的LoRA微调为例，执行脚本为0_pl_lora_70b.sh和0_pl_lora_13b.sh 。 修改模型训练脚本中的超参配置，必须修改的参数如表1所示。其他超参均有默认值，可以参考表1按照实际需求修改。

查看更多 →

LoRA微调训练 本章节介绍LoRA微调训练的全过程。 Step1 LoRA微调数据处理 训练前需要对数据集进行预处理，转化为.bin和.idx格式文件，以满足训练要求。 LoRA微调训练与SFT微调使用同一个数据集，如果已经在SFT微调时处理过数据，可以直接使用，无需重复处理。

查看更多 →

查询单个LoRa节点关信息。应用已鉴权，在header中携带参数app_key和Authorization: Bearer {accessToken}Status Code: 200 OK

查看更多 →

日志模块 设置打印日志的级别 打印Trace级别的日志 打印Debug级别的日志 打印Info级别的日志 打印Warning级别的日志 打印Error级别的日志 打印Fatal级别的日志

查看更多 →

通用模块 报告模版 对于生产过程中需要记录的数据进行线上化管理，便于后续统计分析使用 操作路径：【WEB】通用>报告模板 > 报告模板 新建报告模版： 进入功能界面后，单击“新建报告模板”按钮，进入新建界面 按实际需要选择模板类型及添加对应控件，具体区别请查看字段说明 单击“确认”按钮提交数据

查看更多 →

单击“添加”可以配置工作项所属的模块。 模块参数包括模块名称，模块描述和负责人，请根据实际情况设置。 模块添加完成后，单击操作列模块所在行后对应操作按钮，可以对模块进行编辑、添加子模块或删除。 单击可以修改对应的模块类型。 单击可以删除对应的模块类型。 单击可以添加子模块，最多支持三级，如“模块1”、“子模块01”、“子模块001”。

查看更多 →

进入电脑网站设计页面，选择左侧导航中的“模块”，单击“新增模块”一栏进行添加模块，如图8所示： 图8 新增模块 支持单击添加模块，单击添加模块会默认添加一个自由容器。 图9 添加模块 支持长按拖动模块到指定自由容器和拖动调整模块位置。 图10 调整模块位置 管理模块 如不需要显示的模块，可以单击图标隐藏。

查看更多 →

模块管理 创建边缘模块 查询边缘模块列表 删除边缘模块 查询边缘模块 修改边缘模块 修改边缘模块状态 代理边缘模块消息 父主题： API列表

查看更多 →

模块设置 在Modules页面列出了您项目中定义的模块。 父主题： 配置项目

查看更多 →

Python模块 您可以使用该配置来运行任意Python模块。 启动配置属性 启动配置示例 父主题： 启动配置

查看更多 →

仓储模块 仓库 是保管、存储商品的建筑物或场所。在系统内创建仓库的基础资料，来对应线下的实体 操作路径：[WEB]仓储>仓储主数据>仓库 创建仓库： 进入功能界面后 单击“新建仓库”按钮，进入新建界面 按实际需要填写仓库信息 单击“确认”按钮提交数据 图1 新建仓库1 图2 新建仓库2

查看更多 →