配置API的控制策略 配置API的流量控制 配置API的访问控制 配置API的凭据配额控制 配置API的凭据访问控制 父主题： 服务集成指导

查看更多 →

模型微调 模型微调是在不依赖训练服务的情况下对模型进行二次训练，达到二次调优的效果。调优后的迭代模型可以在智驾模型管理列表中查看。 前提条件 完成OBS授权委托，具体操作步骤请参考授权操作步骤。 在服务控制台“总览”>“模型微调”，开通“智驾模型微调”服务，具体操作步骤请参考开通智驾模型微调服务。

查看更多 →

配置API的访问控制 访问控制策略是API网关提供的API安全防护组件之一，主要用来控制访问API的IP地址和账户，您可以通过设置IP地址或账户的黑白名单来禁止/允许某个IP地址/账号名/账号ID访问API。实例级访问控制策略请参考表1。 访问控制策略和API本身是相互独立的，只

查看更多 →

Administrator权限的用户才可查看和配置凭据配额策略。 创建凭据配额策略 登录ROMA Connect控制台，在“实例”页面单击实例上的“查看控制台”，进入实例控制台。 在左侧的导航栏选择“服务集成 APIC > 凭据管理”，在“凭据配额策略”页签下单击“创建凭据配额策略”。 在创建凭据配额策略弹窗中配置策略信息。

查看更多 →

API（基础版控制台） 设备管理 技能市场

查看更多 →

配置API的访问控制 访问控制可控制访问API的IP地址和账户，保护后端服务。您可以创建访问控制策略，允许/禁止某个IP地址或账号访问绑定策略的API。 访问控制策略和API本身是相互独立的，只有将API绑定访问控制策略后，访问控制策略才对API生效。 约束与限制 同一个API在同

查看更多 →

配置API认证凭据的配额控制 凭据配额策略用于限制客户端（API调用者）在某个时间周期内的API调用次数，支持自定义重置时间。 操作步骤 进入API网关控制台页面。 根据实际业务在左侧导航栏上方选择实例。 在左侧导航栏选择“API管理 > 凭据管理”。 单击凭据名称，进入凭据详情页面。

查看更多 →

LoRA微调训练 Step1 上传训练权重文件和数据集 如果在准备代码和数据阶段已经上传权重文件和数据集到容器中，可以忽略此步骤。 如果未上传训练权重文件和数据集到容器中，具体参考上传代码和权重文件到工作环境和上传数据到指定目录章节完成。训练脚本中会自动执行训练前的权重转换操作和数据处理操作。

查看更多 →

LoRA微调训练 前提条件 已上传训练代码、训练权重文件和数据集到SFS Turbo中。 Step1 修改训练超参配置 以llama2-13b LORA微调为例，执行脚本0_pl_lora_13b.sh 。 修改模型训练脚本中的超参配置，必须修改的参数如表1所示。其他超参均有默认值，可以参考表1按照实际需求修改。

查看更多 →

LoRA微调训练 步骤一 上传训练权重文件和数据集 如果在准备代码和数据阶段已经上传权重文件和数据集到容器中，可以忽略此步骤。 如果未上传训练权重文件和数据集到容器中，具体参考上传代码和权重文件到工作环境和上传数据到指定目录章节完成。训练脚本中会自动执行训练前的权重转换操作和数据处理操作。

查看更多 →

GeneralPretrainHandler：使用预训练的alpaca数据集。 GeneralInstructionHandler：使用微调的alpaca数据集。 MOSSMultiTurnHandler：使用微调的moss数据集。 MBS 4 表示流水线并行中一个micro batch所处理的样本量。在流水线并行

查看更多 →

GeneralPretrainHandler：使用预训练的alpaca数据集。 GeneralInstructionHandler：使用微调的alpaca数据集。 MOSSMultiTurnHandler：使用微调的moss数据集。 MBS 4 表示流水线并行中一个micro batch所处理的样本量。在流水线并行

查看更多 →

GeneralPretrainHandler：使用预训练的alpaca数据集。 GeneralInstructionHandler：使用微调的alpaca数据集。 MOSSMultiTurnHandler：使用微调的moss数据集。 MBS 4 表示流水线并行中一个micro batch所处理的样本量。在流水线并行

查看更多 →

API（专业版控制台） 设备管理 固件管理 应用部署管理 配置项管理 作业管理 密钥管理 标签管理 工作空间管理 技能市场

查看更多 →

配置API的流量控制 流量控制支持从用户、凭据和时间段等不同的维度限制对API的调用次数，保护后端服务。支持按分/按秒粒度级别的流量控制。为了提供持续稳定的服务，您可以通过创建流控策略，针对部分API进行流量控制。 使用限制 API添加流控策略相当于流控策略同步绑定了API。同一

查看更多 →

配置API的流量控制 流量控制可限制单位时间内API的被调用次数，保护后端服务。为了提供持续稳定的服务，您可以创建流控策略，对绑定策略的API进行流量控制。若API被触发流量控制，则流控期间该API的所有调用请求都将被丢弃，并向调用方返回失败响应。 流量控制策略和API本身是相互

查看更多 →

配置API的凭据访问控制 凭据访问控制可控制访问API的凭据IP地址，保护后端服务。您可以为凭据设置访问控制策略，允许/禁止某个IP地址的凭据访问API。 操作步骤 登录ROMA Connect控制台，在“实例”页面单击实例上的“查看控制台”，进入实例控制台。 在左侧的导航栏选择“服务集成

查看更多 →

配置API认证凭据访问控制 绑定访问控制策略可控制访问API的客户端（API调用者）IP地址，保护后端服务。您可以为客户端设置访问控制策略，允许/禁止某个IP地址的客户端访问API。 操作步骤 进入API网关控制台页面。 根据实际业务在左侧导航栏上方选择实例。 在左侧导航栏选择“API管理

查看更多 →

基于微调数据集进行模型微调 创建微调数据集 收藏预置微调数据集 对微调数据集进行数据标注 创建模型微调任务 父主题： 管理模型

查看更多 →

] } 为策略绑定API 单击策略名称，进入策略详情。 在API列表区域选择环境后，单击“绑定API”。 筛选API分组以及发布环境，勾选所需的API。 支持通过API名称或标签筛选API，标签为创建API时定义的标签。 单击“确定”，绑定完成。 如果单个API不需要绑定此策略，单击API所在行的“解绑”。

查看更多 →

创建微调数据集 对于需要个性化定制模型或者在特定任务上追求更高性能表现的场景，往往需要对大语言模型进行模型微调以适应特定任务。微调数据集是模型微调的基础，通过在微调数据集上进行训练从而获得改进后的新模型。 平台在资产中心预置了部分微调数据集，同时也支持用户根据需求自定义创建微调数据集。本文介绍如何创建微调数据集。

查看更多 →