文档。 本文档中的模型运行环境是ModelArts Lite DevServer。 镜像适配的Cann版本是cann_8.0.rc2。 确保容器可以访问公网。 训练支持的模型列表 本方案支持以下模型的训练，如表1所示。 表1 支持的模型 序号 支持模型 支持模型参数量 1 llama2

查看更多 →

00。 disk_io：两个采集间隔内的磁盘I/O延迟。 network_io：两个采集间隔内的网络I/O延迟。 threadpool_usage：线程池使用率。 threadpool_hang_rate：线程池group处于hang状态的比例。 max_length int 采集队列长队。

查看更多 →

ai_watchdog_detection_warnings 表1 ai_watchdog_detection_warnings参数 参数 类型 描述 event text 事件名称。 cause text 事件原因。 details text 事件详情。 time timestamp

查看更多 →

AI GS_MODEL_WAREHOUSE GS_OPT_MODEL GS_ABO_MODEL_STATISTIC 父主题： 系统表

查看更多 →

成（NLG）任务的SOTA模型开发与应用。 支持的模型结构框架 AI Gallery的Transformers库支持的开源模型结构框架如表1所示。 表1 支持的模型结构框架 模型结构 PyTorch MindSpore GPU 昇腾 Llama 支持 不支持 支持 支持 Bloom

查看更多 →

编写训练代码 训练模型时引用依赖包，如何创建训练作业？ 训练作业常用文件路径是什么？ 如何安装C++的依赖库？ 训练作业中如何判断文件夹是否复制完毕？ 如何在训练中加载部分训练好的参数？ 训练作业的启动文件如何获取训练作业中的参数？ 训练作业中使用os.system('cd xxx')无法进入相应的文件夹？

查看更多 →

”或“部署”，可以直接使用模型进行训推。 当按钮置灰时，表示模型不支持该任务。 模型介绍 表1列举了ModelArts Studio大模型即服务平台支持的模型清单，模型详细信息请查看界面介绍。 表1 模型广场的模型系列介绍 模型系列 模型类型 应用场景 支持语言 GLM-4 文本生成

查看更多 →

AI 人脸检测结果 消息名称 MSG_AI_FACE_DETECTION_RESULT 功能描述 启动人脸检测功能后，通过该消息上报人脸检测结果列表，列表中包含 人脸识别 ID及坐标信息，最多支持同时识别十人。 是否自动推送 是 subMsgID 预留 Param1 预留 Param2

查看更多 →

AI 企业智慧屏的音幕、声源定位、Auto-Framing是否是终端独立能力，与入驻式平台版本有关联么？ 如何实现人脸识别功能？ 如何实现人脸唤醒功能？ AI多模态会议纪要和实时字幕翻译怎么实现？ 父主题： 产品规格

查看更多 →

大耗时。 ai_watchdog_used_memory_kb：本功能当前内存使用。 ai_watchdog_detection_times：已检测次数。 enable_self_healing：发现问题后是否可以自愈。 oom_detected_times：已检测到的OOM次数。

查看更多 →

大耗时。 ai_watchdog_used_memory_kb：本功能当前内存使用。 ai_watchdog_detection_times：已检测次数。 enable_self_healing：发现问题后是否可以自愈。 oom_detected_times：已检测到的OOM次数。

查看更多 →

AI GS_MODEL_WAREHOUSE GS_OPT_MODEL GS_ABO_MODEL_STATISTIC 父主题： 系统表

查看更多 →

更新模型服务的单个属性 功能介绍 更新模型服务的单个属性，目前只支持instance_count(更新模型服务实例数量)，仅运行中、告警、异常状态下的在线服务可以执行该操作。 调试 您可以在 API Explorer 中调试该接口，支持自动认证鉴权。API Explorer可以自动生

查看更多 →

获取模型的统计信息 功能介绍 输入指定模型的统计时间区间（开始时间和结束时间），即可获取该模型的统计数据，包含创建实例、删除实例、软删除实例和更新实例的数据。在调用该接口前请确保数据模型具有“系统版本”功能。 接口约束 功能列表勾选了系统版本的模型可以使用该接口。 URI POST

查看更多 →

每个输出序列要生成的最大Tokens数量。 top_k 否 -1 Int 控制要考虑的前几个Tokens的数量的整数。设置为“-1”表示考虑所有Tokens。 适当降低该值可以减少采样时间。 top_p 否 1.0 Float 控制要考虑的前几个Tokens的累积概率的浮点数。 取值范围：0~1

查看更多 →

资源变更的消息通知模型 资源变更的消息通知模型 表1 资源变更的消息通知模型 参数 参数类型 描述 notification_type String 消息通知类型。此处的消息通知类型为“ResourceChanged”。 notification_creation_time String

查看更多 →

tShape，用于模型的格式的编译与转换，可以在netron官网进行查看，或者对于模型结构中的输入进行shape的打印，并明确输入的batch。 一般来说，推理时指定的inputShape是和用户的业务及推理场景是紧密相关的，可以通过原始模型推理脚本或者网络模型进行判断。需要把N

查看更多 →

删除未使用的模型定义 功能介绍 清理未使用的模型定义。 调试 您可以在API Explorer中调试该接口，支持自动认证鉴权。API Explorer可以自动生成SDK代码示例，并提供SDK代码示例调试功能。 URI DELETE https://localhost.com/v1

查看更多 →

”训练的模型。 华为HiLens 只能导入ModelArts中训练的模型文件，不能导入ModelArts的模型。 导入（转换）模型 在HiLens Studio界面左侧，单击。 页面左侧将显示您在ModelArts训练好的模型列表。 图1 模型列表 选择待导入、转换的模型，单击“

查看更多 →

略优化”的技巧来避免过大的策略更新，从而减少了训练过程中的不稳定性和样本复杂性。 指令监督式微调(Self-training Fine-tuning)：是一种利用有标签数据进行模型训练的方法。 它基于一个预先训练好的模型，通过调整模型的参数，使其能够更好地拟合特定任务的数据分布。

查看更多 →

显著缩短了从模型开发到部署的周期，确保了模型在各类应用场景下的高性能表现，让客户能够更加聚焦于业务逻辑与创新应用的设计。 资源易获取，按需收费，按需扩缩，支撑故障快恢与断点续训 企业在具体使用大模型接入企业应用系统的时候，不仅要考虑模型体验情况，还需要考虑模型具体的精度效果，和实际应用成本。

查看更多 →