ModelArts使用指南
使用ModelArts前,请先了解ModelArts的基本功能。ModelArts包含多个功能模块,覆盖AI开发全流程,用户可根据自身基础选择合适的模块入门,避免盲目探索。
- 快速入门
提供大量模型一键部署、一键训练、Notebook开发等快速入门类案例,无需代码快速体验建模流程。仅西南-贵阳一区域的新版控制台支持。
- 数据连接
支持将不同来源和格式的数据导入平台,并生成“原始数据集”,并提供数据集管理功能,为后续的数据加工和模型训练等操作提供便利。仅西南-贵阳一区域的新版控制台支。
- Notebook
ModelArts提供灵活开放的开发环境,无需本地配置环境,即开即用。支持PyTorch、TensorFlow、MindSpore等主流引擎,可通过JupyterLab在线操作,或借助SSH连接搭配VS Code等本地IDE远程开发。
- 模型训练
ModelArts提供企业级AI分布式训练平台,全面兼容业内主流训练框架与模型,支持一键发起超大规模分布式任务,提供全栈加速、长稳可靠、敏捷易用的一站式训练解决方案,实现模型性能与业务迭代速度的双重跃升。
- 推理部署
ModelArts的新一代分布式弹性推理平台集分布式部署、弹性推理、智能调度与高可靠性于一体,深度集成自研优化的vLLM推理框架,支持主流开源模型的一键部署,提供更高效、灵活、易用的大模型推理解决方案,助力企业快速实现AI应用落地。
- 实时比对
支持同一模型不同部署版本(作业)之间的对比,通过精准的对比,确保每次迭代有据可依,选择最优模型。仅西南-贵阳一区域的新版控制台支持。
- 资源管理
用户在使用ModelArts进行AI开发时所需的NPU等计算资源,均由ModelArts资源管理模块提供,包括以下资源类型:
- 公共算力资源:多人共享公共资源,资源按作业隔离。用户无需提前创建,在创建任务时可直接选择,按需计费,即开即用。
- 专属算力资源:专属资源池不与其他用户共享,资源更可控,但需要用户提前创建。
- 轻量算力资源:面向云主机或k8s资源型用户,用户可以通过弹性公网IP直接访问操作资源池中的节点和k8s集群。