Studio大模型即服务平台。 在ModelArts Studio左侧导航栏中，选择“模型部署”进入服务列表。 选择“我的服务”页签。 选择模型服务，单击操作列的“更多 > 服务升级”。 在服务升级页面，配置升级参数。 “模型设置”：单击“更换”，选择原模型下的其他模型版本。 其他

查看更多 →

使用AI Gallery在线推理服务部署模型 AI Gallery支持将训练的模型或创建的模型资产部署为在线推理服务，可供用户直接调用API完成推理业务。 约束限制 如果模型的“任务类型”是“文本问答”或“文本生成”，则支持在线推理。如果模型的“任务类型”是除“文本问答”和“文本

查看更多 →

模型使用CV2包部署在线服务报错 问题现象 使用CV2包部署在线服务报错。 原因分析 使用OBS导入元模型，会用到服务侧的标准镜像，标准镜像里面没有CV2依赖的so的内容。所以ModelArts不支持从对象存储服务（OBS）导入CV2模型包。 处理方法 需要您把CV2包制作为自定

查看更多 →

型”，参考表1完成部署参数设置，启动模型部署。 表1 NlP大模型部署参数说明 参数分类 部署参数 参数说明 部署配置 模型来源 选择“盘古大模型”。 模型类型 选择“NLP大模型”。 部署模型 选择需要进行部署的模型。 部署方式 云上部署：算法部署至平台提供的资源池中。 最大TOKEN长度

查看更多 →

管理NLP大模型部署任务 模型更新、修改部署 成功创建部署任务后，如需修改已部署的模型或配置信息，可以在详情页面单击右上角的“模型更新”或“修改部署”进行调整。更新模型时可以替换模型，但在修改部署时模型不可替换。 在“模型更新”或“修改部署”后进行升级操作时，可选择全量升级或滚动升级两种方式：

查看更多 →

将应用发布成移动端应用。 开启小程序模式 开发者将当前应用发布为移动端应用需要先在移动端设置中开启小程序模式。开启后则支持开发者在发布操作时，将当前应用发布为对应的移动端小程序。若在移动端设置中关闭了小程序模式，则不支持开发者发布生成移动端应用。 参考登录AstroZero新版应用设计器中操作，登录应用设计器。

查看更多 →

将AstroZero中的应用发布成 WeLink We码应用 方案概述 AstroZero上开发的应用可以发布成WeLink（蓝标）We码应用。We码是将前端的静态资源放入WeLink，都是本地访问，适用于对页面加载速度要求比较高的场景。关于WeLink We码应用的详细介绍，可参见WeLink开发之旅。

查看更多 →

Kit设备。 直接部署 在“应用开发>服务部署”页面，工作流会根据训练的模型自动创建技能，您可以一键安装技能至HiLens Kit设备上。 技能名称：工作流自动创建技能后，生成默认技能名称。 设备类别：当前仅支持将技能安装至HiLens Kit设备上，安装技能之前，请在同一帐号

查看更多 →

账户未欠费。 操作步骤 在“服务部署”页面，按表1填写服务的相关参数，然后单击“部署”。 图1 服务部署 表1 服务部署参数说明 参数 说明 服务名称 待部署的服务名称，单击可修改服务默认服务名称。 描述 待部署服务的简要说明。 资源池 用于服务部署的资源池和资源类型，可选“公共资源池”和“专属资源池”。

查看更多 →

欠费。 如果部署服务使用专属资源池，需要在ModelArts创建专属资源池。 操作步骤 在“服务部署”页面，按表1填写服务的相关参数，然后单击“部署”。 图1 服务部署 表1 服务部署参数说明 参数 说明 服务名称 待部署的服务名称，首次部署服务请单击可修改默认服务名称。 如果在

查看更多 →

操作步骤 在“服务部署”页面，按表1填写服务的相关参数，然后单击“部署”。 图1 服务部署 表1 服务部署参数说明 参数 说明 服务名称 待部署的服务名称，首次部署服务请单击可修改默认服务名称。 如果在不同版本非首次部署服务，服务名称不支持修改。 描述 待部署服务的简要说明。 资源池

查看更多 →

刹车盘识别工作流支持将服务一键部署至边缘设备，如果将服务部署至边缘设备，请提前在华为HiLens控制台注册Atlas 500设备，详细注册方式请前往华为云论坛参与讨论。 操作步骤 在“服务部署”页面，按表1填写服务的相关参数，然后单击“部署”。 图1 服务部署 表1 服务部署参数说明 参数

查看更多 →

。 如果部署服务使用专属资源池，需要在ModelArts创建专属资源池。 操作步骤 在“服务部署”页面，按表1填写服务的相关参数，然后单击右下角的“部署”。 图1 服务部署 表1 服务部署参数说明 参数 说明 服务名称 待部署的服务名称，首次部署服务请单击可修改默认服务名称。 如

查看更多 →

服务部署 配置修改 /app/appdeploy/portal/ser-portal/config/application-dev.yml 图1 配置修改1 图2 配置修改2 图3 配置修改3 图4 配置修改4 图5 配置修改5 图6 配置修改6 /app/appdeploy/p

查看更多 →

服务部署 安装包准备 使用 Auto_Deploy 中的apache-tomcat-9.0.58.tar.gz包。 将uniform-auth.war和cas.war 放到 webapps 目录下。 将 application-config.yml 和 cas.properties

查看更多 →

real-time代表在线服务，将模型部署为一个Web Service，并且提供在线的测试UI与监控能力，服务一直保持运行。 batch为批量服务，批量服务可对批量数据进行推理，完成数据处理后自动停止。 edge表示边缘服务，通过华为云智能边缘平台，在边缘节点将模型部署为一个Web Se

查看更多 →

real-time代表在线服务，将模型部署为一个Web Service，并且提供在线的测试UI与监控能力，服务一直保持运行。 batch为批量服务，批量服务可对批量数据进行推理，完成数据处理后自动停止。 edge表示边缘服务，通过华为云智能边缘平台，在边缘节点将模型部署为一个Web Se

查看更多 →

onfig object 模型服务实例的配置，在DeployService中使用 表8 ModelServiceInstanceConfig 参数 是否必选 参数类型 描述 resource 是 ResourceDemand object 资源需求量配置 表9 ResourceDemand

查看更多 →

部署推理服务 非分离部署推理服务 分离部署推理服务 父主题： 主流开源大模型基于Server适配PyTorch NPU推理指导（6.3.909）

查看更多 →

zip到主机中，包获取路径请参见表2。 将权重文件上传到DevServer机器中。权重文件的格式要求为Huggingface格式。开源权重文件获取地址请参见表3。 如果使用模型训练后的权重文件进行推理，模型训练及训练后的权重文件转换操作可以参考相关文档章节中提供的模型训练文档。 权重要求放在磁

查看更多 →

如何将应用发布成下载前端运行包 使用说明 选择该方式可生成前端运行包，获取包后可运行在如下容器中： 华为OneMobile 蓝标WeLink Web容器（当前只支持高级页面） 操作步骤 参考1~3中操作，进行编译设置，编译设置时请选择“资产包”。 当用户需要下载前端运行包，运行在

查看更多 →