和config两个参数，其中data为识别音频的base64格式的字符串。Config参数详见表1。 表1 Config 参数 是否必选 参数类型 描述 audioFormat 是 String 支持语音的格式，请参考表 audio_format取值范围。 property 是 String 所使用的模型特征串，通常是

查看更多 →

--port表示服务部署的端口。每个全量/增量推理实例基于配置的端口号(--port)启动服务，并按照global rank_table中的全量实例、增量实例的顺序，对全量推理实例、增量推理实例启动的端口号进行排序，端口之间用`,`分隔开作为该环境变量的输入。当前端口9000是对

查看更多 →

1、执行权重量化过程中，请保证使用的GPU卡上没有其他进程，否则可能出现OOM； 2、若量化Deepseek-v2-236b模型，大致需要10+小时。 使用量化模型 使用量化模型需要在NPU的机器上运行。 启动vLLM前，请开启图模式（参考步骤六 启动推理服务中的配置环境变量），启动服务的命令和启动非量化模型一致。

查看更多 →

ud-sdk-go-v3/services/dataartsstudio/v1/model" region "github.com/huaweicloud/huaweicloud-sdk-go-v3/services/dataartsstudio/v1/region" )

查看更多 →

X-Auth-Token 是 String 用户Token。Token认证就是在调用API的时候将Token加到请求消息头，从而通过身份认证，获得操作API的权限， 获取Token 接口响应消息头中X-Subject-Token的值即为Token。 最小长度：1 最大长度：32768 表3 请求Body参数

查看更多 →

查看目录 功能介绍 查询用户所能看到的目录结构。 URI URI格式 GET /softcomai/datalake/dataplan/v1.0/catalogs/tree 参数说明 无。 请求 请求样例 GET https://127.0.0.1:5555/softcomai/

查看更多 →

通过调用接口获取用户Token接口获取。 X-Language 是 String 根据自己偏好的语言来获取不同语言的返回内容，zh-cn或者en_us Content-Type 是 String 发送的实体的MIME类型 响应参数 状态码： 200 表3 响应Body参数 参数 参数类型 描述

查看更多 →

cascade 否 Boolean 是否级联删除。默认为false，只删除当前模型ID所对应的模型。取值为true时除了删除模型ID指定的模型，还会删除与指定模型同名不同版本的所有模型。一次最多删除20个模型，超过的模型不删除。 请求参数 表3 请求Header参数 参数 是否必选 参数类型 描述

查看更多 →

基于vLLM（v0.6.3）部署推理服务时，不同模型推理支持的最小昇腾卡数和对应卡数下的max-model-len长度说明，如下面的表格所示。 以下值是在gpu-memory-utilization为0.9时测试得出，为服务部署所需的最小昇腾卡数及该卡数下推荐的最大max-model-len长度，不代表最佳性能。

查看更多 →

ccm.v1.model.CreateCertificateResponse; import com.huaweicloud.sdk.ccm.v1.model.ExtendedKeyUsage; import com.huaweicloud.sdk.ccm.v1.model.Sub

查看更多 →

sdk.mpc.v1.model.CreateEncryptTaskResponse; import com.huaweicloud.sdk.mpc.v1.model.Encryption; import com.huaweicloud.sdk.mpc.v1.model.HlsEncrypt;

查看更多 →

moderation.v3.region.ModerationRegion; import com.huaweicloud.sdk.moderation.v3.*; import com.huaweicloud.sdk.moderation.v3.model.*; import

查看更多 →

变更云手机 服务器 规格。 约束 变更的目标规格也必须为特殊的规格才可变更。 接口调用成功后，大约2分钟左右规格会变更结束，在我的订单中可以查看到变更的订单状态为成功，且查询服务器的详细信息，可以查看到服务器规格名称已经变成新的规格名称。 URI POST /v1/{project_id}

查看更多 →

到变更的订单状态为成功，且查询服务器的详细信息，可以查看到服务器规格名称已经变成新的规格名称。 调试 您可以在 API Explorer 中调试该接口，支持自动认证鉴权。API Explorer可以自动生成SDK代码示例，并提供SDK代码示例调试功能。 URI POST /v1/{p

查看更多 →

ken的值）。 响应参数 状态码： 200 表3 响应Body参数 参数 参数类型 描述 model_version String 模型版本。 source_job_version String 来源训练作业的版本。 source_location String 模型所在的OBS路径或SWR镜像的模板地址。

查看更多 →

ud-sdk-go-v3/services/dataartsstudio/v1/model" region "github.com/huaweicloud/huaweicloud-sdk-go-v3/services/dataartsstudio/v1/region" )

查看更多 →

Space），并根据开通区域确定调用API的Endpoint，详细信息请参见地区与终端节点。 假设数字化制造云平台的访问网址为https://ipdcenter.cn-north-4.myhuaweicloud.com/mbm_app/xxxxxx#/xxxxxx，则调用数字化制造云平台的API的Endpoint为访问网址中的ipdcenter

查看更多 →

"version" : "v1", "additional_version_weights" : { "v2" : 50 } } 为函数的v1版本创建别名a1，且开启灰度版本，将v2版本设置为指定规则灰度。 POST https://{Endpoint}/v2/{proje

查看更多 →

com/huaweicloud/huaweicloud-sdk-go-v3/services/rocketmq/v2/model" region "github.com/huaweicloud/huaweicloud-sdk-go-v3/services/rocketmq/v2/region" ) func

查看更多 →

--port表示服务部署的端口。每个全量/增量推理实例基于配置的端口号(--port)启动服务，并按照global rank_table中的全量实例、增量实例的顺序，对全量推理实例、增量推理实例启动的端口号进行排序，端口之间用`,`分隔开作为该环境变量的输入。当前端口9000是对

查看更多 →

开启图模式后，服务第一次响应请求时会有一个较长时间的图编译过程，并且会在当前目录下生成.torchair_cache文件夹来保存图编译的缓存文件。当服务第二次启动时，可通过缓存文件来快速完成图编译的过程，避免长时间的等待，并且基于图编译缓存文件来启动服务可获得更优的推理性能，因此请在有图编译缓存文件的前提下启动服务

查看更多 →