ude_path”的配置是否正确。 从PhoStorm官网下载并安装最新社区版本。 在PhpStorm开发工具中配置PHP环境，在菜单依次选择“File > Settings > Languages & Frameworks > PHP”。 在页面上方选择您的PHP路径，如图1所

查看更多 →

已创建的课堂，在哪里找？ 进入Classroom的个人中心，选择“教学空间 > 教学课程”。 教师可以在左侧搜索栏内输入课程名称，搜索对应的课程。 教师可以在右侧下拉栏内选择“我创建的”、“我关注的”、“我归档的”三种状态找到对应的课程。

查看更多 →

top_k 否 -1 Int 控制要考虑的前几个tokens的数量的整数。设置为-1表示考虑所有tokens。 适当降低该值可以减少采样时间。 top_p 否 1.0 Float 控制要考虑的前几个tokens的累积概率的浮点数。必须在 (0, 1] 范围内。设置为1表示考虑所有tokens。

查看更多 →

--port：服务部署的端口8080。 -max-num-seqs：最大同时处理的请求数，超过后在等待池等候处理。 --max-model-len：推理时最大输入+最大输出tokens数量，输入超过该数量会直接返回。max-model-len的值必须小于config.json文件中的"seq

查看更多 →

设置动态分档位后，在PTA模式下不支持接收超过最大档的并发请求，超过后会导致推理服务终止。请将最大档（PTA_TORCHAIR_DECODE_GEAR_LIST参数的中设置的最大值）与模型启动时的max-num-seqs保持一致来进行规避。 在MoE模型和小模型上推荐使用图模式部署，包括m

查看更多 →

开启图模式后，服务第一次响应请求时会有一个较长时间的图编译过程，并且会在当前目录下生成.torchair_cache文件夹来保存图编译的缓存文件。当服务第二次启动时，可通过缓存文件来快速完成图编译的过程，避免长时间的等待，并且基于图编译缓存文件来启动服务可获得更优的推理性能，因此请在有图编译缓存文件的前提下启动服务

查看更多 →

每个输出序列要生成的最大tokens数量。 top_k 否 -1 Int 控制要考虑的前几个tokens的数量的整数。设置为-1表示考虑所有tokens。 适当降低该值可以减少采样时间。 top_p 否 1.0 Float 控制要考虑的前几个tokens的累积概率的浮点数。必须在 (0, 1] 范围内。设置为1表示考虑所有tokens。

查看更多 →

vcache的空间。不同模型推理支持的max-model-len长度不同，具体差异请参见附录：基于vLLM（v0.3.2）不同模型推理支持的max-model-len长度说明。 --gpu-memory-utilization：NPU使用的显存比例，复用原vLLM的入参名称，默认为0

查看更多 →

查看Flexus L实例 的实例ID和实例中的 云服务器 ID即云主机ID。 登录Flexus应用 服务器 L实例控制台。 单击待查看的Flexus L实例资源卡片，在实例名称后可查看实例ID 。 单击“云主机 VM”，在云主机信息中可查看云主机ID。 单击ID后的复制按钮，可快速复制ID。

查看更多 →

获取环境ID，通过《云应用引擎API参考》的“获取环境列表”章节获取环境信息。 请求响应成功后在响应体的items数组中的一个元素即为一个环境的信息，其中id字段即是环境ID。 响应参数 状态码： 200 表3 响应Body参数 参数 参数类型 描述 api_version String API版本，固定值“v1”，该值不可修改。

查看更多 →

我发起的提现，钱退到哪里了？ 提现分为原路提现和银行卡提现两种。 原路提现： 微信、支付宝、银联、Huawei Pay、华为支付方式充值的金额，1个工作日内退还至原付款账户。 转账汇款（专属汇款账号和通用汇款账号）充值的金额，7个工作日内退还至客户充值时的银行账户。 银行卡提现：

查看更多 →

--port：服务部署的端口8080。 -max-num-seqs：最大同时处理的请求数，超过后在等待池等候处理。 --max-model-len：推理时最大输入+最大输出tokens数量，输入超过该数量会直接返回。max-model-len的值必须小于config.json文件中的"seq

查看更多 →

ion的block大小，推荐设置为128。 --host=${docker_ip}：服务部署的IP，${docker_ip}替换为宿主机实际的IP地址。 --port：服务部署的端口。 --gpu-memory-utilization：NPU使用的显存比例，复用原vLLM的入参名称，默认为0

查看更多 →

设置创建AI应用的相应参数。此处仅介绍关键参数，设置AI应用的详细参数解释请参见从OBS中选择元模型。 根据需要自定义应用的名称和版本。 模型来源选择“从 对象存储服务 （OBS）中选择”，元模型选择转换后模型的存储路径，AI引擎选择“Custom”，引擎包选择准备镜像中上传的推理镜像。 系统运行架构选择“ARM”。

查看更多 →

ion的block大小，推荐设置为128。 --host=${docker_ip}：服务部署的IP，${docker_ip}替换为宿主机实际的IP地址。 --port：服务部署的端口。 --gpu-memory-utilization：NPU使用的显存比例，复用原vLLM的入参名称，默认为0

查看更多 →

在推理生产环境中部署推理服务 本章节介绍如何在ModelArts的推理生产环境（ModelArts控制台的在线服务功能）中部署推理服务。 Step1 准备模型文件和权重文件 在OBS桶中，创建文件夹，准备模型权重文件、推理启动脚本run_vllm.sh及SSL证书。此处以chatglm3-6b为例。

查看更多 →

哪里发起视频会议? 您好，可以通过以下途径发起视频会议： 即时会议：适合没有提前预约，临时发起的会议。 消息：在【消息】界面，点击右上角的“+” ，选择“会议”； 消息：在【消息】界面，在群组或单人消息输入框下方点击 “+” ，选择“会议”； 业务：在【业务】界面，我的应用>会议>发起会议>视频会议。

查看更多 →

转码消息订阅的主题在哪里设置？具体怎么配置消息订阅功能？ 消息通知服务是华为云平台可单独对外提供的应用服务，当您需要使用媒体处理消息订阅功能时，即需要调用消息通知服务。其中，媒体处理消息通知包括“转码完成”、“转码启动”、“截图完成”、“转封装完成”、“生成动图完成”几类。并提供

查看更多 →

;charset=utf8”。 X-Auth-Token 是 String 调用接口的认证方式分为Token和AK/SK两种，如果您使用的Token方式，此参数为必填，请填写Token的值。Token获取方式，请参考认证鉴权。 响应参数 表3 响应Body参数 参数 参数类型 描述

查看更多 →

设置动态分档位后，在PTA模式下不支持接收超过最大档的并发请求，超过后会导致推理服务终止。请将最大档（PTA_TORCHAIR_DECODE_GEAR_LIST参数的中设置的最大值）与模型启动时的max-num-seqs保持一致来进行规避。 在MoE模型上推荐使用图模式部署，包括mix

查看更多 →

开启图模式后，服务第一次响应请求时会有一个较长时间的图编译过程，并且会在当前目录下生成.torchair_cache文件夹来保存图编译的缓存文件。当服务第二次启动时，可通过缓存文件来快速完成图编译的过程，避免长时间的等待，并且基于图编译缓存文件来启动服务可获得更优的推理性能，因此请在有图编译缓存文件的前提下启动服务

查看更多 →