基于PyTorch NPU快速部署开源大模型

规则引擎 规则管理 规则日志 父主题： 实施步骤

查看更多 →

规则引擎 配置数据转发规则 导入导出规则 父主题： 设备集成指导

查看更多 →

规则引擎 创建规则 查询规则 批量删除规则 调试规则 删除规则 查询规则详情 修改规则 添加目标数据源 查询目标数据源列表 删除目标数据源 添加源数据源 查询源数据源列表 删除源数据源 父主题： 设备集成API

查看更多 →

规则引擎 创建规则引擎源端 创建规则引擎目的端 父主题： 设备集成API（V1）

查看更多 →

规则引擎 规则引擎介绍 数据转发流程 SQL语句 连通性测试 数据转发至华为云服务 数据转发至第三方应用 查看数据转发通道详情 数据转发积压策略配置 数据转发流控策略配置 异常数据转发目标 设备联动

查看更多 →

规则引擎介绍 规则引擎是指用户可以在物联网平台上对接入平台的设备设定相应的规则，在条件满足所设定的规则后，平台会触发相应的动作来满足用户需求。包含设备联动和数据转发两种类型。 设备联动 设备联动指通过条件触发，基于预设的规则，引发多设备的协同反应，实现设备联动、智能控制。目前物联

查看更多 →

系统中已经创建的设备名，当规则级别是产品级时，不用传设备名的参数。 topic string 否 设备对应的Topic的名称，只能使用pub权限的Topic，每个设备的Topic只能添加到一个规则下面，不能重复添加到不同的规则，当规则的级别是产品级时，不用传Topic的参数。 is_base64

查看更多 →

描述：描述信息。 单击“确定”，发布在线推理服务。 单击界面左上方的“模型训练”，从下拉框中选择“推理”，进入推理服务菜单页面，该界面展示已发布的所有推理服务。用户可以对推理服务进行查看详情、授权、启动/停止等一系列操作。 ：推理服务发布成功，单击图标可以跳转至推理服务的快速验证界面，用户可在此

查看更多 →

则。 mqs_topic string 是 转发目的端的MQS的Topic名称。 connect_address string 是 MQS Broker的连接地址。 destination string 是 消息转发的目的端的类型，目前只支持ROMA_MQS，KAFKA。 mqs_sasl_ssl

查看更多 →

”等信息，或保持默认值也可以，单击“确定”。 等待系统发布推理服务，大约需要10分钟。发布成功后，模型包所在行的图标更新为。 单击模型包右侧的图标，进入推理服务快速验证页面。 在左侧的“验证消息”区域，输入json格式的验证数据，如下所示。 { "smart_1_normalized":

查看更多 →

界面说明如表1所示。 表1 推理服务界面说明 区域 参数 参数说明 1 支持通过名称快速检索推理服务。 支持通过推理服务的状态快速筛选相同状态下的推理服务。 状态包括：运行中、部署中、已停止、告警、部署失败、后台异常。 用于刷新推理服务界面内容。 使用“模型仓库”中的模型包创建新的推理服务。 2

查看更多 →

int size); }; 返回值 返回值为0即成功，其他即失败，失败响应参数如错误码所示。 如果推理的实际输入与模型输入大小不一致，推理将会失败。此时infer的返回值将是一个int的错误码，日志会报出错误信息，开发者可以通过错误信息来定位错误。 父主题： 模型管理

查看更多 →

模型推理 模型初始化成功后，调用infer接口进行模型推理。灌入一组数据，并得到推理结果。输入数据的类型不是uint8或float32数组组成的list将会抛出一个ValueError。 接口调用 hilens.Model.infer(inputs) 参数说明 表1 参数说明 参数名

查看更多 →

Join方式的Hint 功能描述 指明Join使用的方法，可以为Nested Loop，Hash Join和Merge Join。 语法格式 1 [no] nestloop|hashjoin|mergejoin(table_list) 参数说明 no表示hint的join方式不使用。

查看更多 →

no表示hint的scan方式不使用。 table表示hint指定的表，只能指定一个表，如果表存在别名应优先使用别名进行hint。 index表示使用indexscan或indexonlyscan的hint时，指定的索引名称，当前只能指定一个。 对于indexscan或indexonlysc

查看更多 →

会创建您所选规格的图并置入模板数据来供您查询和分析图。 创建动态图：此方式创建的图，系统默认开启动态图分析能力，可方便您利用动态图功能进行分析图。 如果您想要使用动态图功能，需使用创建动态图的方式，自定义和行业图模板创建的图不具有该功能，后续也无法开启动态图分析能力。 父主题： 创建图

查看更多 →

no表示hint的scan方式不使用。 table表示hint指定的表，只能指定一个表，如果表存在别名应优先使用别名进行hint。 index表示使用indexscan或indexonlyscan的hint时，指定的索引名称，当前只能指定一个。 对于indexscan或indexonlysc

查看更多 →

@queryblock请参见指定Hint所处的查询块Queryblock章节，可省略，表示在当前查询块生效。 no表示hint的join方式不使用。 table_list为表示hint表集合的字符串，该字符串中的表与join_table_list相同，只是中间不允许出现括号指定join的优先级。 例如： no

查看更多 →

。 在满足查询可以使用gsi的前提下，使用gsi的hint将产生使用全局二级索引的index only scan查询计划，而不会产生使用普通索引的查询计划。 对于gsi的hint，若没有给定queryblock、table以及index，则此gsi的hint支持跨queryblock。

查看更多 →

见指定Hint所处于的查询块Queryblock，可省略，表示在当前查询块生效。 no表示hint的join方式不使用。 table_list为表示hint表集合的字符串，该字符串中的表与join_table_list相同，只是中间不允许出现括号指定join的优先级。 例如： no

查看更多 →

则无法生成基于join的gather路径，会回退生成基于基表的gather路径。 在指定hint(JOIN)后，对于分布表和复制表做连接的情况会导致无法生成hint(JOIN)期望的计划，因为优化器已经寻找更优的计划进行替代。 ALL：基于最优方式选择Gather Rel或Gather

查看更多 →