基于PyTorch NPU快速部署开源大模型

本实例实现如下功能：初始化双向链表。增加节点。删除节点。测试操作是否成功。代码实现如下：编译运行得到的结果为：

查看更多 →

此编程规范在业界通用的编程规范基础上进行了整理，供开发者参考使用。清晰，易于维护、易于重构。简洁，易于理解，并且易于实现。风格统一，代码整体风格保持统一。通用性，遵循业界通用的编程规范。建议将工程按照功能模块划分子目录（可参考LiteOS的功能模块划分），子目录再定义头文件和源文件目录。使用驼峰风格进行命名，此风格大小写字母混用，不同单词

查看更多 →

对数据实现位操作，本实例实现如下功能：某一标志位置1。获取标志位为1的最高bit位。某一标志位清0。获取标志位为1的最低bit位。编译运行得到结果：

查看更多 →

创建一个队列，两个任务。任务1调用写队列接口发送消息，任务2通过读队列接口接收消息。通过LOS_TaskCreate创建任务1和任务2。通过LOS_QueueCreate创建一个消息队列。在任务1 send_Entry中发送消息。在任务2 recv_Entry中接收消息。通过LOS_QueueDelete删除队列。前提条件：在menu

查看更多 →

本实例实现如下功能：创建一个测试CPUP的任务。获取系统最近1s内所有任务或中断的CPUP。获取系统（除idel任务外）最近10s内的总CPU占用率。获取CPUP测试任务的CPUP。前提条件：通过make menuconfig配置好CPU占用率模块。代码实现如下：编译运行得到的结果为：sample_cpup.c

查看更多 →

基于野火挑战者开发板（Cloud_STM32F429IGTx_FIRE）开发应用定时读取MPU6050传感器的原始数据。MPU6050是一种六轴传感器模块，能同时检测三轴加速度、三轴陀螺仪（角加速度）、温度。本实例中提供的传感器驱动和应用代码仅对使用传感框架读取传感器做基本设计和实现，仅做参考。初始化陀螺仪标签类别的两个应用g_gyroI

查看更多 →

创建规则引擎源端 功能介绍 在ROMA Connect创建规则引擎源端。 URI POST /v1/{project_id}/link/instances/{instance_id}/rules/sources 表1 参数说明 名称 类型 是否必填 描述 project_id string

查看更多 →

本实例介绍基本的任务操作方法，包含任务创建、任务延时、任务锁与解锁调度、挂起和恢复等操作，阐述任务优先级调度的机制以及各接口的应用。创建了2个任务:TaskHi和TaskLo。TaskHi为高优先级任务, 绑定在当前测试任务的CPU上。TaskLo为低优先级任务，不设置亲和性即不绑核。由于TaskLo未设置亲和性，LOS_TaskLock

查看更多 →

':' + Trimall(HeaderValue) + '\n' Lowercase表示将所有字符转换为小写字母的函数。 Trimall表示删除值前后的多余空格的函数。 最后一个请求消息头也会携带一个换行符。叠加规范中CanonicalHeaders自身携带的换行符，因此会出现一个空行。

查看更多 →

本实例演示如何使用动态注册命令方式新增一个名为test的Shell命令。定义一个新增命令所要调用的命令处理函数cmd_test。使用osCmdReg函数添加新增命令项。通过make menuconfig使能Shell。重新编译代码后运行。定义命令所要调用的命令处理函数cmd_test：#include "shell.h" #include

查看更多 →

本实例演示如何使用静态注册命令方式新增一个名为test的Shell命令。定义一个新增命令所要调用的命令处理函数cmd_test。使用SHELLCMD_ENTRY函数添加新增命令项。在liteos_tables_ldflags.mk中添加链接该新增命令项参数。通过make menuconfig使能Shell。重新编译代码后运行。定义命令所要

查看更多 →

无编程访问权限 调用API时，出现"code":403,"message":"This user only supports console access, not programmatic access."表示用户没有编程访问权限。 子用户没有编程访问权限，需要联系主账户进行权限设置。

查看更多 →

Pregel编程接口 用户在实现UserPregelAlgorithm中的方法init和compute时主要依赖于PregelContext对象，该对象提供如下API： 表1 PregelContext API 方法和属性 描述 说明 ext_id(nid)->int 获取当前点

查看更多 →

创建规则引擎目的端 功能介绍 在ROMA Connect创建规则引擎目的端。 URI POST /v1/{project_id}/link/instances/{instance_id}/rules/destinations 表1 参数说明 名称 类型 是否必填 描述 project_id

查看更多 →

json”文件，将红框内名字改成实际推理文件文字，如图2所示。 图2 修改metadata.json 在Webide编辑界面左侧代码目录空白区域右键单击鼠标，选择“NAIE Package”。 返回模型管理界面，单击模型包所在行，对应“操作”列图标，弹出“发布推理服务”对话框。 请根据实际

查看更多 →

推理服务 云端推理框架提供模型云端运行框架环境，用户可以在线验证模型推理效果，无须从零准备计算资源、搭建推理框架，只需将模型包加载到云端推理框架，一键发布成云端Web Service推理服务，帮助用户高效低成本完成模型验证。 其中，“推理服务”主界面默认展示所有推理服务，用户可查

查看更多 →

模型推理 将数据输入模型进行推理，推理结束后将推理结果返回。 接口调用 virtual HiLensEC hilens::Model::Infer(const InferDataVec & inputs, InferDataVec & outputs) 参数说明 表1 参数说明 参数名

查看更多 →

模型推理 模型初始化成功后，调用infer接口进行模型推理。灌入一组数据，并得到推理结果。输入数据的类型不是uint8或float32数组组成的list将会抛出一个ValueError。 接口调用 hilens.Model.infer(inputs) 参数说明 表1 参数说明 参数名

查看更多 →

规则引擎（联通用户专用） 非联通用户请查看 设备接入服务 。 概述 规则引擎是指用户可以在物联网平台上可以对接入平台的设备设定相应的规则，在条件满足所设定的规则后，平台会触发相应的动作来满足用户需求。包含设备联动和数据转发两种类型。 设备联动规则 设备联动通过条件触发，基于预设的规则

查看更多 →

异步推理 用户的模型推理时间过长时，可能会导致推理超时，此时可以使用异步推理任务来执行线上推理，通过异步推理任务ID查询推理结果，解决推理超时问题。 使用模型训练服务模型包进行异步推理 以使用硬盘检测模板创建的项目为例，介绍如何在模型训练服务上训练模型包及完成后续的异步推理操作。

查看更多 →

开发推理 目前“专家经验注入”是为Gpr数据集定制，如果用户使用Gpr数据集体验KPI异常检测学件的操作流程，可以先执行“专家经验注入”，再执行“开发推理”，那么专家经验会自动转成代码并关联到模型推理函数里面。 “开发推理”用于生成推理代码至推理文件“learnware_predict

查看更多 →