全部文档
Atlas 500应用
Atlas 500应用
本产品内“
”的所有结果
本产品内“
”的所有结果
模型转换
简介
转换Caffe/TensorFlow网络模型
约束及参数说明
使用OMG工具转换模型
AIPP配置
基本介绍
配置文件模板
色域转换配置说明
Crop/Padding配置说明
根据模型输入指定AIPP配置说明
AIPP对模型输入大小的校验说明
动态AIPP的参数输入结构
量化配置
基本介绍
配置文件模板
参数配置说明
参数调优说明
FAQ
DDK安装用户为HwHiAiUser时，日志未输出到屏幕
DDK所在服务器操作系统以及架构为Arm（aarch64），模型转换耗时较长
模型转换时提示Unrecognized layer:xxx, layer type xxx错误
模型转换时提示It is recommended to convert layers-structure to layer-structure by caffe tool错误
附录
修订记录
开发软件代码
开发前必读
Atlas 500产品及软件介绍
Atlas 500硬件介绍
Atlas 500产品形态
Atlas 500硬件系统架构
Atlas 200 AI加速模块
Atlas 500软件介绍
操作系统介绍
Atlas 200驱动
智能管理系统介绍
开发前准备
获取软件包
获取样例程序
配置Atlas 500系统
Atlas 500上电
准备用于登录Atlas 500的PC
登录Atlas智能边缘管理系统
配置Atlas 500设备网络
确认Atlas 500软件版本
升级Atlas 500软件版本
登录Atlas 500 CLI管理界面
进入Atlas 500开发模式
开发环境介绍
搭建软件开发环境
DDK目录分布
头文件与链接库介绍
头文件
链接库
编译工具链介绍
Host编译工具链
Device编译工具链
开发工具介绍
通用推理业务流程介绍
业务流程介绍
软件模块与硬件模块对应关系介绍
代码运行样例（HelloDavinci程序）
获取HelloDavinci代码
HelloDavinci文件说明
HelloDavinci流程框架介绍
HelloDavinci编译运行
软件代码开发
配置Matrix框架
配置、创建与销毁Graph
配置Engine
配置数据传输
调用DVPP接口
使用DVPP接口
申请DVPP内存
离线模型推理
配置AIPP
转换离线模型
执行模型推理
软件日志调测
日志系统配置
日志查看
日志API使用
业务软件编译
使用CMake编译业务软件
软件打包部署
导入基础镜像
生成镜像文件
部署镜像文件
通过智能边缘管理系统部署
通过命令行部署
附录
Graph关键字
修订记录
应用调优
简介
要点介绍
内存管理
原生语言的内存管理接口
Matrix框架提供的内存管理接口
Host-Device数据传输
DVPP使用
图像/视频编解码
图像Crop/Resize
模型转换预处理配置
Batch和超时
算法推理输入输出数据处理
回传数据优化处理
算子使用建议
示例说明
数据流
”0“拷贝
FAQ
申请自动释放内存时使用智能指针，但析构器不为空，导致异常
申请手动释放内存时使用智能指针， 但未将析构器指定为HIAI_DFree，导致异常
附录
修订记录
API参考
Matrix API参考
简介
流程编排接口
流程串接接口（C语言）
HIAI_Init（与C++共用）
HIAI_CreateGraph
HIAI_DestroyGraph
流程串接接口（C++语言）
Graph::GetInstance
Graph::CreateGraph（根据配置文件创建Graph）
Graph::CreateGraph（根据配置文件创建Graph，并将生成的Graph回写到list中）
Graph::CreateGraph（根据Protobuf数据格式创建Graph）
Graph::DestroyGraph
Graph::UpdateEngineConfig
数据传输接口（C语言）
HIAI_SetDataRecvFunctor
HIAI_C_SendData
数据传输接口（C++语言）
Graph::SetDataRecvFunctor
Graph::SendData
HIAI_SendData
接口使用示例
C语言接口使用示例
C++接口使用示例（根据配置文件创建Graph）
C++接口使用示例（根据配置文件创建Graph，并将生成的Graph回写到list中）
Engine实现接口（C++语言）
Engine的构造函数与析构函数
Engine::Init
宏:HIAI_DEFINE_PROCESS
宏:HIAI_IMPL_ENGINE_PROCESS
Engine::SetDataRecvFunctor
Engine::SendData
调用示例
模型管家接口（C++语言）
离线模型管家
AIModelManager::Init
AIModelManager::SetListener
AIModelManager::Process
AIModelManager::CreateOutputTensor
AIModelManager::CreateInputTensor
AIModelManager::IsPreAllocateOutputMem
AIModelManager::GetModelIOTensorDim
AIModelManager::GetMaxUsedMemory
AISimpleTensor::SetBuffer
AITensorFactory::CreateTensor
调用示例
AIPP配置接口
简介
SetDynamicInputIndex
SetDynamicInputEdgeIndex
SetInputFormat
SetCscParams（设置默认参数值）
SetCscParams（根据需求设置参数值）
SetRbuvSwapSwitch
SetAxSwapSwitch
SetSrcImageSize
SetCropParams
SetPaddingParams
SetDtcPixelMean
SetDtcPixelMin
SetPixelVarReci
SetInputDynamicAIPP
GetDynamicInputIndex
GetDynamicInputEdgeIndex
调用示例
数据类型
AIConfigItem
AIConfig
AITensorParaDescription
AITensorDescription
AITensorDescriptionList
AIModelDescription
AINNNodeDescription
AINNNodeDescriptionList
AIAPIDescription
AIAPIDescriptionList
AIOPDescription
AIOPDescriptionList
NodeDesc
EngineDesc
GraphInitDesc
GeneralFileBuffer
AIContext
TensorDimension
IAIListener
IAITensor
其他用于编译依赖的接口
AIAlgAPIFactory
AIAlgAPIRegisterar
REGISTER_ALG_API_UNIQUE
REGISTER_ALG_API
AIModelManager
getModelInfo
IAINNNode
AINNNodeFactory
AINNNodeRegisterar
REGISTER_NN_NODE
AITensorGetBytes
AITensorFactory
REGISTER_TENSOR_CREATER_UNIQUE
REGISTER_TENSOR_CREATER
AISimpleTensor
AINeuralNetworkBuffer
AIImageBuffer
HIAILog
HIAI_ENGINE_LOG
异常处理
辅助接口
数据获取接口（C++语言）
获取Device数目
获取第一个DeviceID
获取第一个GraphID
获取下一个DeviceID
获取下一个GraphID
获取Engine指针
获取Graph的GraphId
获取Graph的DeviceID
获取Engine的GraphId
获取Engine队列最大大小
获取Engine指定端口当前队列大小
解析Matrix配置文件
获取PCIe的Info
获取版本号
获取OamConfig智能指针
数据类型序列化和反序列化（C++语言）
宏:HIAI_REGISTER_DATA_TYPE
宏:HIAI_REGISTER_TEMPLATE_DATA_TYPE
宏:HIAI_REGISTER_SERIALIZE_FUNC
Graph::ReleaseDataBuffer
接口使用示例
内存管理（C语言）
HIAI_DMalloc
HIAI_DFree
HIAI_DVPP_DMalloc
HIAI_DVPP_DFree
内存管理（C++语言）
HIAIMemory::HIAI_DMalloc
HIAIMemory::HIAI_DFree
HIAIMemory:: IsDMalloc
HIAIMemory::HIAI_DVPP_DMalloc
HIAIMemory::HIAI_DVPP_DFree
日志（C++语言）
错误码注册
宏HIAI_DEF_ERROR_CODE
接口使用示例
日志打印
日志打印格式1
日志打印格式2
日志打印格式3
日志打印格式4
日志打印格式5
日志打印格式6
日志打印格式7
日志打印格式8
队列管理MultiTypeQueue接口（C++语言）
MultiTypeQueue构造函数
PushData
FrontData
PopData
PopAllData
接口使用示例
事件注册接口（C++语言）
Graph::RegisterEventHandle
其他（C++语言）
DataRecvInterface::RecvData
Graph::SetPublicKeyForSignatureEncryption
Python接口
附录
后续版本会删除的接口
低功耗接口（C++语言）
PowerState::SubscribePowerStateEvent
PowerState::UnsubscribePowerStateEvent
数据类型
枚举：PowerState::DEVICE_POWER_STATE
PowerState::PowerStateNotifyCallbackT
Matrix数据类型
Protobuffer数据类型
Matrix自定义数据类型
Matrix已经注册的数据结构
示例
编排配置示例
性能优化传输示例
修订记录
DVPP API参考
概述
接口简介
接口列表
VPC功能
JPEGE功能
JPEGD功能
PNGD功能
VDEC功能
VENC功能
关于输入输出内存的说明
VPC/JPEGE/JPEGD/PNGD功能接口
CreateDvppApi
DvppCtl
接口说明
VPC参数说明
JPEGE参数说明
JPEGD参数说明
PNGD参数说明
查询DVPP引擎参数说明
DestroyDvppApi
DvppGetOutParameter
VDEC功能接口
总体说明
CreateVdecApi
VdecCtl
DestroyVdecApi
VENC功能接口
总体说明
CreateVenc
RunVenc
DestroyVenc
兼容旧版本的功能
兼容性说明
VPC功能及参数说明
CMDLIST功能及参数说明
VENC功能及参数说明
调用示例
实现VPC功能
实现JPEGE功能
实现JPEGD功能
实现PNGD功能
实现VDEC功能
实现VENC功能
数据类型
VpcUserImageConfigure中的结构体
vdec_in_msg中的结构体和类
IMAGE_CONFIG中的结构体
dvpp_engine_capability_stru中的结构体
vpc_in_msg中的结构体
Rdma通道结构体RDMACHANNEL
Vpc内部优化结构体VpcTurningReverse
附录
辅助功能接口
不推荐使用接口列表
DVPP执行器样例使用说明
环境准备
DVPP执行器样例入参说明
VPC使用说明
VPC基础功能1
VPC基础功能2
VDEC使用说明
VENC使用说明
JPEGE使用说明
JPEGD使用说明
PNGD使用说明
JPEGD+VPC+JPEGE串联使用说明
异常处理
缩略语和术语一览
修订记录
Framework API参考
简介
非类成员函数
custom_op_run函数
custom_op_compare函数
GetContext函数
AutoMappingFn函数
aicpu_run_func函数
类成员函数
StatusFactory类
Instance函数
RegisterErrorNo函数
GetErrDesc函数
StatusFactory函数
~StatusFactory函数
ErrorNoRegisterar类
ErrorNoRegisterar函数
~ErrorNoRegisterar函数
OpTypeContainer类
Instance函数
Register函数
IsExisting函数
OpTypeContainer函数
OpTypeRegistrar类
OpTypeRegistrar函数
~OpTypeRegistrar函数
OpRegistrationData类
OpRegistrationData函数
~OpRegistrationData
FrameworkType函数
OriginOpType函数
ParseParamsFn函数
InferShapeAndTypeFn函数
UpdateOpDescFn函数
GetWorkspaceSizeFn函数
TEBinBuildFn函数
ImplyType函数
Formats函数
WeightFormats函数
Finalize函数
OpRegistry类
Instance函数
Register函数
GetImplyType函数
GetOpTypeByImplyType函数
GetFormats函数
GetWeightFormats函数
GetParseParamFunc函数
GetInferShapeFunc函数
GetGetWorkspaceSizeFunc函数
GetUpdateOpDescFunc函数
GetBuildTeBinFunc函数
GetTransWeightFunc函数
OpReceiver类
OpReceiver函数
~OpReceiver函数
宏定义
错误码生成宏
COMMON模块错误码生成宏
OMG模块错误码生成宏
OME模块错误码生成宏
CALIBRATION模块错误码生成宏
获取错误码描述宏
算子类型注册宏
算子类型是否存在宏
算子注册宏
REGISTER_CUSTOM_OP宏
对外接口标记宏
FMK_FUNC_HOST_VISIBILITY
FMK_FUNC_DEV_VISIBILITY
附录
修订记录
GE API参考
简介
属性类接口
SetAttr
GetAttr
HasAttr
DelAttr
SetName
GetName
GetItem
GetValueType
IsEmpty
Copy
MutableTensor
MutableListTensor
InitDefault
缓存类接口
ClearBuffer
GetData
GetSize
CopyFrom
Graph类接口
SetInputs
SetOutputs
IsValid
AddOp
FindOpByName
CheckOpByName
GetAllOpName
Model类接口
SetName
GetName
SetVersion
GetVersion
SetPlatformVersion
GetPlatformVersion
GetGraph
SetGraph
Save
Load
IsValid
Operator类接口
Operator构造函数
GetName
SetInput（srcOprt只存在一个输出）
SetInput（srcOprt存在多个输出）
GetInputDesc
TryGetInputDesc
UpdateInputDesc
GetOutputDesc
UpdateOutputDesc
GetDynamicInputDesc
UpdateDynamicInputDesc
GetDynamicOutputDesc
UpdateDynamicOutputDesc
SetAttr
GetAttr
Shape类接口
GetDimNum
GetDim
GetDims
SetDim
GetShapeSize
Tensor类接口
GetTensorDesc
MutableTensorDesc
SetTensorDesc
GetData
MutableData
SetData
Clone
TensorDesc类接口
Update
GetShape
MutableShape
SetShape
GetFormat
SetFormat
GetDataType
SetDataType
Clone
IsValid
Operator注册类
REG_OP
ATTR
REQUIRED_ATTR
INPUT
OPTIONAL_INPUT
DYNAMIC_INPUT
OUTPUT
DYNAMIC_OUTPUT
INFER_SHAPE_AND_TYPE
ATTR_ALL_VERIFY
OP_END
内置的算子类型列表
模型构建类接口
CreateModelBuff
BuildIRModel
ReleaseModelBuff
附录
修订记录
TE API参考
TE简介
说明
compute接口
te.lang.cce.vadd(lhs, rhs)
te.lang.cce.vsub(lhs, rhs)
te.lang.cce.vmul(lhs, rhs)
te.lang.cce.vmin(lhs, rhs)
te.lang.cce.vmax(lhs, rhs)
te.lang.cce.vor(lhs, rhs)
te.lang.cce.vand(lhs, rhs)
te.lang.cce.vadds(raw_tensor, scalar)
te.lang.cce.vmuls(raw_tensor, scalar)
te.lang.cce.vlog(raw_tensor)
te.lang.cce.vexp(raw_tensor)
te.lang.cce.vabs(raw_tensor)
te.lang.cce.vrec(raw_tensor)
te.lang.cce.cast_to(data, dtype, f1628IntegerFlag=False)
te.lang.cce.vrelu(raw_tensor)
te.lang.cce.vnot(raw_tensor)
te.lang.cce.vaxpy(lhs, rhs, scalar)
te.lang.cce.vmla(x, y, z)
te.lang.cce.vmadd(x, y, z)
te.lang.cce.vmaddrelu(x, y, z)
te.lang.cce.ceil(raw_tensor)
te.lang.cce.floor(raw_tensor)
te.lang.cce.round(raw_tensor)
te.lang.cce.sum(raw_tensor, axis, keepdims=False)
te.lang.cce.reduce_min(raw_tensor, axis, keepdims=False)
te.lang.cce.reduce_max(raw_tensor, axis, keepdims=False)
te.lang.cce.reduce_prod(raw_tensor, axis, keepdims=False)
te.lang.cce.broadcast(var, shape, output_dtype=None)
te.lang.cce.unsorted_segment_sum(tensor, segment_ids, num_segments, init_value=0)
te.lang.cce.unsorted_segment_mean(tensor, segment_ids, num_segments, init_value=0)
te.lang.cce.unsorted_segment_prod(tensor, segment_ids, num_segments, init_value=0)
te.lang.cce.unsorted_segment_min(tensor, segment_ids, num_segments, init_value=0)
te.lang.cce.unsorted_segment_max(tensor, segment_ids, num_segments, init_value=0)
te.lang.cce.concat(raw_tensors, axis)
te.lang.cce.conv(*args)
te.lang.cce.compute_four2five(input, raw_shape_4D)
te.lang.cce.compute_five2four(input, raw_shape_4D)
te.lang.cce.matmul(tensor_a, tensor_b, trans_a=False, trans_b=False, alpha_num=1.0, beta_num=0.0, tensor_c=None)
build接口
topi.generic.auto_schedule(outs)
te.lang.cce.cce_build_code(sch, config_map = {})
融合接口
bool BuildTeCustomOp(std::string ddkVer, std::string opName, std::string opPath, std::string opFuncName, const char *format, ...)
编译依赖接口
使用方式
使用示例
异常处理
附录
修订记录
算子开发
算子清单
参数说明
算子边界
整体约束
Caffe算子边界
Tensorflow算子边界
附录
修订记录
TE自定义算子开发指导
开发前必读
概述
目标读者
算子开发注意事项
环境准备
开发流程总览
配置环境变量
创建自定义算子开发工程
自定义算子开发
算子特性
算子代码实现
实现流程
导入Python模块
算子实现
算子调度与编译
执行算子
代码样例
算子运行验证
算子编译
构造输入数据文件
运行单算子
caffe.proto文件算子定义（可选）
自定义算子插件开发
插件代码实现
插件实现流程
包含头文件
解析算子
推理算子输出张量描述
编译算子
算子注册
插件代码样例
编译算子插件
加载插件转换模型
算子插件开发函数参考
ParseParamsFn函数
InferShapeAndTypeFn函数
TEBinBuildFn函数
WeightFormats函数
算子构建函数注册宏
附录
修订记录
IDE-daemon-client命令参考
简介
IDE Daemon发送命令给Device侧执行
IDE Daemon发送命令给Host侧执行
IDE Daemon传输文件给Device侧
IDE Daemon传输文件给Host侧
IDE Daemon从Host侧获取文件
检测IDE Daemon与Host之间的心跳
设置日志级别
IDE Daemon将Profiling采集项的信息发送给Host
从Host侧采集黑匣子的dump异常信息
获取与Host连接的Device信息
生成字符串加密文件
同步IDE Daemon与Host侧的时间
查看帮助信息
附录
修订记录
文档下载
通用参考
产品术语
云服务等级协议（SLA）
白皮书资源
支持区域
系统权限