更新时间:2021-03-18 GMT+08:00
分享

简介

Matrix运行于操作系统之上,业务应用之下。屏蔽操作系统差异,为应用提供统一的标准化接口。Matrix具有多节点调度能力和多进程管理,可以根据配置文件完成业务流程的建立和运行,以及相关的统计信息汇总等。

Matrix总体逻辑包含3个主要的部分,Matrix Agent(运行在Host侧)、Matrix Daemon(运行在Device侧)和Matrix Service(运行在Device侧)。

  • Host指与Device相连接的X86服务器、ARM服务器或者WindowsPC,会利用Device提供的NN(Neural-Network )计算能力,完成业务。
  • Device指安装了Ascend 310芯片的硬件设备,利用PCIe接口与Host侧链接,为Host提供NN计算能力。
  • DVPP(Digital Vision Pre-Processing):主要实现视频解码、视频编码、JPEG编解码、PNG解码、视觉预处理。
  • Framework是深度学习框架,可以将caffe等开源框架模型转换成Mind Studio支持的模型。
  • CCE(cube-based computing engine)加速库通过API的方式,为上层应用(为机器学习提供的各种framework或者Application)提供加速。
  • Runtime运行于APP进程空间,为APP提供了Ascend 310芯片的Memory管理、Device管理、Stream管理、Event管理、Kernel执行等功能。

Matrix为通用业务流程执行引擎,主要包含:

  • Matrix Agent:运行在Host侧,其功能如下。
    • 完成与Host APP进行控制命令和处理数据的交互。
    • 完成与Device间的IPC(InterProcess Communication)通信。
  • Matrix Daemon:运行在Device侧,其功能如下。
    • 根据配置文件完成业务流程的建立。
    • 根据命令完成业务流程的销毁及资源回收。
    • 守护进程,负责拉起Matrix进程。
  • Matrix Service:运行在Device侧,其功能如下。
    • Engine调用DVPP的API接口实现媒体预处理。
    • Engine调用模型管家(AIModelManger)的API接口实现模型推理。

您可以在DDK包的安装目录下的“ddk/include/inc/hiaiengine”目录下查看接口的定义文件。如果通过引导安装的方式同时安装Mind Studio和DDK,您可以使用Mind Studio安装用户登录Mind Studio服务器,在“~/tools/che/ddk/ddk/include/inc/hiaiengine”路径下查看接口定义文件。每个接口对应的定义文件请参见具体的接口描述。

分享:

    相关文档

    相关产品