功能总览
-
功能架构
-
自动驾驶云服务(Octopus)是一个一站式的开发平台,能够支撑开发者从数据收集到仿真应用的全流程开发过程。整体由数据资产、数据服务、标注服务、训练服务、仿真服务、智驾模型服务、公共配置管理组成。
-
-
数据资产
-
在自动驾驶产品的开发过程中,海量的数据存储和管理是当前自动驾驶平台面临的业务挑战之一。Octopus平台的数据资产模块提供了海量数据采集、存储功能,供后续服务进行统一使用。
数据资产主要包括以下内容:
- 数据总览:展示平台数据资产的统计数据,帮助用户快速了解各项数据关键指标和业务的健康情况。
- 地图管理:支持上传高精地图数据,可用于数据回放、仿真场景等功能。
- 标定管理:支持车辆、车辆传感器标定的配置,方便即时管理车辆以及标定信息。
- 源数据包:此模块展示导入成功的数据包,支持对源数据包的查看,回放等功能。
- 数据场景:平台处理完原始采集数据后,平台支持内置和自定义场景挖掘算法,可自动提取对应场景行为的片段,展示在此模块中。
- 数据集:支持数据集多版本管理和统计。同时支持用户将本地符合平台规范的数据集导入平台,以及将平台上的数据集导出到自有OBS桶中。
- 数据缓存:提供专用高速文件存储功能,加速训练和评测读取数据集的速度。
- 模型管理:负责对模型仓库和模型版本进行各种操作,模型仓库可包含多个模型版本,支持上传符合平台规范的模型用于标注或训练任务。
- 通用存储:支持创建通用存储,用于数据存储。
-
地图管理
-
在地图管理中上传的高精地图数据,可用于数据回放、仿真场景等。平台支持OpenDRIVE格式的地图文件。
-
-
标定管理
-
源数据包
-
数据场景
-
数据集
-
数据集模块将采集到的数据和训练开发过程中收集的数据等进行整合,支持数据集多版本管理和统计。同时支持用户将本地符合平台规范的数据集导入平台,以及将平台上的数据集导出到自有OBS桶中。
-
-
数据缓存
-
提供专用高速文件存储功能,加速训练和评测读取数据集的速度。
-
-
模型管理
-
Octopus平台支持上传符合平台规范的模型用于标注或训练任务。对智驾模型进行模型微调后,调优后的模型会自动保存到模型仓库中。
-
-
通用存储
-
-
数据合规
-
数据合规服务是自动驾驶云服务为用户提供合规监管服务,包含合规室管理、数据流监管、账号管理、权限管理、日志审计服务能力。支持对上传合规服务的数据包进行脱敏处理,提供合规脱敏能力,支持将数据包中人脸、车牌、点云脱敏。支持用户使用合规服务创建脱敏算子、下发脱敏任务。
- 数据递送:创建递送订单,推送订单数据包,选择数据包创建脱敏作业。
- 数据脱敏:创建脱敏作业,选择脱敏算子,对合规数据进行脱敏。
-
数据递送
-
数据递送可以通过新建递送订单,推送订单数据包以对数据包创建脱敏作业。
-
-
数据脱敏
-
-
数据处理
-
数据处理可对自动驾驶过程中采集到的数据进行处理、解析,处理的结果可以用于回访定位问题,并可根据不同功能的算子生成不同的数据处理作业。数据处理操作引导如下:
- 数据批导:创建数据导入任务,收集采集车辆原始数据。
- 数据处理:支持根据自定义数据服务算子,对数据包进行处理,创建不同类型的作业。
- 回放仿真:通过回放仿真算子生成回放仿真作业,支持对比回放功能。
-
数据批导
-
Octopus平台通过对象存储导入数据,用户需先将数据包上传至对象存储桶(可自定义)中,再导入到Octopus平台。上传速率快,适合上传大数据量(超过2G)的数据包。
-
-
数据处理
-
回放仿真
-
根据回放仿真的算子,对数据包进行处理,创建回放仿真的作业。
回放仿真功能支持创建回放仿真作业,数据包选择回放仿真算子就可以触发相对应的作业。
-
-
-
标注服务
-
Octopus标注服务为标注团队提供标注平台管理员、团队管理员和标注任务操作人员(标注员/审核员/验收员)三类职能。三类职能对标注平台的操作权限不同,保证标注任务的数据安全。标注服务管理员根据不同标注任务创建标注团队,分配标注任务操作人员不同职能。创建标注项目,并在项目下创建标注模板及标注任务。团队管理员管理团队内部成员,可为团队创建项目和标注任务,供成员认领。标注任务的操作人员是标注任务的实际执行人员,根据标注任务所处流程,有标注员、审核员和验收员三种职能。
标注服务开发流程图:
标注服务操作引导如下:
- 项目管理:通过对项目内的任务以及项目内的标注物管理,用户可根据业务需求不同,创建不同类型的项目。
- 团队管理:为标注团队进行人员职能的分配。未分配到标注项目的团队不可查看该项目信息,确保标注任务的安全性。
- 标注管理:提供项目外的可视化的标注物管理,支持自定义创建多种标注物的形状和颜色,可用于预标注和人工标注指定物体,或自定义算法模型中关联特定标注物。
- 模板管理:提供预标注模板和人工标注模板,用户可根据需求选择。
- 脚本管理:用户可以根据自身业务的需要创建标注脚本,推送和拉取对应引擎的镜像,用于标注任务。
- 用户管理:可为任务提供角色分配,对所有团队下普通用户进行管理。
-
-
训练服务
-
训练服务模块上承接数据服务和标注服务两大模块,为自动驾驶研发提供方便易用的模型训练和评测平台,让用户无需过多关注底层资源,聚焦算法和模型开发。用户可上传符合Octopus平台规范的训练算法,将成熟的算法创建训练任务生成训练模型。此外,训练服务提供多种模型评测指标,从多维度衡量模型质量。让自动驾驶研发更便捷。训练服务的开发流程如下:
训练服务操作引导如下:
- 算法管理:负责管理用户上传的符合平台规范的算法。
- 训练任务:用户选择训练算法和训练数据集创建训练任务进行训练。
- 模型评测:负责管理评测脚本、评测任务和评测对比任务。
- 编译管理:包含编译任务和编译镜像。训练产生的模型版本,往往不可直接被车载芯片识别,需要经过编译工具,模型编译成车载芯片识别的产物。
-
-
仿真服务
-
Octopus仿真服务提供在线仿真和批量仿真功能,支持多种功能操作,包括用户在云上以类似操作远程桌面方式操作图形化界面的仿真软件。基于OpenSCENARIO等标准格式的仿真场景管理。泛化大量仿真场景。规控算法工程管理。多场景并行高速运行和仿真报告查看等。用户可通过仿真服务完成在线仿真,仿真场景、创建仿真评测任务等。仿真服务开发流程如下:
仿真服务操作引导如下:
- 在线仿真:利用分配到的仿真节点,使用在线仿真机器进行仿真场景的绘制、加载、保存等操作,进行仿真开发。
- 算法管理:用户可上传容器镜像,配置运行命令。
- 评测管理:支持内置评测配置和自定义评测镜像,对仿真任务中的算法展开评测。
- 场景管理:创建仿真场景,仿真场景库、测试套件、测试用例和逻辑泛化场景用于仿真开发。
- 任务管理:选择仿真算法和仿真场景创建仿真任务,从行车安全、驾驶行为、乘员舒适性等角度衡量仿真算法控制效果,支持可视化仿真结果,生成任务报告。
-
-
智驾模型服务
-
通过与AI模型、大模型的结合,提供高精度自动标注能力,大大减低传统人工标注数据真值的成本。提供场景数据集生成能力,帮助自动驾驶模型训练快速扩充数据集,低成本获取难例数据集。提供多模态场景理解和检索能力,帮助客户在海量样本库快速、智能的分类和检索。
- 模型微调:模型微调是在不依赖训练服务的情况下对模型进行二次训练,达到二次调优的效果。
- 场景识别:支持选择本地图片自动识别场景,生成场景信息。
- 2D图像生成:用户可自定义生成图像的参数,快速生成满足客户需求的2D图像。
- 2D预标注:支持选择本地图片快速进行标注任务。
- 服务监控:用户可方便地查看场景识别、2D图像生成、2D预标注的监控数据。
- 智驾模型管理:智驾模型管理列表中展示服务内置的初始模型和用户进行模型微调后的迭代模型。支持将微调后的迭代模型创建在线服务,进行推理,查看预测效果。
-
-
镜像仓库
-
运维配置
-
运维配置提供集群纳管,由平台管理员账号进行管理和配置。
-
集群纳管
-
-
工作空间
-
在使用Octopus自动驾驶云服务之前,如果您想实现资源隔离管理,您可以创建工作空间,实现资源隔离。default工作空间为系统预置,Public授权类型,无法创建、编辑和删除,默认为主工作空间。创建不同的工作空间后,您可以在控制台左侧导航栏中,单击“当前工作空间”下方的下拉框,单击工作空间,进入所选工作空间内使用Octopus自动驾驶云服务。
-