中软国际数据治理专业服务解决方案实践

后续节点为“变量赋值”、“分支判断”和“数据转换”时，使用“$.分支名”获取该分支的执行结果。 失败时停止 并行处理出现错误时的是否停止。 True：表示任一并行处理的分支出现错误时，整个任务便停止，并返回错误信息。 False：表示并行处理的分支出现错误后，整个任务会继续执行后续节点。

查看更多 →

后续节点为“变量赋值”、“分支判断”和“数据转换”时，使用“$.分支名”获取该分支的执行结果。 失败时停止 并行处理出现错误时的是否停止。 True：表示任一并行处理的分支出现错误时，整个任务便停止，并返回错误信息。 False：表示并行处理的分支出现错误后，整个任务会继续执行后续节点。

查看更多 →

配置并行处理算子 并行处理算子可以同时执行多个分支逻辑，分支间互不影响。 表1 并行处理算子 参数 说明 失败策略 当并行分支中存在失败情况时，配置API工作流的失败策略。 任一分支失败则终止：表示当并行分支中存在失败情况时，则此API工作流置为失败状态，不再继续执行。 分支失败

查看更多 →

数据资产简介 在自动驾驶产品的开发过程中，海量的数据存储和管理是当前自动驾驶平台面临的业务挑战之一。 Octopus平台的数据服务模块提供了海量数据采集、存储以及数据并行处理等功能，供后续服务进行统一使用。数据服务开发流程如下： 图1 数据服务开发流程 地图管理：支持上传高精地图数据，可用于数据回放、仿真场景等功能。

查看更多 →

条件分支算子和表达式的配置方法，详见配置条件分支算子。 并行处理 非必选 并行处理算子可以同时执行多个分支逻辑，分支间互不影响。 并行处理算子的配置方法，详见配置并行处理算子。 输出处理 必选 输出处理算子负责对API工作流的执行结果进行错误码映射、结果集映射和格式转换，以确定最终返回的数据格式。 输出处理算子的配置方法，详见配置输出处理算子。

查看更多 →

共享资源： 采取共享资源的设计，通过协作减少争用延时从而改善整体性能；如多个进程可以从一个数据库的同一部分读取。 并行处理：当并行处理过程的增速能抵消通信开销和资源争用延迟时，执行并行处理。 分散负载原则：通过在不同时间或者不同位置处理冲突负载，从而分散负载：将资源划分为成一些相

查看更多 →

同步API工作流至数据地图：在API工作流列表页面，单击对应工作流操作栏上方的“更多 > 同步至数据地图”，即可进入API工作流同步页面。 同步API工作流至数据地图能够将API工作流资产同步到数据地图组件进行查看。同步流程与API同步流程基本一致，可参考同步API到数据地图。 父主题：

查看更多 →

处理器 分支判断 并行处理 延时 EDI处理 变量赋值 排序 数据转换 数据拆分 数据筛选 脚本处理 日志采集 数据映射 循环处理 异常监控 终止 对称加解密 非对称加解密

查看更多 →

处理器 分支判断 并行处理 延时 EDI处理 变量赋值 变量修改 排序 数据转换 数据拆分 数据筛选 脚本处理 日志采集 数据映射 循环处理 异常监控 终止 对称加解密 非对称加解密

查看更多 →

编排API 编排API简介 配置入口API算子 配置条件分支算子 配置并行处理算子 配置输出处理算子 API编排典型配置 父主题： 开发数据服务API

查看更多 →

需要几分钟，便可完成海量数据查询数据仓库的搭建，简单轻松地完成对数据的实时查询分析，提升数据价值挖掘的整体效率。云数据仓库ClickHouse是一种基于MPP（大规模并行处理）架构的数仓服务，基于ClickHouse优异的查询性能，查询效率数倍于传统数据仓库。 ClickHouse集群管理功能

查看更多 →

无限扩展：DIS数据通道的吞吐量每小时可从数MB扩展到数TB，PUT记录每秒钟可从数千次扩展到数百万。 易于使用：您可以在几秒钟内创建DIS数据通道，轻松地将数据放入通道中，并构建用于数据处理的应用程序。 成本低廉：DIS没有前期成本，您只需要为实际使用的资源付费即可。 并行处理：DIS

查看更多 →

来的应用程序能够运行在由上千个 服务器 组成的大型集群上，并以一种可靠容错的方式并行处理上T级别的数据集。 一个MapReduce作业（application/job）通常会把输入的数据集切分为若干独立的数据块，由map任务（task）以完全并行的方式来处理。框架会对map的输出先进

查看更多 →

配置扫描仪线程 扫描仪线程属性决定了每个分割的数据被划分的可并行处理的数据块的数量。如果数量过多，会产生很多小数据块，性能会受到影响。如果数量过少，并行性不佳，性能也会受到影响。因此，决定扫描仪线程数时，需要考虑一个分割内的平均数据大小，选择一个使数据块不会很小的值。经验法则是将单个块大小

查看更多 →

Processing)是云数据库 GaussDB (for MySQL)发布的旨在提高数据查询效率的计算下推的解决方案。针对数据密集型查询，将提取列、聚合运算、条件过滤等操作从计算节点向下推送给GaussDB(for MySQL)的分布式存储层的多个节点，并行执行。通过计算下推方法，提升了并行处理能力，

查看更多 →

Processing)是云数据库GaussDB(for MySQL)发布的旨在提高数据查询效率的计算下推的解决方案。针对数据密集型查询，将提取列、聚合运算、条件过滤等操作从计算节点向下推送给GaussDB(for MySQL)的分布式存储层的多个节点，并行执行。通过计算下推方法，提升了并行处理能力，

查看更多 →

在触发调用后立即得到返回，从而不因长耗时处理阻塞业务主逻辑的执行。 实时感知任务状态 无 并行处理 离线GPU任务需要处理大量数据，对GPU资源供给要求高，通过API调用并行运行加快处理速度。 数据源集成 离线GPU任务对数据源的需求多种多样，处理过程中需要与多种存储产品（例如 对象存储OBS ）和多

查看更多 →

配置扫描仪线程 扫描仪线程属性决定了每个分割的数据被划分的可并行处理的数据块的数量。如果数量过多，会产生很多小数据块，性能会受到影响。如果数量过少，并行性不佳，性能也会受到影响。因此，决定扫描仪线程数时，需要考虑一个分割内的平均数据大小，选择一个使数据块不会很小的值。经验法则是将单个块大小

查看更多 →

S也达到上限。 磁盘I/O使用率，用于统计测量对象在测量周期内提交读取或写入操作的占比，不能代表磁盘的I/O性能数据，仅代表磁盘的繁忙程度。 由于云硬盘具有可以并行处理多个I/O请求的能力，因此当磁盘的I/O使用率达到100%时，也不表示达到了磁盘的瓶颈。例如：某个云硬盘处理单个I/O请求需要0

查看更多 →

所有映射的键值对共享相同的键组。 图1 分布式批处理引擎 MapReduce是用于并行处理大数据集的软件框架。MapReduce的根源是函数性编程中的Map和Reduce函数。Map函数接受一组数据并将其转换为一个键/值对列表，输入域中的每个元素对应一个键/值对。Reduce函数

查看更多 →

建多个Project。 GaussDB(DWS)的数据库概念 数据库 数据库用于管理各类数据对象，与其他数据库隔离。创建数据库时可以指定对应的表空间，如果不指定相应的表空间，相关的对象会默认保存在PG_DEFAULT空间中。数据库管理的对象可分布在多个表空间上。 联机分析处理 联机分析处理（Online

查看更多 →