复杂场景 某用户通过U CS 服务管理华为云集群和本地集群，其使用时间轴见图1。 图1 使用时间轴 具体操作如下： 该用户于2023/06/15 08:00:00成功接入集群，接入集群规模为：华为云集群40 vCPU，本地集群10 vCPU 该用户于2023/06/15 08:30:

查看更多 →

复杂依赖任务（DAG） 如果有四个任务，a/b/c/d 我们希望首先执行 任务 a，然后执行 b/c，b/c 同时完成后，最后执行 d，如下图所示： 为了实现这个目标，需要引入 depends 字段。以任务 d为例，完成任务 d 需要首先完成任务 b/c，则depends 字段为：

查看更多 →

复杂依赖任务（DAG） 如果有四个任务，a/b/c/d 我们希望首先执行 任务 a，然后执行 b/c，b/c 同时完成后，最后执行 d，如下图所示： 为了实现这个目标，需要引入 depends 字段。以任务 d为例，完成任务 d 需要首先完成任务 b/c，则depends 字段为：

查看更多 →

复杂数据类型 Spark SQL支持复杂数据类型，如表1所示。 表1 复杂数据类型 数据类型 描述 使用格式 ARRAY 一组有序字段，使用指定的值构造ARRAY数组。可以为任意类型，要求所有字段的数据类型必须相同。 array(<value>,<value>[, ...]) 具体使用示例详见：ARRAY示例。

查看更多 →

复杂数据类型 Spark SQL支持复杂数据类型，如表1所示。 表1 复杂数据类型 数据类型 描述 使用格式 ARRAY 一组有序字段，使用指定的值构造ARRAY数组。可以为任意类型，要求所有字段的数据类型必须相同。 array(<value>,<value>[, ...]) 具体使用示例详见：ARRAY示例。

查看更多 →

复杂查询造成磁盘满 场景描述 主机或只读节点偶尔出现磁盘占用高或磁盘占用满，其他只读节点磁盘空间占用正常。 原因分析 MySQL内部在执行复杂SQL时，会借助临时表进行分组（group by）、排序（order by）、去重（distinct）、Union等操作，当内存空间不够时，便会使用磁盘空间。

查看更多 →

优势： 支持内嵌文档：内嵌文档可以避免join的使用，降低应用开发的复杂性，灵活的schema支持，方便快速开发迭代。 轻松应对数据峰值压力：基于分片构建的集群支持TB级的数据需求。 IoT DDS兼容MongoDB，具有高性能和异步数据写入功能，特定场景下可达到内存数据库的处理能

查看更多 →

MongoDB连接 介绍 通过MongoDB连接，可以对MongoDB 服务器 抽取、加载数据。 连接样例 { "links": [ { "link-config-values": { "configs":

查看更多 →

/usr/local/mongodb/bin ./mongod -f ../mongodb.config MongoDB启动 命令行界面输入： cd /usr/local/mongodb/bin ./mongod -f ../mongodb.config MongoDB状态查看 查看MongoDB服务运行状态

查看更多 →

复杂查询造成磁盘满 场景描述 主机或只读实例偶尔出现磁盘占用高或磁盘占用满，其他只读实例或者备机磁盘空间占用正常。 原因分析 MySQL内部在执行复杂SQL时，会借助临时表进行分组（group by）、排序（order by）、去重（distinct）、Union等操作，当内存空间不够时，便会使用磁盘空间。

查看更多 →

跨分片复杂SQL调优 本章节主要针对跨分片复杂SQL时的调优操作。 Group by和Order by SQL调优建议 当group by 字段不是表中现有的数据列时，可以使用generated column机制（MySQL5.7版本以上支持，5.6及之前版本可新建普通字段和添加

查看更多 →

10s以上 响应时间在10s以上请求数 - INT SUM MongoDb版本（version，MongoDb版本。） version 版本 版本 - STRING LAST MongoDb汇总（total，MongoDb调用的汇总信息统计 。） invokeCount 调用次数 总的调用次数

查看更多 →

MongoDB连接 介绍 通过MongoDB连接，可以对MongoDB服务器抽取、加载数据。 连接样例 { "links": [ { "link-config-values": { "configs":

查看更多 →

MapReduce MapReduce基本原理 MapReduce与其他组件的关系 MapReduce开源增强特性 父主题： 组件介绍

查看更多 →

配置MongoDB连接 MongoDB连接适用于第三方云MongoDB服务，以及用户在本地数据中心或ECS上自建的MongoDB，常用于从MongoDB同步数据到大数据平台。 连接本地MongoDB数据库时，相关参数如表1所示。 作业运行中禁止修改密码或者更换用户。在作业运行过程

查看更多 →

说明 MongoDB地址 MongoDB的IP地址，例如：10.0.0.1。 MongoDB端口 MongoDB的端口号，例如：3306。 MongoDB用户名 MongoDB的用户名称。 MongoDB密码 MongoDB的密码。 单击“立即创建”，即可完成MongoDB插件接

查看更多 →

资源发现与采集（复杂项目） 公网发现与采集 内网发现与采集 导入应用关联文件 导入工具采集结果 导入阿里云资源清单 导入RVTools资源 查看应用关联分析结果 父主题： 应用发现

查看更多 →

配置MongoDB连接 MongoDB连接适用于第三方云MongoDB服务，以及用户在本地数据中心或ECS上自建的MongoDB，常用于从MongoDB同步数据到大数据平台。 连接本地MongoDB数据库时，相关参数如表1所示。 作业运行中禁止修改密码或者更换用户。在作业运行过程

查看更多 →

MongoDB/DDS增量迁移 使用 CDM 导出MongoDB或者DDS的数据时，支持导出指定时间段内的数据，配合CDM的定时任务，可以实现MongoDB/DDS的增量迁移。 如果配置了时间宏变量，通过 DataArts Studio 数据开发调度CDM迁移作业时，系统会将时间宏变量替

查看更多 →

MongoDB/DDS增量迁移 使用CDM导出MongoDB或者DDS的数据时，支持导出指定时间段内的数据，配合CDM的定时任务，可以实现MongoDB/DDS的增量迁移。 如果配置了时间宏变量，通过DataArts Studio数据开发调度CDM迁移作业时，系统会将时间宏变量替

查看更多 →

MapReduce Action 功能描述 MapReduce任务节点，负责执行一个map-reduce任务。 参数解释 MapReduce Action节点中包含的各参数及其含义，请参见表1。 表1 参数含义 参数 含义 name map-reduce action的名称 resourceManager

查看更多 →