类型 说明 fromJobConfig.database 是 String MongoDB/DDS的数据库名称。 fromJobConfig.collectionName 是 String MongoDB/DDS的集合名称。 fromJobConfig.columnList 否 String

查看更多 →

MongoDB Exporter接入 操作场景 使用MongoDB过程中需要对MongoDB运行状态进行监控，以便了解MongoDB服务是否运行正常，排查MongoDB故障问题原因。Prometheus监控服务提供了CCE容器场景下基于Exporter的方式来监控MongoDB运

查看更多 →

MongoDB Exporter接入 操作场景 使用MongoDB过程中需要对MongoDB运行状态进行监控，以便了解MongoDB服务是否运行正常，排查MongoDB故障问题原因。Prometheus监控服务提供了CCE容器场景下基于Exporter的方式来监控MongoDB运

查看更多 →

MongoDB/DDS增量迁移 使用 CDM 导出MongoDB或者DDS的数据时，支持导出指定时间段内的数据，配合CDM的定时任务，可以实现MongoDB/DDS的增量迁移。 如果配置了时间宏变量，通过 DataArts Studio 数据开发调度CDM迁移作业时，系统会将时间宏变量替

查看更多 →

gz”，解压后在“hadoop-x.x.x\share\hadoop\mapreduce”路径下获取“hadoop-mapreduce-examples-x.x.x.jar”，即为Hadoop的样例程序。“hadoop-mapreduce-examples-x.x.x.jar”样例程序包含了wordcount程序。

查看更多 →

业务增长快，数据量大，访问量增长迅速，对数据存储要求具备水平扩展能力。 DDS提供二级索引功能满足动态查询的需求，利用兼容MongoDB的MapReduce聚合框架进行多维度的数据分析。 优势： 写性能：文档数据库的高性能写入，基于分片构建的集群支持物联网TB级的数据需求。 高性

查看更多 →

开发MapReduce应用 MapReduce统计样例程序 MapReduce访问多组件样例程序 父主题： MapReduce开发指南（普通模式）

查看更多 →

MapReduce接口介绍 MapReduce Java API接口介绍 MapReduce REST API接口介绍 父主题： MapReduce应用开发常见问题

查看更多 →

gz”，解压后在“hadoop-x.x.x\share\hadoop\mapreduce”路径下获取“hadoop-mapreduce-examples-x.x.x.jar”，即为Hadoop的样例程序。“hadoop-mapreduce-examples-x.x.x.jar”样例程序包含了wordcount程序。

查看更多 →

MongoDB->DDS实时迁移 全量迁移失败报错，关键词“Prematurely reached end of stream” 全量迁移失败报错，关键词“not authorized on *** to execute command {***}” 全量迁移失败报错，关键词“GC

查看更多 →

接入MongoDB数据源 概述 应用模型支持把MongoDB作为一种数据源类型，并用于模型采集。在使用MongoDB数据源前，您需要先接入数据源。 接入MongoDB数据源只适用于旧版模型采集。 操作步骤 在开天 集成工作台 界面中，选择左侧导航栏中的“应用模型 > 实例管理”。 单

查看更多 →

创建并行文件系统 用户可以通过控制台创建并行文件系统。 操作步骤 在管理控制台首页，选择“服务列表 > 存储 > 对象存储服务 ”。 选择左侧导航栏的“并行文件系统”，进入并行文件系统控制台。 单击界面右上角的“创建并行文件系统”，进入创建页面。 图1 创建并行文件系统 (可选）复制并行文件系统配置。

查看更多 →

单击“云存储配置”模块中的“编辑”，进入云存储配置页面。 单击选择“配置并行文件系统”。 图2 配置并行文件系统 从下拉框中选择已授权的并行文件系统名称。 如需新增授权，可以单击下拉框右侧“去授权并行文件系统”进行添加，具体操作请参考授权并行文件系统。 参考表1配置容器挂载的路径和权限。 表1 参数说明

查看更多 →

配置并行处理算子 并行处理算子可以同时执行多个分支逻辑，分支间互不影响。 表1 并行处理算子 参数 说明 失败策略 当并行分支中存在失败情况时，配置API工作流的失败策略。 任一分支失败则终止：表示当并行分支中存在失败情况时，则此API工作流置为失败状态，不再继续执行。 分支失败

查看更多 →

HDFS和MapReduce的关系 HDFS是Hadoop分布式文件系统，具有高容错和高吞吐量的特性，可以部署在价格低廉的硬件上，存储应用程序的数据，适合有超大数据集的应用程序。 而MapReduce是一种编程模型，用于大数据集（大于1TB）的并行运算。在MapReduce程序中计

查看更多 →

本地MongoDB迁移到DDS 数据复制服务 （Data Replication Service，简称DRS）支持将本地MongoDB数据库的数据迁移至本云文档数据库服务（Document Database Service，以下简称DDS）实例。通过DRS提供的实时迁移任务，实现在

查看更多 →

行对比时，集群实例如果存在孤儿文档或者正在进行chunk同步，会导致返回的行数不准确，对比结果不一致。详细情况可参考MongoDB官方文档。 操作步骤 本小节以DDS到MongoDB的出云单增量实时同步为示例，介绍如何使用数据复制服务配置实时同步任务。 在“实时同步管理”页面，单击“创建同步任务”。

查看更多 →

将MongoDB同步到DDS 支持的源和目标数据库 表1 支持的数据库 源数据库 目标数据库 本地自建Mongo数据库（3.2、3.4、3.6、4.0、4.2、4.4版本） E CS 自建Mongo数据库（3.2、3.4、3.6、4.0、4.2、4.4版本） 其他云上Mongo数据库（3

查看更多 →

Streams（MongoDB 4.0+）模式时，DRS内部迁移使用MongoDB特性Change Streams。使用该模式应注意以下几个方面： Change Streams订阅数据过程会消耗源数据库一定量的CPU，内存资源，请提前做好源数据库资源评估。 受MongoDB Change

查看更多 →

文档数据库（MongoDB） 文档数据库（MongoDB）为用户提供常见的文档数据操作管理功能，如查询文档、删除文档、更新文档等。完全兼容MongoDB协议，可以访问MongoDB数据库。包含“创建集合”、“删除集合”、“删除文档”等执行动作。 连接参数 创建文档数据库连接时连接

查看更多 →

的转发目标MongoDB。 参考下表参数说明，填写规则内容。以下参数取值仅为示例，您可参考数据转发简介填写具体的流转规则参数，填写完成后单击“创建规则”。 参数名 参数说明 规则名称 自定义，如iotda-mongodb。 规则描述 自定义，如数据转发至MongoDB存储。 数据来源

查看更多 →