大数据 数据湖探索 DLI 数据治理中心 DataArts Studio 数据仓库 服务 GaussDB (DWS) MapReduce服务 MRS 云搜索服务 CSS 父主题： SCP授权参考

查看更多 →

大数据血缘 部署迁移工具Edge 采集元数据 血缘采集

查看更多 →

大数据校验 Hive校验结果中的源端数据和目的端数据显示为“0”或“-1” Hive校验的sum统计结果显示未达标 DLI校验任务出现大量失败表

查看更多 →

MongoDB连接 介绍 通过MongoDB连接，可以对MongoDB 服务器 抽取、加载数据。 连接样例 { "links": [ { "link-config-values": { "configs":

查看更多 →

/usr/local/mongodb/bin ./mongod -f ../mongodb.config MongoDB启动 命令行界面输入： cd /usr/local/mongodb/bin ./mongod -f ../mongodb.config MongoDB状态查看 查看MongoDB服务运行状态

查看更多 →

大数据校验 大数据校验概述 准备工作 创建元数据连接 创建表组并添加数据表 创建连接 创建统计任务并执行校验 查看并导出校验结果

查看更多 →

大型企业的数据库往往需要应对TB级数据，有较强的数据存储需求。且大数据场景下，还需要满足业务在线数据实时写入数据库、大数据计算分析、分析结果反馈等实时查询、动态分析的需求。 优势： MapReduce：解决数据分析场景需求，用户可以自己写查询语句或脚本，将请求都分发到DDS上完成。 性能扩展能

查看更多 →

MongoDB连接 介绍 通过MongoDB连接，可以对MongoDB服务器抽取、加载数据。 连接样例 { "links": [ { "link-config-values": { "configs":

查看更多 →

10s以上 响应时间在10s以上请求数 - INT SUM MongoDb版本（version，MongoDb版本。） version 版本 版本 - STRING LAST MongoDb汇总（total，MongoDb调用的汇总信息统计 。） invokeCount 调用次数 总的调用次数

查看更多 →

1。 MongoDB端口 MongoDB的端口号，例如：3306。 MongoDB用户名 MongoDB的用户名称。 MongoDB密码 MongoDB的密码。 单击“立即创建”，即可完成MongoDB插件接入。已接入的插件会显示在采集任务页面。单击对应的采集任务名称，在弹出的面板中可以查看采集任务的配置信息。

查看更多 →

对接大数据组件 支持的大数据组件简介 Hadoop对接OBS Hive对接OBS Spark对接OBS Presto对接OBS Flume对接OBS DataX对接OBS Druid对接OBS Flink对接OBS Logstash对接OBS 父主题： 大数据场景下使用OBS实现存算分离

查看更多 →

大数据数据迁移 使用须知 准备工作 创建源端连接 创建目的端连接 迁移实施 自定义参数说明

查看更多 →

大数据校验概述 迁移中心 MgC为多种大数据计算/存储引擎，如Hive、Hbase、Doris和MaxCompute等，提供了一致性校验方法。通过一致性校验，您可以更加放心地进行大数据迁移操作，确保数据的准确性和可靠性，从而避免了数据丢失或不一致的风险。 校验方式说明 全量校验：

查看更多 →

大数据数据迁移 数据迁移失败，提示超过DLI网管流控上限 部分表迁移失败，报错：CRC Check failed 部分表迁移失败，报错：no more field nodes for for field %s and vector %s

查看更多 →

学习成本高，需要了解上百个调优参数。 支持数据源 云上：OBS、RDS、DWS、 CS S、MongoDB、Redis。 云下：自建数据库、MongoDB、Redis。 云上：OBS。 云下：HDFS。 生态兼容 DLV 、永洪BI、帆软。 大数据生态工具。 自定义镜像 支持，满足业务多样性。 无。 工作流调度

查看更多 →

对接大数据平台 支持的大数据平台简介 华为云MRS对接OBS Cloudera CDH对接OBS Hortonworks HDP对接OBS 父主题： 大数据场景下使用OBS实现存算分离

查看更多 →

MongoDB连接参数说明 MongoDB连接适用于第三方云MongoDB服务，以及用户在本地数据中心或ECS上自建的MongoDB，常用于从MongoDB同步数据到大数据平台。 连接本地MongoDB数据库时，相关参数如表1所示。 作业运行中禁止修改密码或者更换用户。在作业运行

查看更多 →

MongoDB连接参数说明 MongoDB连接适用于第三方云MongoDB服务，以及用户在本地数据中心或ECS上自建的MongoDB，常用于从MongoDB同步数据到大数据平台。 连接本地MongoDB数据库时，相关参数如表1所示。 作业运行中禁止修改密码或者更换用户。在作业运行

查看更多 →

授权大数据资产 如果您的资产是自建大数据类型，请先添加大数据类型实例再进行授权大数据。 如果您的资产属于云上大数据类型，请按照授权大数据直接给大数据授权。 如果您的资产为DLI数据库，请参照添加DLI数据库进行添加。 前提条件 已完成数据库资产委托授权，参考云资产委托授权/停止授权进行操作。

查看更多 →

配置MongoDB源端参数 表1 MongoDB作为源端时的作业参数 参数类型 参数名 说明 是否必须填 取值样例 基本参数 数据库 输入或选择数据库名称，单击输入框后面的按钮可进入集合的选择界面。 是 default 集合名 输入或选择集合名，单击输入框后面的按钮可进入集合的选择界面。

查看更多 →

，而不是“ CDM 作业实际启动时间-偏移量”。 在创建CDM表/文件迁移的作业，源连接选择为MongoDB连接或者DDS连接时，高级属性的可选参数中可以配置查询筛选。 图1 MongoDB查询筛选 此参数支持配置为时间宏变量，例如起始时间配置为{"ts":{$gte:ISODate

查看更多 →