类型 说明 fromJobConfig.database 是 String MongoDB/DDS的数据库名称。 fromJobConfig.collectionName 是 String MongoDB/DDS的集合名称。 fromJobConfig.columnList 否 String

查看更多 →

MongoDB/DDS增量迁移 使用 CDM 导出MongoDB或者DDS的数据时，支持导出指定时间段内的数据，配合CDM的定时任务，可以实现MongoDB/DDS的增量迁移。 如果配置了时间宏变量，通过 DataArts Studio 数据开发调度CDM迁移作业时，系统会将时间宏变量替

查看更多 →

存储 存储是保存数据的对象，通常来说，同一种设备的数据会保存在同一个存储中。存储中定义了设备的标签与设备的属性。其中设备ID（deviceId）就是最常用的一种标签（tag）。一个标签包括标签名与标签值，例如设备ID：标签名为 deviceId，而它的标签值则是具体的某个设备ID

查看更多 →

存储 存储概述 存储基础知识 云硬盘存储（EVS） 文件存储（SFS） 极速文件存储（SFS Turbo） 对象存储（OBS） 专属存储（DSS） 本地持久卷（Local PV） 临时存储卷（EmptyDir） 主机路径（HostPath） 存储类（StorageClass） 存储管理最佳实践

查看更多 →

存储 华为云为您提供多种数据存储方式，每种存储方式都具有独特的性能和耐用性组合。这些存储选项可以单独使用，也可以组合使用，以满足您的要求。以下介绍华为云SAP解决方案的存储方式及其主要用途。 云硬盘（EVS） 通过云硬盘服务，华为云提供可扩展的虚拟块存储设备。您可以在线创建云硬盘

查看更多 →

存储 云备份 CBR 云硬盘 EVS 父主题： SCP授权参考

查看更多 →

存储 简介 弹性到CCI的工作负载支持多种华为云存储配置，用于满足客户多样化的存储需求。通过阅读本章用户可以： 了解弹性CCI的负载支持的存储类型。 了解弹性CCI的负载Hostpath类型的典型场景以及如何使用。 约束与限制 调度到CCI的实例的存储类型支持ConfigMap、

查看更多 →

优化小文件场景下的Spark SQL性能 配置场景 Spark SQL的表中，经常会存在很多小文件（大小远小于HDFS块大小），每个小文件默认对应Spark中的一个Partition，也就是一个Task。在很多小文件场景下，Spark会起很多Task。当SQL逻辑中存在Shuff

查看更多 →

存储 云硬盘存储（EVS） 文件存储（SFS） 极速文件存储（SFS Turbo） 对象存储（OBS） 临时路径（EmptyDir） 增加Pod的临时存储容量

查看更多 →

存储 创建NAS存储 权限策略 管理NAS存储 删除NAS存储 配置 服务器 组挂载策略 父主题： 管理员操作指南

查看更多 →

存储 存储扩容 跨账号挂载对象存储 通过StorageClass动态创建SFS Turbo子目录 1.15集群如何从Flexvolume存储类型迁移到 CS I Everest存储类型 自定义StorageClass 使用延迟绑定的云硬盘（csi-disk-topology）实现跨AZ调度

查看更多 →

committer小文件写性能 提升对象存储服务（OBS）在处理小文件写入时的性能，提高数据传输效率。 动态Executor shuffle数据优化 提升资源扩缩容的稳定性，当shuffle文件不需要时清理Executor。 支持配置小文件合并 使用SQL过程中，生成的小文件过多时，会导

查看更多 →

vCPUs | 32GB - DRS迁移任务 迁移任务名 DRS-dds 自定义。 源数据库引擎 MongoDB 本示例中源数据库为自建MongoDB，即在 本地服务器 上安装社区版MongoDB。 目标数据库引擎 DDS 本示例中目标数据库为华为云DDS实例。 网络类型 公用网络 本示例中采用公用网络。

查看更多 →

Streams（MongoDB 4.0+）模式时，DRS内部迁移使用MongoDB特性Change Streams。使用该模式应注意以下几个方面： Change Streams订阅数据过程会消耗源数据库一定量的CPU，内存资源，请提前做好源数据库资源评估。 受MongoDB Change

查看更多 →

将MongoDB同步到DDS 支持的源和目标数据库 表1 支持的数据库 源数据库 目标数据库 本地自建Mongo数据库（3.2、3.4、3.6、4.0、4.2、4.4、5.0版本） ECS自建Mongo数据库（3.2、3.4、3.6、4.0、4.2、4.4、5.0版本） 其他云上Mongo数据库（3

查看更多 →

行对比时，集群实例如果存在孤儿文档或者正在进行chunk同步，会导致返回的行数不准确，对比结果不一致。详细情况可参考MongoDB官方文档。 操作步骤 本小节以DDS到MongoDB的出云单增量实时同步为示例，介绍如何使用 数据复制服务 配置实时同步任务。 在“实时同步管理”页面，单击“创建同步任务”。

查看更多 →

文档数据库（MongoDB） 文档数据库（MongoDB）为用户提供常见的文档数据操作管理功能，如查询文档、删除文档、更新文档等。完全兼容MongoDB协议，可以访问MongoDB数据库。包含“创建集合”、“删除集合”、“删除文档”等执行动作。 连接参数 创建文档数据库连接时连接

查看更多 →

配置MongoDB/DDS源端参数 从MongoDB、DDS迁移数据时，CDM会读取集合的首行数据作为字段列表样例，如果首行数据未包含该集合的所有字段，用户需要自己手工添加字段。 作业中源连接为MongoDB连接时，即从本地MongoDB或DDS导出数据时，源端作业参数如表1所示。

查看更多 →

该参数为服务器端参数。建议开启，开启后才能使用Append功能。 不适用HDFS场景可以考虑使用其他方式来存储数据，如HBase。 HDFS不适用于存储大量小文件 HDFS不适用于存储大量的小文件，因为大量小文件的元数据会占用NameNode的大量内存。 HDFS中数据的备份数量3份即可 DataN

查看更多 →

MongoDB->DDS实时迁移 全量迁移失败报错，关键词“Prematurely reached end of stream” 全量迁移失败报错，关键词“not authorized on *** to execute command {***}” 全量迁移失败报错，关键词“GC

查看更多 →

接入MongoDB数据源 概述 应用模型支持把MongoDB作为一种数据源类型，并用于模型采集。在使用MongoDB数据源前，您需要先接入数据源。 接入MongoDB数据源只适用于旧版模型采集。 操作步骤 在开天 集成工作台 界面中，选择左侧导航栏中的“应用模型 > 实例管理”。 单

查看更多 →