华为云

面向未来的智能世界,数字化是企业发展的必由之路。数字化成功的关键是以云原生的思维践行云原生,全数字化、全云化、AI驱动,一切皆服务。

华为云将持续创新,携手客户、合作伙伴和开发者,致力于让云无处不在,让智能无所不及,共建智能世界云底座。

 
 

    华为云 cdm整库迁移的作业配置内容 更多内容
  • MRS HDFS数据迁移到OBS

    ManagerIP地址,可以单击输入框后“选择”来选定已创建 MRS 集群, CDM 会自动填充下面的鉴权参数。 用户名:选择KERBEROS鉴权时,需要配置MRS Manager用户名和密码。 从HDFS导出目录时,如果需要创建快照,这里配置用户需要HDFS系统管理员权限。 密码:访问MRS

    来自:帮助中心

    查看更多 →

  • 查看并修改CDM集群配置

    消息通知:CDM迁移作业(目前仅支持表/文件迁移作业)失败时,或者EIP异常时,会发送短信或邮件通知用户。该功能产生消息通知不会计入收费项。 用户隔离:控制其他用户是否能够查看、操作该集群中迁移作业和连接。 开启该功能时,该集群中迁移作业、连接会被隔离,华为账号下其他IA

    来自:帮助中心

    查看更多 →

  • 使用CDM服务迁移Hadoop数据至MRS集群

    版本对应操作指导为准。 CDM服务支持迁移数据源可参考支持数据源,数据源为Apache HDFS时,建议使用版本为2.8.X、3.1.X,请执行搬迁前务必确认是否支持搬迁。 方案架构 CDM围绕大数据迁移上云和智能数据湖解决方案,提供了简单易用迁移能力和多种数据源到数据

    来自:帮助中心

    查看更多 →

  • 迁移Elasticsearch数据至DLI

    已创建CDM迁移集群。创建CDM集群操作可以参考创建CDM集群。 如果目标数据源为云下数据库,则需要通过公网或者专线打通网络。通过公网互通时,需确保CDM集群已绑定EIP、CDM云上安全组出方向放通云下数据源所在主机、数据源所在主机可以访问公网且防火墙规则已开放连接端口。 数据源为云上 CSS 服务时,网络互通需满足如下条件:

    来自:帮助中心

    查看更多 →

  • 配置OBS源端参数

    标识文件名 选择开启作业标识文件功能时,需要指定启动作业标识文件名。指定文件后,只有在源端路径下存在该文件情况下才会运行任务。该文件本身不会被迁移。 ok.txt 等待时间 选择开启作业标识文件功能时,如果源路径下不存在启动作业标识文件,作业挂机等待时长,当超时后任务会失败。

    来自:帮助中心

    查看更多 →

  • 指定集群创建作业

    源连接名称,即为通过“创建连接”接口创建连接对应连接名。 creation-user 否 String 创建作业用户。由系统生成,用户无需填写。 creation-date 否 Long 作业创建时间,单位:毫秒。由系统生成,用户无需填写。 update-date 否 Long 作业最后更新时间,单位:毫秒。由系统生成,用户无需填写。

    来自:帮助中心

    查看更多 →

  • 准备工作

    和智能数据湖解决方案,提供了简单易用迁移能力和多种数据源到数据集成能力,降低了客户数据迁移和集成复杂性,有效提高数据迁移和集成效率,可参考Hadoop数据迁移华为云MRS服务、HBase数据迁移华为云MRS服务相关内容。 停止集群业务及相关服务 如果您集群涉及

    来自:帮助中心

    查看更多 →

  • 配置HBase/CloudTable源端参数

    CloudTable或HBase作为源端时,CDM会读取表首行数据作为字段列表样例,如果首行数据未包含该表所有字段,用户需要自己手工添加字段。 由于HBase无Schema技术特点,CDM无法获知数据类型,如果数据内容是使用二进制格式存储CDM会无法解析。 从HBase/CloudTable导出数据时,由于

    来自:帮助中心

    查看更多 →

  • 配置HBase/CloudTable源端参数

    CloudTable或HBase作为源端时,CDM会读取表首行数据作为字段列表样例,如果首行数据未包含该表所有字段,用户需要自己手工添加字段。 由于HBase无Schema技术特点,CDM无法获知数据类型,如果数据内容是使用二进制格式存储CDM会无法解析。 从HBase/CloudTable导出数据时,由于

    来自:帮助中心

    查看更多 →

  • CDM支持的监控指标

    CDM支持监控指标 功能说明 云监控服务(Cloud Eye)可以监控和查看云服务运行状态、各个指标的使用情况,并对监控项创建告警规则。 当您创建了CDM集群后,云监控服务会自动关联CDM监控指标,帮助您实时掌握CDM集群各项性能指标,精确掌握CDM集群运行情况。 本章

    来自:帮助中心

    查看更多 →

  • OBS数据迁移到DLI服务

    源目录或文件:待迁移数据具体路径。 文件格式:传输文件到数据表时,这里选择“ CS V格式”或“JSON格式”。 高级属性里可选参数保持默认。 目的连接名称:选择创建 DLI 连接中“dlilink”。 资源队列:选择目的表所属资源队列。 数据库名称:写入数据数据库名称。 表名:写入数据

    来自:帮助中心

    查看更多 →

  • 通过CDM从OBS迁移数据到DLI,同样的作业在新版本集群迁移失败?

    string,重新跑作业还是失败,报错内容跟之前一样。 配置开启脏数据,重跑作业作业依旧失败,但是有3条数据迁移到目标表。 通过对比迁移失败数据记录和成功距离,怀疑是类型为boolean字段导致。 解决方案 将目标端boolean类型字段修改成string 后作业跑成功,因为

    来自:帮助中心

    查看更多 →

  • CDM迁移作业的抽取并发数应该如何设置?

    作业可能出现未严格按作业“抽取并发数”参数分片情况。 CDM依次将Task提交给运行池运行。根据集群配置管理中“最大抽取并发数”参数,超出规格Task排队等待运行。 如何调整抽取并发数 集群最大抽取并发数设置与CDM集群规格有关,并发数上限建议配置为vCPU核数*2,如表1所示。

    来自:帮助中心

    查看更多 →

  • OBS数据迁移到云搜索服务

    单击“保存”回到连接管理界面。 创建迁移作业 选择“表/文件迁移 > 新建作业”,开始创建从OBS导出数据 云搜索 服务任务。 图6 创建OBS到云搜索服务迁移任务 作业名称:用户自定义便于记忆、区分任务名称。 源端作业配置 源连接名称:选择创建OBS连接中“obslink”。 桶名:待迁移数据桶。

    来自:帮助中心

    查看更多 →

  • 如何查看CDM作业被哪些作业进行调用?

    如何查看CDM作业被哪些作业进行调用? 问题描述 CDM作业被哪些作业进行调用。 解决方案 在数据开发主界面的左侧导航栏,选择“运维调度 > 作业监控”。 单击“批作业监控”页签,进入批作业监控页面。 通过条件筛选,查询CDM作业调度执行信息。 通过筛选“CDM作业”可以查询CDM作业的调度执行信息。

    来自:帮助中心

    查看更多 →

  • 通过CDM节点批量创建分表迁移作业

    连接的名称,根据连接数据源类型,用户可自定义便于记忆、区分连接名。 mysql_link 数据服务配置为要连接数据IP地址或 域名 。 单击输入框后“选择”,可获取用户MySQL数据库实例列表。 192.168.0.1 端口 配置为要连接数据端口。 3306 数据库名称 配置为要连接的数据库名称。

    来自:帮助中心

    查看更多 →

  • MySQL数据迁移到OBS

    mysqllink 数据服务器 MySQL数据IP地址或域名。 - 端口 MySQL数据端口。 3306 数据库名称 MySQL数据名称。 sqoop 用户名 拥有MySQL数据读、写和删除权限用户。 admin 密码 用户密码。 - 使用本地API 使用数据库本地AP

    来自:帮助中心

    查看更多 →

  • CDM不同集群规格对应并发的作业数是多少?

    某些作业可能出现未严格按作业“抽取并发数”参数分片情况。 CDM依次将Task提交给运行池运行。根据集群配置管理中“最大抽取并发数”参数,超出规格Task排队等待运行。 如何调整抽取并发数 集群最大抽取并发数设置与CDM集群规格有关,并发数上限建议配置为vCPU核数*2,如表1所示。

    来自:帮助中心

    查看更多 →

  • 使用CDM服务迁移MySQL数据至MRS Hive

    Manager用户名和密码。从HDFS导出目录时,如果需要创建快照,这里配置用户需要HDFS系统管理员权限。 如果要创建MRS安全集群数据连接,不能使用admin用户。因为admin用户是默认管理页面用户,这个用户无法作为安全集群认证用户来使用。您可以创建一个新MRS用户

    来自:帮助中心

    查看更多 →

  • 随机集群创建作业并执行

    源连接名称,即为通过“创建连接”接口创建连接对应连接名。 creation-user 否 String 创建作业用户。由系统生成,用户无需填写。 creation-date 否 Long 作业创建时间,单位:毫秒。由系统生成,用户无需填写。 update-date 否 Long 作业最后更新时间,单位:毫秒。由系统生成,用户无需填写。

    来自:帮助中心

    查看更多 →

  • 新建表/文件迁移作业

    已新建连接,详情请参见创建CDM数据源之间连接。 CDM集群与待迁移数据源可以正常通信。 操作步骤 进入CDM主界面,单击左侧导航上“集群管理”,选择集群后作业管理”。 选择“表/文件迁移 > 新建作业”,进入作业配置界面。 图1 新建表/文件迁移作业 选择源连接、目的连接: 作业名称:

    来自:帮助中心

    查看更多 →

共105条
看了本文的人还看了