产品介绍
服务概述
此服务针对客户在已经购买MRS、DLI、CSS、CloudTable、DIS、DataArts等的前提下提供服务。
华为云大数据上云与实施服务提供:大数据上云迁移支持服务、数据治理样板点服务、大数据平台设计服务三大服务,全方位为客户解决大数据上云过程中遇到的迁移、设计和数据治理难题。
大数据上云迁移支持服务为客户提供迁移调研、迁移方案设计、迁移实施、迁移验收提供专业服务。针对客户大数据平台上云的过程中存在业务停机、数据丢失、迁移周期紧张、运维成本高等问题提供解决方案。实现客户业务不中断、最终用户零感知。同时,在项目实施过程中,专业团队支撑客户快速稳定上云,有效降低时间成本,保障大数据平台搬迁过程中的数据质量与一致性,为客户大数据迁移保驾护航。
大数据平台设计服务,基于MRS、DLI、CSS、CloudTable、DIS、DataArts等服务,充分调研客户的具体业务诉求,深挖客户的业务场景进行合理规划设计服务架构,输出满足当前和未来业务需求、高可靠、高性价比的大数据方案。
数据治理样板点服务,依托华为云DataArts Studio,结合数据湖MRS、DLI、DIS、CloudTable、DWS等产品,为客户提供数据主题梳理与开发支持、数据标准设计与开发支持、数据分层建模设计与开发支持、数据指标设计与开发支持、数据入湖设计与开发支持、数据质量设计与开发支持、数据服务设计与开发支持、数据作业设计与开发支持等服务内容。通过专业服务,帮助客户快速完成数据治理的产品设计与实施工作的雏形搭建,保障数据治理工作快速开展起来。
服务内容
- 大数据上云迁移支持服务
如果客户已有的IDC或在他云上部署的大数据平台,并且希望将该大数据平台迁移至华为云,客户可通过该服务获得华为云大数据平台上云与迁移的技术支持。
仅适用搬迁上云场景,提供业务场景调研、大数据搬迁方案设计、搬迁实施指导、割接上线,帮助客户快速实现大数据平台的迁移和架构升级,提升数据变现效率。
套餐包内采用L2人力交付,超出套餐包范围采用L1人力补充。
服务规格
服务内容
适用场景
大数据迁移支持服务-基础版(20TB内)
提供客户迁移上云的技术支持
以数据量总包的方式提供迁移支持服务
大数据迁移支持服务-增量包(每TB)
提供客户迁移上云的技术支持
超出上一条中的总包范围之外的资源,采用本条补充
大数据迁移支持服务-基础版(500个任务以内)
提供客户迁移上云的技术支持
以任务量总包的方式提供迁移支持服务
大数据迁移支持服务-增量包(每个任务)
提供客户迁移上云的技术支持
超出上一条中的总包范围之外的资源,采用本条补充
- 大数据平台设计服务
仅适用于客户自助式新建上云场景,华为侧仅提供方案设计,不提供实施,输出大数据平台建设设计方案。按照集群体量大小划分等级,初级版在480U内,中级版480-1000U,高级版在1000U以上。
服务规格
服务内容
适用场景
大数据平台设计服务-小规模
提供大数据平台的设计服务
适用于客户的计算资源CPU核数在480U以内
大数据平台设计服务-中规模
提供大数据平台的设计服务
适用于客户的计算资源CPU核数在480-1000U之间
大数据平台设计服务-大规模
提供大数据平台的设计服务
适用于客户的计算资源CPU核数在1000U以上
- 数据治理样板点建设服务
仅适用于客户自助式新建上云场景,基于大数据平台设计服务设计的方案实施,打造客户大数据平台样板,为后续的平台建设提供样例。
在大数据上云咨询过程中,面向客户的业务选择一条作业流开发样例作为标准样板模板建设,选型要求:大数据处理端到端流程在7个步骤以内。仅作为样板,不作生产使用。
场景范围包括:1)数据入湖集成设计与实施;2)数据仓库建设:数据分析作业设计,数据ETL开发,数据脚本开发实施;3)数据治理平台建设:数据架构/模型/指标/标准/质量规则设计和实施;4)数据应用验证与实施。
服务规格
服务内容
适用场景
大数据治理样板点建设服务
提供大数据平台的样板间建设服务
适用于客户的计算资源CPU核数在480U以内
前提条件
- 客户已经在华为云购买MRS、DLI、CSS、CloudTable、DIS、DataArts等服务。
- 服务实施期间需要客户一起配合讨论方案输出、人力匹配、实施计划的制定等关键措施。
- 客户配合意愿度高,愿意投入人力。
- 有一支专门的交付团队负责现场项目交付。
- 双方商定确认方案内容,并完成合同签订。
服务范围
- 服务覆盖范围
- 大数据上云迁移支持服务
在整个数据迁移过程中,华为工程师负责以下内容:
- 数据全量迁移操作。
- 数据增量迁移操作。
- 作业全量迁移调试。
- 协助用户完成数据迁移后数据一致性分析工作。
- 输出割接指导文档。
- 协助客户完成平台割接。
- 大数据平台设计服务
在整个平台设计过程中,华为工程师负责以下内容:
- 业务目标调研。
- 数据调研。
- 处理时效要求。
- 数据量处理要求。
- 数据治理需求。
- 大数据云服务选型。
- 计算组件选型。
- 存储选型。
- 集成方式选型。
- 数据流图设计。
- 大数据云服务开通。
- 大数据组件部署。
- 数据治理样板点建设服务
基于DataArts Studio产品,帮助客户实现数据资产治理,提升业务运作效率。面向赋能云、中长尾客户,提供轻量化数据治理设计与开发实施的样例服务,华为工程师负责以下内容:
- 设计样板点建设的基本架构。
- 开通样板点建设资源。
- 开发部分样板点建设作业。
- 大数据上云迁移支持服务
- 服务不覆盖范围
- 不支持大数据平台自建到自建的搬迁。
- 不支持服务实施后的后期运维活动。
- 服务区域
服务流程
- 大数据上云迁移支持服务
图1 大数据上云迁移支持服务流程
- 项目调研,输出大数据架构图和迁移方案架构图。
- 迁移环境准备,包括购买MRS、DLI、DataArts、CDM、DRS及相关对等迁移华为云服务,搜集客户所有使用到的数据源相关信息并在CDM上进行配置。
- 使用CDM迁移数据至MRS或DLI,结合按照实际情况采用全量迁移和增量迁移。
- (可选)使用DRS同步作业元数据至华为云调度平台,并进行适配调整,保证所有作业可以被顺利调度和运行。
- 根据数据分层,将客户表分成ODS、DWD、DWS、核心表和BI报表,配合客户一起进行数据准确性校验。
- 整体双跑、配合客户完成割接。
- 大数据平台设计服务
在解决方案设计服务阶段中,大概可以分为调研需求分析、方案设计、部署开通,如下图:
- 需求调研:结合客户的业务目标及场景需求,确定项目涉及的业务范围;了解数据源、数据规模、数据增长速度等数据的组织形式;根据业务需求,明确数据使用场景和处理时效;并协助客户完成对基础环境设施的需求整理。
- 方案设计:根据调研需求分析结果进行方案初步设计,包括存储组件选型、计算组件及框架选型、数据导入方式设计、硬件满意度设计等几个部分。
- 部署开通:根据调研需求分析结果和方案初步设计结果,对工程做详细的规划设计。
- 数据治理样板点建设服务
在数据治理样板点建设服务中,可以分为数据架构设计与开发支持、数据入湖设计与开发支持、数据质量设计与开发支持、数据服务设计与开发支持、数据作业设计与开发支持,如下图:
服务交付件
- 大数据上云迁移支持服务
服务规格
交付件
大数据迁移支持服务-基础版(20TB内)
01-【MRS/DLI业务调研】大数据搬迁业务评估调研表V1.0.xlsx
01-【MRS/DLI迁移方案】大数据搬迁设计模板V1.0.pptx
01-【工作计划】XX项目工作计划模板.xlsx
XXX大数据迁移项目-割接方案.pptx
XX项目割接runbook参考.xlsx
大数据迁移支持服务-增量包(每TB)
大数据迁移支持服务-基础版(500个任务以内)
大数据迁移支持服务-增量包(每个任务)
- 大数据平台设计服务
服务规格
交付件
大数据平台设计服务-小规模
《xxx客户大数据需求调研表》
《xxx客户大数据方案设计》
《xxx客户大数据云服务开通列表》
大数据平台设计服务-中规模
大数据平台设计服务-大规模
- 数据治理样板点建设服务
服务规格
交付件
大数据治理样板点建设服务
《xxx客户数据治理中心设计文档》
《xxx客户数据治理中心开发运维指导书》
责任矩阵
- 共同责任
- 双方商定并确认具体的业务需求及目标。
- 双方商定并确认项目管理计划。
- 双方商定并确认方案内容并评审。
- 完成合同签订。
- 华为责任
- 华为云需明确此次项目的负责人,因特殊情况导致华为人员变更,需要提前3个工作日知会客户,直至项目最终验收完成。
- 华为云得到客户授权后,授权数据仅限用于稳定性提升服务中涉及的服务内容,不得超出限定范围。
- 客户责任
- 客户指派一位项目负责人协助华为云实施服务。此负责人应负责双方之协调及管理,负责审核、验收华为云提供的服务。
- 客户必须提供业务系统相关的信息(包括但不限于应用架构、部署架构、资源数量和性能)。
- 责任分工矩阵表
R=责任方/Responsibility;S=协助方/Support。
- 大数据上云迁移支持服务
序号
服务流程
工作内容
华为
客户
1
现状调研
业务现状调研
R
S
源平台云服务调研
R
S
三方工具调度
R
S
大数据集群用户、角色、权限调研
R
S
网络现状调研
R
S
大数据平台健康检查(非华为设备)
S
R
大数据平台健康检查(华为设备)
R
S
IT运维管理现状调研
R
S
2
规划设计
业务需求分析及验证
R
S
整体迁移方案设计
R
S
详细迁移方案设计
R
S
迁移方案验证
R
S
迁移策略及迁移时间规划
R
S
3
迁移实施
数据迁移
R
S
作业迁移
R
S
性能调优
R
S
数据验证
S
R
业务验证
S
R
割接指导书输出
R
S
迁移演练
S
R
4
项目割接
业务双跑
S
R
客户业务封板
S
R
业务割接
S
R
5
项目验收
交付件整理及输出
R
S
项目验收汇报
R
S
迁移后保障
R
S
- 大数据平台设计服务
序号
服务流程
工作内穷
华为
客户
1
调研需求分析
业务目标分析
理解业务目标需求
S
R
确定业务范围
S
R
识别业务问题or痛点
S
R
数据调研
理解数据源
S
R
数据规模,增长速度
S
R
数据存储格式及转换
S
R
数据组织形式
S
R
业务方案讨论
为大数据系统业务方案制定提供专业的经验及知识技能支撑;
S
R
2
方案设计
存储组件选型
根据大数据平台业务场景需求分析,选择合适的存储组件;
R
S
计算组件及框架选型
讨论并制定业务目标方案,选择合适的计算组件,如Spark、MapReduce、Flink等
R
S
数据导入方式
根据项目规模、业务数据量,选择合适的数据导入方式,平台组件导入或第三方ETL工具
R
S
资源满足度评估
对客户部署大数据平台的服务器资源信息评估,是否满足平台需求
R
S
数据流图
输出整体数据处理流图
R
S
3
平台部署
大数据服务开通
客户根据业务场景需求,对大数据服务进行开通,华为侧给出建议
S
R
大数据组件部署
对大数据服务提供组件部署选择、基础参数配置、数据治理空间配置
R
S
数据连接创建
创建数据集成、数据开发、跨源分析等数据连接
S
R
平台基础功能测试
测试大数据平台基础功能
R
S
平台部署实施报告
根据调研和客户业务场景,对大数据平台整体部署实施配置输出操作报告
R
S
平台部署验收
根据业务场景大数据平台的需求,设定验收标准,为实施验收做准备
S
R
- 数据治理样板点服务
序号
服务流程
工作内容
华为
客户
1
需求调研与现状梳理
调研组成立
S
R
现状调研
R
S
2
数据治理方案设计
数据主题设计
R
R
数据标准设计
R
S
数据模型设计
S
R
数据指标设计
R
S
数据集成方案设计
R
S
数据ETL脚本和任务设计
R
S
数据质量设计
R
S
数据服务设计
R
S
3
数据治理方案实施
数据架构导入实施
R
R
数据集成入湖实施
R
R
数据作业开发实施
R
R
数据质量规则实施
R
R
数据服务实施
R
R
4
数据治理验收测试
集成测试用例设计
R
R
项目验收
S
R
- 大数据上云迁移支持服务
验收标准
- 大数据上云迁移支持服务
华为按各服务子项提交标准交付件,客户在华为云官网Console确认验收,或线下签字且盖章《大数据上云迁移支持服务验收报告》作为服务验收通过依据。
- 数据治理样板点建设服务
华为按各服务子项提交标准交付件,客户在华为云官网Console确认验收,或线下签字且盖章《数据治理样板点建设服务验收报告》作为服务验收通过依据。
- 大数据平台设计服务
华为按各服务子项提交标准交付件,客户在华为云官网Console确认验收,或线下签字且盖章《大数据平台设计服务验收报告》作为服务验收通过依据。