中软国际数据治理专业服务解决方案实践

大数据任务调度平台设计 设计云上的大数据任务调度平台部署架构时，建议参考原则如下： 优先用大数据云服务：如果源端是自建的大数据任务调度平台和组件，在目标云平台上有对应的云服务，且功能、性能、兼容性都满足，经评估改造工作量很小，建议部署架构设计时，优先采用大数据云服务。如果目标云平

查看更多 →

大数据迁移批次规划说明 大数据迁移上云时，是选择整体迁移还是分批迁移，原则如下： 整体迁移的场景： 规模小：大数据平台数据量少（TB级），计算任务数量不多，可以采用整体迁移的方法，先在云上部署大数据平台，然后全量迁移元数据、数据和任务。 关联关系复杂：大数据任务之间的关联关系很复杂，很难拆分，此时也可以选择整体迁移。

查看更多 →

添加大数据资产 如果您的资产是自建大数据类型，请参照此章节将大数据实例添加到DSC服务。 如果您的资产为 DLI 数据库，请参照添加DLI数据库进行添加。 前提条件 已完成大数据资产委托授权，参考云资产委托授权/停止授权进行操作。 已获取自建ES、HBase以及Hive数据源的版本、

查看更多 →

华为云 MapReduce服务 （ MRS ）是华为云提供的大数据服务，可以在华为云上部署和管理Hadoop系统，一键即可部署Hadoop集群。 MRS提供用户完全可控的一站式企业级大数据集群云服务，完全兼容开源接口，结合 华为云计算 、存储优势及大数据行业经验，为客户提供高性能、低成本、灵活易用的全栈大数据平台，轻松运行H

查看更多 →

大数据数据迁移（MaxCompute迁移到DLI） 大数据迁移概述 使用须知 准备工作 创建源端连接 创建目的端连接 创建迁移任务 查看并导出执行结果 自定义参数说明 父主题： 新版

查看更多 →

提供存算分离、湖仓一体的大数据平台，通过优化数据处理路径和提升存储效率，大幅降低数据存储成本； 构建在线分析数据处理通路，数据实时同步、实时处理、交互式查询，实现分钟级甚至秒级的数据时效。 方案架构 华为云车联网数据应用解决方案，面向车联网运营和数据价值挖掘场景，构建车联网数据的采、存、算、

查看更多 →

景下时序数据分析的需求。 物联网时序数据分析架构如图1所示。 图1 物联网时序数据分析 数据源：物联网时序数据，包括离线的 CS V文件数据、实时采集器采集的数据、或支持MQTT协议的物联网终端设备。 大数据平台：物联网时序数据分析的核心平台，包括实时数据管道、实时数据处理引擎、 时序数据库 等模块。

查看更多 →

使用JDBC提交数据分析任务 功能简介 本章节介绍如何使用JDBC样例程序完成数据分析任务。 样例代码 使用Hive JDBC接口提交数据分析任务，该样例程序在“hive-examples/hive-jdbc-example”的“JDBCExample.java”中，实现该功能的模块如下：

查看更多 →

物联网时序数据分析 物联网时序数据分析场景介绍 手动将CSV离线数据导入至IoTDB 使用HetuEngine查询IoTDB时序数据 使用Grafana对接IoTDB数据库 父主题： 数据分析

查看更多 →

数据处理 数据集 数据探索 数据采样 数据清洗 数据合并 数据转换 特征选择 时序数据处理 自定义 发布算法工程服务 父主题： JupyterLab开发平台

查看更多 →

数据处理 作业总览 作业队列 算子管理 算子示例 父主题： 数据处理

查看更多 →

数据预处理 创建数据预处理作业 开发数据预处理作业 父主题： 管理数据

查看更多 →

数据处理 图片处理 Data+ 在线解压

查看更多 →

数据处理 在数据服务首页左侧导航，选择“首页>我的数据集”。 在“我的数据集”页签单击新增的数据集。 单击“应用数据集 > 数据处理”。 进入“新增作业”界面，如图1所示。 参数说明如下所示： 作业名称：自定义输入。 开发环境：选择通用编辑器。 作业位置：存储作业脚本的数据湖OB

查看更多 →

数据处理 数据处理支持什么类型脚本？ 运行环境如何安装Python包？ 数据处理可以处理哪些数据源中的数据？ 用户注销后，是否会清理数据服务对应的个人数据以及资源，是否还会计费？ 父主题： 常见问题

查看更多 →

处理呼叫数据 如果您需要获取呼叫数据，需要在服务端处理集成地址表单提交，并增加处理逻辑返回到页面。由于服务端处理存在多样性，此处提供传递的主要呼叫参数说明，请参见表1。代码样例为JAVA+springboot+模板（thymeleaf）方式，请参见后续步骤。 表1 参数说明 参数名称

查看更多 →

数据处理 Python API接口 管理新增作业 创建开发环境 父主题： 管理基础工具

查看更多 →

数据处理 数据导入 此项功能现已集成在个模块的“导入”功能里，个别功能界面没没有导入功能的需要 EXCEL 导入数据，在此处导入 ； 选择需要导入的单据类型，单击“导入”，选择需要导入的文件，确定导入即可。 图1 数据导入 数据更新 海关基础参数更新 单击“数据更新”模块 图2 数据更新

查看更多 →

数据处理 数据处理介绍 创建工作流 启动工作流

查看更多 →

数据处理 数据处理简介 数据批导 数据处理 回放仿真

查看更多 →

使用JDBC接口提交数据分析任务 功能简介 本章节介绍如何使用JDBC样例程序完成数据分析任务。 样例代码 使用Hive JDBC接口提交数据分析任务，该样例程序在“hive-examples/hive-jdbc-example”的“JDBCExample.java”中，实现该功能的模块如下：

查看更多 →