中软国际数据治理专业服务解决方案实践

导出ORC数据概述 GaussDB (DWS)数据库支持通过HDFS外表导出ORC格式数据至 MRS ，通过外表设置的导出模式、导出数据格式等信息来指定导出的数据文件，利用多DN并行的方式，将数据从GaussDB(DWS)数据库导出到外部，存放在HDFS文件系统上，从而提高整体导出性能。

查看更多 →

执行导出数据 前提条件 需要确保每一个CN和DN所在 服务器 到GDS服务器的IP和端口是互通的。 操作步骤 执行数据导出。 1 INSERT INTO [foreign table 表名] SELECT * FROM [源表名]; 编写批处理任务脚本，实现并发批量导出数据。并发

查看更多 →

Hive同步数据报错HoodieHiveSyncException 问题 Hive同步数据时报错： com.uber.hoodie.hive.HoodieHiveSyncException: Could not convert field Type from <type1> to

查看更多 →

Hive同步数据报错HoodieHiveSyncException 问题 Hive同步数据时报错： com.uber.hoodie.hive.HoodieHiveSyncException: Could not convert field Type from <type1> to

查看更多 →

通过sqoop import命令从PgSQL导出数据到Hive时报错 背景 使用sqoop import命令抽取开源PgSQL数据库内容到MRS HDFS或Hive中。 用户问题 使用sqoop命令可以查询PgSQL表，但是执行sqoop import命令导入导出时报错： The authentication

查看更多 →

使用gs_dump导出human_resource数据库数据。 用户jack不具备导出数据库human_resource的权限，而角色role1具备该权限，要实现导出数据库human_resource，可以在导出命令中设置--role角色为role1，使用role1的权限，完成导出目的。导出文件格式为tar归档格式。

查看更多 →

手导出IoTDB数据 操作场景 该任务指导用户使用“export-csv.sh”将数据从IoTDB导出为 CS V格式的文件。 导出CSV格式的数据文件，可能存在注入风险，请谨慎使用。 前提条件 已安装客户端，请参见。例如安装目录为“/opt/client”，以下操作的客户端目录只是举例，请根据实际安装目录修改。

查看更多 →

ClickHouse数据导入导出 使用ClickHouse客户端导入导出数据 本章节主要介绍使用ClickHouse客户端导入导出文件数据的基本语法和使用说明。 CSV格式数据导入 clickhouse client --host 主机名/ClickHouse实例IP地址 --database

查看更多 →

导出Doris数据至HDFS 数据导出（Export）功能可以将用户指定的表或分区的数据，以文本的格式，通过Broker进程导出到远端存储上，如HDFS/对象存储（支持S3协议） 等。 不建议一次性导出大量数据。一个Export作业建议的导出数据量最大在几十GB。过大的导出会导致更多的垃圾文件和更高的重试成本。

查看更多 →

从新建数据源进入创建数据源页面，选择要创建数据源所在的项目，源库类型选择数据Hive。 接入网络类型选公网。 在配置连接对话框，填写以下配置。 图1 接入Hive数据源参数 表1 参数说明 参数名称 是否必填 说明 源库类型 是 接入的数据源类型，本示例为Hive。更多数据源类型连接请参考表1。

查看更多 →

配置Hive数据连接 本章节指导用户在购买后，将现有集群的Hive元数据切换为本地数据库或者RDS数据库中存储的元数据。该操作可以使多个MRS集群共用同一份元数据，且元数据不随集群的删除而删除。也能够避免集群迁移时Hive元数据的迁移。 不同集群间Hive元数据切换时，MRS当前

查看更多 →

接入HIVE数据源 概述 ROMA Connect支持把HIVE作为一个数据源，用于创建数据API。在使用HIVE数据源前，您需要先接入数据源。 数据集成中仅支持百万以内数据量。 前提条件 每个接入的数据源都要归属到某个集成应用下，在接入数据源前您需要有可用的集成应用，否则请提前创建集成应用。

查看更多 →

WebUI”后的链接，进入HSConsole界面。 单击“数据源”，在Hive数据源所在行的“操作”列下单击“编辑”，在页面内新增如下自定义配置： 表1 元数据超时参数 参数名称 默认值 描述 hive.metastore-timeout 10s 共部署Hive数据源加载元数据缓存最大超时时间，单位为秒或分钟

查看更多 →

Hive ORC数据存储优化 操作场景 “ORC”是一种高效的列存储格式，在压缩比和读取效率上优于其他文件格式。 建议使用“ORC”作为Hive表默认的存储格式。 前提条件 已登录Hive客户端，具体操作请参见Hive客户端使用实践。 操作步骤 推荐：使用“SNAPPY”压缩，适用于压缩比和读取效率要求均衡场景。

查看更多 →

如何导出企业考勤数据？ 如您是企业管理员，依次进入考勤>统计，在统计页面，点击右上角“导出报表”，选择需要的数据范围及人员，点击“导出到云空间”，便可导出您所需要的考勤数据。 父主题： 考勤

查看更多 →

导出集群的配置数据 操作场景 为了满足实际业务的需求，用户可以在MRS中将集群所有配置数据导出，导出文件用于快速更新服务配置。 MRS 3.x版本暂不支持在管理控制台执行本章节操作。 前提条件 已完成IAM用户同步（在集群详情页的“概览”页签，单击“IAM用户同步”右侧的“同步”进行IAM用户同步）。

查看更多 →

上述示例是通过创建表和插入表数据构造迁移示例数据。如果是迁移已有的Hive数据库和表数据，则可以通过以下命令获取Hive的数据库和表信息。 在Hive客户端执行如下命令获取数据库信息 show databases 切换到需要迁移的Hive数据库 use Hive数据库名 显示当前数据库下所有的表信息

查看更多 →

Hive ORC数据存储优化 操作场景 “ORC”是一种高效的列存储格式，在压缩比和读取效率上优于其他文件格式。 建议使用“ORC”作为Hive表默认的存储格式。 前提条件 已登录Hive客户端，具体操作请参见Hive客户端使用实践。 操作步骤 推荐：使用“SNAPPY”压缩，适用于压缩比和读取效率要求均衡场景。

查看更多 →

WebUI”后的链接，进入HSConsole界面。 选择“数据源”，单击“添加数据源”。在“添加数据源”页面填写参数。 配置“基本配置”，填写数据源名称，选择数据源类型“Hive”。 配置“Hive配置”，参数配置请参考表1。 表1 Hive配置 参数 描述 取值样例 驱动 默认为fi-hive-hadoop。 fi-hive-hadoop

查看更多 →

填写数据源的描述信息。 数据湖分层 选择对应的数据湖分层：业务数据层/操作数据层/明细数据层/数据汇总层/数据集市层/应用数据层/贴源数据层。 用户名 填写连接Hive的机机类型用户名。 上传认证文件 单击“添加文件”，上传Hive配置文件。 添加属性 为数据源配置扩展属性信息，单击“添加属性”，配置“属性名称”以及“属性值”。

查看更多 →

个人数据支持导出吗？ 如您需要查看导出您的考勤历史数据，您可以向企业管理员申请，请求企业管理员在企业制度允许的前提下为您导出个人考勤数据。 父主题： 考勤

查看更多 →