小文件合并工具 工具介绍 在Hadoop大规模生产集群中，由于HDFS的元数据都保存在NameNode的内存中，集群规模受制于NameNode单点的内存限制。如果HDFS中有大量的小文件，会消耗NameNode大量内存，还会大幅降低读写性能，延长作业运行时间。因此，小文件问题是制约Hadoop集群规模扩展的关键问题。

查看更多 →

数据分布式存储 DWS采用水平分表的方式，将业务数据表的元组分散存储到各个节点内，该优势在于，查询中通过查询条件过滤不必要的数据，快速定位到数据存储位置，可极大提升数据库性能。 水平分表方式将一个数据表内的数据，按合适分布策略分散存储在多个节点内，DWS支持如表1所示的数据分布策略。用户可在CREATE

查看更多 →

小文件优化 操作场景 Spark SQL表中，经常会存在很多小文件（大小远小于HDFS的块大小），每个小文件默认对应Spark中的一个Partition，即一个Task。在有很多小文件时，Spark会启动很多Task，此时当SQL逻辑中存在Shuffle操作时，会大大增加hash分桶数，严重影响系统性能。

查看更多 →

小文件优化 操作场景 Spark SQL表中，经常会存在很多小文件（大小远小于HDFS的块大小），每个小文件默认对应Spark中的一个Partition，即一个Task。在有很多小文件时，Spark会启动很多Task，此时当SQL逻辑中存在Shuffle操作时，会大大增加hash分桶数，严重影响系统性能。

查看更多 →

小文件合并工具 工具介绍 在Hadoop大规模生产集群中，由于HDFS的元数据都保存在NameNode的内存中，集群规模受制于NameNode单点的内存限制。如果HDFS中有大量的小文件，会消耗NameNode大量内存，还会大幅降低读写性能，延长作业运行时间。因此，小文件问题是制约Hadoop集群规模扩展的关键问题。

查看更多 →

如何合并小文件 使用SQL过程中，生成的小文件过多时，会导致作业执行时间过长，且查询对应表时耗时增大，建议对小文件进行合并。 设置配置项。 spark.sql.shuffle.partitions = 分区数量（即此场景下最终生成的文件数量） 执行SQL。 INSERT OVERWRITE

查看更多 →

专属分布式存储池管理 权限 对应API接口 授权项（Action） IAM项目 (Project) 企业项目 (Enterprise Project) 查询专属分布式存储池 GET /v1/{project_id}/pools/{dss_id} dss.action.querypool

查看更多 →

专属分布式存储池状态 表1 专属分布式存储池状态 专属分布式存储池状态 说明 available 专属分布式存储池处于可用状态。 deploying 专属分布式存储池处于正在部署的过程中，不可使用。 extending 专属分布式存储池处于正在扩容的过程中，可使用。 父主题： 附录

查看更多 →

设置为true，Spark写入目标表时会判断是否写入了小文件，如果发现有小文件，则会启动合并小文件的job。 false spark.sql.mergeSmallFiles.threshold.avgSize 如果某个分区的平均文件大小小于该值，则启动小文件合并。 16MB spark.sql.mergeSmallFiles

查看更多 →

专属分布式存储服务-成长地图 | 华为云 专属分布式存储服务 专属分布式存储服务（Dedicated Distributed Storage Service，DSS）可提供独享的物理存储资源，提供高可用性和持久性，以及稳定的低时延性能；可对接E CS 、BMS以及DCC等多种类型的计

查看更多 →

MRS 支持什么类型的分布式存储？ 问： MRS集群支持什么类型的分布式存储？有哪些版本？ 答： MRS集群内使用主流的大数据Hadoop，目前支持Hadoop 3.x版本，并且随集群演进更新版本。 同时MRS也支持用户将数据存储在OBS服务中，使用MRS集群仅作数据计算处理的存算分离模式。

查看更多 →

云备份服务：可为专属分布式存储下的磁盘创建备份，利用备份数据回滚磁盘，最大限度保障您数据的安全性和正确性，确保业务安全。 专属分布式存储服务与云硬盘的区别 表1 DSS与EVS的区别 服务名称 总体介绍 存储类别 典型应用场景 性能规格 专属分布式存储服务 专属分布式存储服务为用户提供

查看更多 →

None 操作指导 专属分布式存储服务 DSS 介绍如何申请存储池 02:47 申请存储池 专属分布式存储服务 DSS 介绍如何在存储池上创建磁盘 03:11 在存储池上创建磁盘

查看更多 →

在存储小文件过程中，系统断电，缓存中的数据丢失 问题 在存储小文件过程中，系统断电，缓存中的数据丢失。 回答 由于断电，当写操作完成之后，缓存中的block不会立即被写入磁盘，如果要同步地将缓存的block写入磁盘，用户需要将“客户端安装路径/HDFS/hadoop/etc/hadoop/hdfs-site

查看更多 →

在存储小文件过程中，系统断电，缓存中的数据丢失 问题 在存储小文件过程中，系统断电，缓存中的数据丢失。 回答 由于断电，当写操作完成之后，缓存中的block不会立即被写入磁盘，如果要同步地将缓存的block写入磁盘，用户需要将“客户端安装路径/HDFS/hadoop/etc/hadoop/hdfs-site

查看更多 →

String 专属分布式存储池名称。 id String 专属分布式存储池ID。 project_id String 专属分布式存储池归属的project_id。 capacity Integer 申请的专属分布式存储池容量，单位GB。 type String 专属分布式存储池的存储类型 SAS：高IO专属分布式存储池。

查看更多 →

objects 专属分布式存储池列表对象。 count Integer 专属分布式存储池数量。 表3 DssPool 参数 参数类型 描述 id String 专属分布式存储池ID。 name String 专属分布式存储池名称。 type String 专属分布式存储池的存储类型。 SSD：超高IO专属分布式存储池。

查看更多 →

图解专属分布式存储服务

查看更多 →

分布式 开发规范 使用JDBC连接数据库 使用ODBC连接数据库 使用libpq连接数据库 使用Psycopg连接数据库 使用Hibernate连接数据库 使用MyBatis连接数据库 使用JayDebeApi连接数据库 父主题： 使用驱动连接实例

查看更多 →

分布式 Oracle数据库兼容性概述 SQL的基本元素 伪列 操作符 表达式 条件 常见的SQL DDL子句 SQL查询和子查询 PL/SQL语言 系统函数 系统视图 高级包 父主题： 与Oracle兼容性说明

查看更多 →

分布式 MySQL数据库兼容MySQL模式 父主题： 与MySQL兼容性说明

查看更多 →