小文件优化 操作场景 Spark SQL表中，经常会存在很多小文件（大小远小于HDFS的块大小），每个小文件默认对应Spark中的一个Partition，即一个Task。在有很多小文件时，Spark会启动很多Task，此时当SQL逻辑中存在Shuffle操作时，会大大增加hash分桶数，严重影响系统性能。

查看更多 →

小文件优化 操作场景 Spark SQL表中，经常会存在很多小文件（大小远小于HDFS的块大小），每个小文件默认对应Spark中的一个Partition，即一个Task。在有很多小文件时，Spark会启动很多Task，此时当SQL逻辑中存在Shuffle操作时，会大大增加hash分桶数，严重影响系统性能。

查看更多 →

如何合并小文件 使用SQL过程中，生成的小文件过多时，会导致作业执行时间过长，且查询对应表时耗时增大，建议对小文件进行合并。 设置配置项。 spark.sql.shuffle.partitions = 分区数量（即此场景下最终生成的文件数量） 执行SQL。 INSERT OVERWRITE

查看更多 →

使用Spark小文件合并工具说明 工具介绍 在Hadoop大规模生产集群中，由于HDFS的元数据都保存在NameNode的内存中，集群规模受制于NameNode单点的内存限制。如果HDFS中有大量的小文件，会消耗NameNode大量内存，还会大幅降低读写性能，延长作业运行时间。因

查看更多 →

专属分布式存储池管理 权限 对应API接口 授权项（Action） IAM项目 (Project) 企业项目 (Enterprise Project) 查询专属分布式存储池 GET /v1/{project_id}/pools/{dss_id} dss.action.querypool

查看更多 →

专属分布式存储池状态 表1 专属分布式存储池状态 专属分布式存储池状态 说明 available 专属分布式存储池处于可用状态。 deploying 专属分布式存储池处于正在部署的过程中，不可使用。 extending 专属分布式存储池处于正在扩容的过程中，可使用。 父主题： 附录

查看更多 →

专属分布式存储服务-成长地图 | 华为云 专属分布式存储服务 专属分布式存储服务（Dedicated Distributed Storage Service，DSS）可提供独享的物理存储资源，提供高可用性和持久性，以及稳定的低时延性能；可对接E CS 、BMS以及DCC等多种类型的计

查看更多 →

MRS 支持什么类型的分布式存储？ 问： MRS集群支持什么类型的分布式存储？有哪些版本？ 答： MRS集群内使用主流的大数据Hadoop，目前支持Hadoop 3.x版本，并且随集群演进更新版本。 同时MRS也支持用户将数据存储在OBS服务中，使用MRS集群仅作数据计算处理的存算分离模式。

查看更多 →

为什么存储小文件过程中，缓存中的数据会丢失 问题 在存储小文件过程中，系统断电，缓存中的数据丢失。 回答 由于断电，当写操作完成之后，缓存中的block不会立即被写入磁盘，如果要同步地将缓存的block写入磁盘，用户需要将“客户端安装路径/HDFS/hadoop/etc/hadoop/hdfs-site

查看更多 →

为什么存储小文件过程中，缓存中的数据会丢失 问题 在存储小文件过程中，系统断电，缓存中的数据丢失。 回答 由于断电，当写操作完成之后，缓存中的block不会立即被写入磁盘，如果要同步地将缓存的block写入磁盘，用户需要将“客户端安装路径/HDFS/hadoop/etc/hadoop/hdfs-site

查看更多 →

云备份服务：可为专属分布式存储下的磁盘创建备份，利用备份数据回滚磁盘，最大限度保障您数据的安全性和正确性，确保业务安全。 专属分布式存储服务与云硬盘的区别 表1 DSS与EVS的区别 服务名称 总体介绍 存储类别 典型应用场景 性能规格 专属分布式存储服务 专属分布式存储服务为用户提供

查看更多 →

None 操作指导 专属分布式存储服务 DSS 介绍如何申请存储池 02:47 申请存储池 专属分布式存储服务 DSS 介绍如何在存储池上创建磁盘 03:11 在存储池上创建磁盘

查看更多 →

使用Spark小文件合并工具说明 工具介绍 在Hadoop大规模生产集群中，由于HDFS的元数据都保存在NameNode的内存中，集群规模受制于NameNode单点的内存限制。如果HDFS中有大量的小文件，会消耗NameNode大量内存，还会大幅降低读写性能，延长作业运行时间。因

查看更多 →

String 专属分布式存储池名称。 id String 专属分布式存储池ID。 project_id String 专属分布式存储池归属的project_id。 capacity Integer 申请的专属分布式存储池容量，单位GB。 type String 专属分布式存储池的存储类型 SAS：高IO专属分布式存储池。

查看更多 →

objects 专属分布式存储池列表对象。 count Integer 专属分布式存储池数量。 表3 DssPool 参数 参数类型 描述 id String 专属分布式存储池ID。 name String 专属分布式存储池名称。 type String 专属分布式存储池的存储类型。 SSD：超高IO专属分布式存储池。

查看更多 →

图解专属分布式存储服务

查看更多 →

设置为true，Spark写入目标表时会判断是否写入了小文件，如果发现有小文件，则会启动合并小文件的job。 false spark.sql.mergeSmallFiles.threshold.avgSize 如果某个分区的平均文件大小小于该值，则启动小文件合并。 16MB spark.sql.mergeSmallFiles

查看更多 →

project_id String 专属分布式存储池归属的project_id。 capacity Integer 申请的专属分布式存储容量，单位TB。 type String 专属分布式存储池的存储类型。 SAS：高IO专属分布式存储池。 SSD：超高IO专属分布式存储池。 status String

查看更多 →

专属分布式存储三副本技术 什么是三副本技术？ 专属分布式存储的存储系统采用三副本机制来保证数据的可靠性，即针对某份数据，默认将数据分为1 MB大小的数据块，每一个数据块被复制为3个副本，然后按照一定的分布式存储算法将这些副本保存在集群中的不同节点上。 专属分布式存储三副本技术的主要特点如下：

查看更多 →

优化小文件场景下的Spark SQL性能 配置场景 Spark SQL的表中，经常会存在很多小文件（大小远小于HDFS块大小），每个小文件默认对应Spark中的一个Partition，也就是一个Task。在很多小文件场景下，Spark会起很多Task。当SQL逻辑中存在Shuff

查看更多 →

如何配置HBase文件存储 使用条件 集群版本小于MRS 3.x。 使用场景 HBase文件存储模块（HBase FileStream，简称HFS）是HBase的独立模块，它作为对HBase与HDFS接口的封装，应用在MRS的上层应用，为上层应用提供文件的存储、读取、删除等功能。

查看更多 →