衡、NAT网关等资源灵活地绑定及解绑。 弹性文件服务SFS Turbo：为用户提供一个完全托管的共享文件存储，能够弹性伸缩至320TB规模，具备高可用性和持久性，为海量的小文件、低延迟高IOPS型应用提供有力支持。 Slurm：是一个开源，高度可扩展的集群管理工具和作业调度系统，用于各种规模的Linux集群。

查看更多 →

优化小文件场景下的Spark SQL性能 配置场景 Spark SQL的表中，经常会存在很多小文件（大小远小于HDFS块大小），每个小文件默认对应Spark中的一个Partition，也就是一个Task。在很多小文件场景下，Spark会起很多Task。当SQL逻辑中存在Shuff

查看更多 →

存储 存储是保存数据的对象，通常来说，同一种设备的数据会保存在同一个存储中。存储中定义了设备的标签与设备的属性。其中设备ID（deviceId）就是最常用的一种标签（tag）。一个标签包括标签名与标签值，例如设备ID：标签名为 deviceId，而它的标签值则是具体的某个设备ID

查看更多 →

存储 存储概述 存储基础知识 云硬盘存储（EVS） 文件存储（SFS） 极速文件存储（SFS Turbo） 对象存储（OBS） 专属存储（DSS） 本地持久卷（Local PV） 临时存储卷（EmptyDir） 主机路径（HostPath） 存储类（StorageClass） 存储管理最佳实践

查看更多 →

该参数为 服务器 端参数。建议开启，开启后才能使用Append功能。 不适用HDFS场景可以考虑使用其他方式来存储数据，如HBase。 HDFS不适用于存储大量小文件 HDFS不适用于存储大量的小文件，因为大量小文件的元数据会占用NameNode的大量内存。 HDFS中数据的备份数量3份即可 DataN

查看更多 →

存储 容器中挂载存储 父主题： k8s Cluster资源配置

查看更多 →

存储 存储扩容 挂载第三方租户的对象存储 通过StorageClass动态创建SFS Turbo子目录 1.15集群如何从Flexvolume存储类型迁移到 CS I Everest存储类型 自定义StorageClass 使用延迟绑定的云硬盘（csi-disk-topology）实现跨AZ调度

查看更多 →

存储 创建NAS存储 权限策略 管理NAS存储 删除NAS存储 配置服务器组挂载策略 父主题： 管理员操作指南

查看更多 →

committer小文件写性能 提升对象存储服务（OBS）在处理小文件写入时的性能，提高数据传输效率。 动态Executor shuffle数据优化 提升资源扩缩容的稳定性，当shuffle文件不需要时清理Executor。 支持配置小文件合并 使用SQL过程中，生成的小文件过多时，会导

查看更多 →

存储 华为云为您提供多种数据存储方式，每种存储方式都具有独特的性能和耐用性组合。这些存储选项可以单独使用，也可以组合使用，以满足您的要求。以下介绍华为云SAP解决方案的存储方式及其主要用途。 云硬盘（EVS） 通过云硬盘服务，华为云提供可扩展的虚拟块存储设备。您可以在线创建云硬盘

查看更多 →

存储 简介 弹性到CCI的工作负载支持多种华为云存储配置，用于满足客户多样化的存储需求。通过阅读本章用户可以： 了解弹性CCI的负载支持的存储类型。 了解弹性CCI的负载Hostpath类型的典型场景以及如何使用。 支持的存储类型 用户在配置负载存储类型时，CCE的console有如下选项。

查看更多 →

存储 云备份 CBR 父主题： SCP授权参考

查看更多 →

存储 文件存储（SFS） 极速文件存储（SFS Turbo） 对象存储（OBS） 临时路径（EmptyDir） 父主题： Autopilot集群用户指南

查看更多 →

Storage Service，OBS），OBS是一个基于对象的海量存储服务，为客户提供海量、安全、高可靠、低成本的数据存储能力。 上面三种存储中，OBS的使用方式最为直接，云容器实例当前支持直接以SDK方式使用对象存储服务（OBS）。您可以在应用程序中使用SDK方式使用OBS，将应用程序打包

查看更多 →

图片渲染：图像处理、三维渲染，频繁处理小文件，要求文件系统数据读写性能强、容量大、高带宽。 异构计算：这种以不同类型的指令集和体系架构的计算单元为组成的系统计算方式要求文件系统高带宽、低时延。 弹性文件服务是基于文件系统的共享存储服务，具有高速数据共享，动态分级存储，按需平滑扩展，支持在线扩

查看更多 →

衡、NAT网关等资源灵活地绑定及解绑。 弹性文件服务SFS Turbo：为用户提供一个完全托管的共享文件存储，能够弹性伸缩至320TB规模，具备高可用性和持久性，为海量的小文件、低延迟高IOPS型应用提供有力支持。 Gearbox: Gearbox是一个华为云自研开源的资源协同系

查看更多 →

SELECT操作可以进行一定的调优操作。 查询的数据是大量的小文件。 查询的数据是较多的大文件。 在Beeline/JD BCS erver模式下使用非Spark用户操作。 操作步骤 可对INSERT...SELECT操作做如下的调优操作。 如果建的是Hive表，将存储类型设为Parquet，从而减少执行INSERT

查看更多 →

SELECT操作可以进行一定的调优操作。 查询的数据是大量的小文件。 查询的数据是较多的大文件。 在Beeline/JDBCServer模式下使用非Spark用户操作。 操作步骤 可对INSERT...SELECT操作做如下的调优操作。 如果建的是Hive表，将存储类型设为Parquet，从而减少执行INSERT

查看更多 →

足不同场景的海量数据存储诉求。 图1 产品架构 存储类别 OBS提供了四种存储类别：标准存储、低频访问存储、归档存储、深度归档存储（受限公测中），从而满足客户业务对存储性能、成本的不同诉求。不同规格的存储类别转换请参见OBS存储类别转换，不同规格的存储类别计费参见存储费用。 标准

查看更多 →

根据使用场景不同，对象存储支持以下挂载方式： 通过静态存储卷使用已有对象存储：即静态创建的方式，需要先使用已有的对象存储创建PV，然后通过PVC在工作负载中挂载存储。适用于已有可用的底层存储或底层存储需要包周期的场景。 通过动态存储卷使用对象存储：即动态创建的方式，无需预先创建对象存储，在创建

查看更多 →

根据使用场景不同，对象存储支持以下挂载方式： 通过静态存储卷使用已有对象存储：即静态创建的方式，需要先使用已有的对象存储创建PV，然后通过PVC在工作负载中挂载存储。适用于已有可用的底层存储或底层存储需要包周期的场景。 通过动态存储卷使用对象存储：即动态创建的方式，无需预先创建对象存储，在创建

查看更多 →