写HDFS文件 功能简介 写文件过程为： 实例化一个FileSystem。 由此FileSystem实例获取写文件的各类资源。 将待写内容写入到HDFS的指定文件中。 在写完文件后，需关闭所申请资源。 代码样例 如下是写文件的代码片段，详细代码请参考com.huawei.bigdata

查看更多 →

读HDFS文件 功能简介 获取HDFS上某个指定文件的内容。 在完成后，需关闭所申请资源。 代码样例 如下是读文件的代码片段，详细代码请参考com.huawei.bigdata.hdfs.examples中的HdfsMain类。 /** * 读文件 * *

查看更多 →

HDFS故障排除 往HDFS写数据时报错“java.net.SocketException” 删除大量文件后重启NameNode耗时长 EditLog不连续导致NameNode启动失败 当备NameNode存储元数据时，断电后备NameNode启动失败 dfs.datanode.data

查看更多 →

存储 文件存储（SFS） 极速文件存储（SFS Turbo） 对象存储（OBS） 临时路径（EmptyDir）

查看更多 →

存储 存储扩容 挂载第三方租户的对象存储 通过StorageClass动态创建SFS Turbo子目录 1.15集群如何从Flexvolume存储类型迁移到 CS I Everest存储类型 自定义StorageClass 使用延迟绑定的云硬盘（csi-disk-topology）实现跨AZ调度

查看更多 →

存储 创建NAS存储 权限策略 管理NAS存储 删除NAS存储 配置 服务器 组挂载策略 父主题： 管理员操作指南

查看更多 →

配置Hive表不同分区分别存储至OBS和HDFS 操作场景 存算分离场景下，Hive分区表支持不同的分区分别指定不同的存储源，可以指定一个分区表中不同分区的存储源为OBS或者HDFS。 本特性仅适用于 MRS 3.2.0及之后版本。此章节仅说明分区表指定存储源的能力，关于Hive如何

查看更多 →

存储 云备份 CBR 云硬盘 EVS 父主题： SCP授权参考

查看更多 →

存储 简介 弹性到CCI的工作负载支持多种华为云存储配置，用于满足客户多样化的存储需求。通过阅读本章用户可以： 了解弹性CCI的负载支持的存储类型。 了解弹性CCI的负载Hostpath类型的典型场景以及如何使用。 支持的存储类型 用户在配置负载存储类型时，CCE的console有如下选项。

查看更多 →

存储 文件存储（SFS） 极速文件存储（SFS Turbo） 对象存储（OBS） 临时路径（EmptyDir） 父主题： Autopilot集群用户指南

查看更多 →

存储 华为云为您提供多种数据存储方式，每种存储方式都具有独特的性能和耐用性组合。这些存储选项可以单独使用，也可以组合使用，以满足您的要求。以下介绍华为云SAP解决方案的存储方式及其主要用途。 云硬盘（EVS） 通过云硬盘服务，华为云提供可扩展的虚拟块存储设备。您可以在线创建云硬盘

查看更多 →

单文件上传的大小不能超过100MB。 分块上传 适用于如下场景： 当文件大小超过100MB时，使用分块上传可实现并行上传多个分块以加快上传速度。 网络环境较差时，建议使用分块上传。当出现单一分块上传失败的情况，您仅需重新上传文件即可对未完成上传的分块进行断点续传，从而提高整体的上传成功率。

查看更多 →

Repartition时有部分Partition没数据 问题 在repartition操作时，分块数“spark.sql.shuffle.partitions”设置为4500，repartition用到的key列中有超过4000个的不同key值。期望不同key对应的数据能分到不同

查看更多 →

主备NameNode支持最大文件对象的数量为300,000,000（最多对应150,000,000个小文件）。“dfs.namenode.max.objects”规定当前系统可生成的文件对象数，默认值为“0”表示不限制。 DataNode容量规格 在HDFS中，Block以副本的形式存储在Data

查看更多 →

可能会难以满足业务需求，且导致集群难以扩展。 规划存储大量文件的HDFS系统容量，就是规划NameNode的容量规格和DataNode的容量规格，并根据容量设置参数。 容量规格 以下相关参数可以参考修改集群服务配置参数进入HDFS服务全部配置页面，搜索对应参数查看。 NameNode容量规格

查看更多 →

Repartition时有部分Partition没数据 问题 在repartition操作时，分块数“spark.sql.shuffle.partitions”设置为4500，repartition用到的key列中有超过4000个的不同key值。期望不同key对应的数据能分到不同

查看更多 →

/user/hdfs-examples 10010 [hdfs_example_0] INFO com.huawei.bigdata.hdfs.examples.HdfsExample - success to create path /user/hdfs-examples/hdfs_example_0 10069

查看更多 →

HDFS应用开发简介 HDFS简介 HDFS（Hadoop Distribute FileSystem）是一个适合运行在通用硬件之上，具备高度容错特性，支持高吞吐量数据访问的分布式文件系统，适合大规模数据集应用。 HDFS适用于如下场景。 处理海量数据（TB或PB级别以上） 需要很高的吞吐量

查看更多 →

追加HDFS文件内容 功能简介 追加文件内容，是指在HDFS的某个指定文件后面，追加指定的内容。过程为： 实例化一个FileSystem。 由此FileSystem实例获取各类相关资源。 将待追加内容添加到HDFS的指定文件后面。 在完成后，需关闭所申请资源。 代码样例 如下是代码片段，详细代码请参考com

查看更多 →

调测HDFS应用 在Linux环境中调测HDFS应用 查看HDFS应用调测结果 父主题： HDFS开发指南

查看更多 →

HDFS Shell命令介绍 HDFS Shell 您可以使用HDFS Shell命令对HDFS文件系统进行操作，例如读文件、写文件等操作。 执行HDFS Shell的方法： 初始化环境变量。 source /opt/client/bigdata_env 如果当前集群已启用Ker

查看更多 →