API、WEB UI五种方式，可参考HDFS常用API介绍、HDFS Shell命令介绍。 JAVA API 提供HDFS文件系统的应用接口，本开发指南主要介绍如何使用Java API进行HDFS文件系统的应用开发。 C API 提供HDFS文件系统的应用接口，使用C语言开发的用户可参考C接口的描述进行应用开发。

查看更多 →

初始化HDFS 功能简介 在使用HDFS提供的API之前，需要先进行HDFS初始化操作。过程为： 加载HDFS服务配置文件。 实例化Filesystem。 代码样例 如下是代码片段，详细代码请参考com.huawei.bigdata.hdfs.examples中的HdfsExample类。

查看更多 →

调测HDFS应用 在本地Windows中调测HDFS程序 在Linux环境中调测HDFS应用 父主题： HDFS开发指南（普通模式）

查看更多 →

HDFS Shell命令介绍 HDFS Shell 您可以使用HDFS Shell命令对HDFS文件系统进行操作，例如读文件、写文件等操作。 执行HDFS Shell的方法： 进入HDFS客户端如下目录，直接输入命令即可。例如： cd /opt/client/HDFS/hadoop/bin

查看更多 →

等策略规格。 检查备集群HDFS是否有充足的空间，备份文件保存的目录建议使用用户自定义的目录。 使用HDFS客户端，以“hdfs”用户执行hdfs lsSnapshottableDir检查当前集群中已创建HDFS快照的目录清单，确保待备份的数据文件所在HDFS路径的父目录或子目录

查看更多 →

HDFS初始化 功能简介 在使用HDFS提供的API之前，需要先进行HDFS初始化操作。过程为： 加载HDFS服务配置文件。 实例化Filesystem。 配置文件介绍 登录HDFS时会使用到如表1所示的配置文件。这些文件均已导入到“hadoop-examples”工程的“conf”目录。

查看更多 →

HDFS集群磁盘容量不足，会影响到HDFS的数据写入。如果DataNode的剩余空间都已经给副本预留，则写入HDFS数据失败。 可能原因 告警阈值配置不合理。 HDFS集群配置的磁盘空间不足。 HDFS的业务访问量太大，超过了已有DataNode的负载能力。 处理步骤 查看阈值设置是否合理 在FusiongInsight

查看更多 →

故障DataNode数量超过阈值（2.x及以前版本） 告警解释 系统每30秒周期性检测HDFS集群处于故障状态的DataNode数量，并把实际的故障状态的DataNode数量和阈值相比较。故障状态的DataNode数量指标默认提供一个阈值范围。当HDFS集群故障状态的DataNode数量超出阈值范围时，产生该告警。

查看更多 →

len) 通过该接口可查找指定文件在HDFS集群上块的位置，其中“file”为文件的完整路径，“start”和“len”来标识查找文件的块的范围。 public FSDataInputStream open(Path f) 通过该接口可以打开HDFS上指定文件的输出流，并可通过FSD

查看更多 →

来区分。HDFS集群中ip、port组对推荐设置两组，分别对应HDFS NameNode主备节点的address。 当server类型为DLI时，address为DLI服务上数据所存储的OBS address。 hdfscfgpath HDFS集群的配置文件。 若HDFS走安全模

查看更多 →

jar之前，请确保已经进行kerberos安全登录，并且keytab方式下，登录用户和所上传keytab所属用户必须是同一个用户。 拓扑提交成功后请登录HDFS集群查看。 如果使用票据登录，则需要使用命令行定期上传票据，具体周期由票据刷新截止时间而定，步骤如下： 在安装好的storm客户端目录的“Storm/storm-1

查看更多 →

DataNode数量超过阈值 告警解释 系统每30秒周期性检测HDFS集群处于故障状态的DataNode数量，并把实际的故障状态的DataNode数量和阈值相比较。故障状态的DataNode数量指标默认提供一个阈值范围。当HDFS集群故障状态的DataNode数量超出阈值范围时，产生该告警。

查看更多 →

件目录，2个集群并发执行作业。 注意事项 当迁移动作影响到客户的HDFS集群时，需要手动停止作业。 如果作业出现大批量的失败： 先检查DES盒子是否被写满。如果写满，需要清除最近写入的目录，保证后面写入的数据都是完整的。 再检查网络是否连通。 检查客户的HDFS集群。检查是否有指

查看更多 →

len) 通过该接口可查找指定文件在HDFS集群上块的位置，其中“file”为文件的完整路径，“start”和“len”来标识查找文件的块的范围。 public FSDataInputStream open(Path f) 通过该接口可以打开HDFS上指定文件的输出流，并可通过FSD

查看更多 →

响系统的查询延迟。 语法介绍 导出Doris数据到HDFS 集群已启用Kerberos认证（安全模式） EXPORT TABLE db1.tbl1 PARTITION (p1,p2) [WHERE [expr]] TO "hdfs://主NameNode实例IP地址:RPC端口号/tmp/export/"

查看更多 →

集群 业务模型编号对应的业务模型，请参见业务模型。 OPS：Operation Per Second，数据库每秒执行的操作数。 不同业务模型和shard节点规格下，基于3.4版本的数据库实例，根据表2预置小数据量数据，测试的OPS数据，详见表1中加粗内容。 表1 弱一致性，且预置小数据量数据下的OPS

查看更多 →

集群 CCE集群选型建议 通过CCE搭建IPv4/IPv6双栈集群 制作CCE节点自定义镜像 创建节点时执行安装前/后脚本 创建节点时使用OBS桶实现自定义脚本注入 通过kubectl对接多个集群 选择合适的节点数据盘大小 集群视角的成本可视化最佳实践 使用共享VPC创建CCE Turbo集群

查看更多 →

集群 集群概述 购买集群 连接集群 升级集群 管理集群 父主题： Standard和Turbo集群用户指南

查看更多 →

集群 选择“主机 > 资源概况 > 集群”，可同时查看FusionInsight Manager内各集群的资源监控页面，如图1所示。 系统默认显示1小时的监控数据。用户可单击自定义时间区间，缺省时间区间包括：1小时、2小时、6小时、12小时、1天、1周、1月。 图1 集群资源概况

查看更多 →

退服约束规则 HDFS/DataNode 规则：缩容后节点数不小于当前HDFS的副本数且HDFS数据总量不超过缩容后HDFS集群总容量的80%，可以执行缩容操作。 原因：确保缩容后剩余空间足够存放现有数据，并预留一部分空间。 说明： 为了保证数据的可靠性，HDFS中每保存一个文件

查看更多 →

te.xml hdfs-site.xml 配置HDFS详细参数。 MRS_Services_ClientConfig\HDFS\config\hdfs-site.xml user.keytab 对于Kerberos安全认证提供HDFS用户信息。 如果是安全模式集群，您可以联系管理

查看更多 →