从 MRS 导入数据 ModelArts支持从MRS服务中导入存储在HDFS上的csv格式的数据，首先需要选择已有的MRS集群，并从HDFS文件列表选择文件名称或所在目录，导入文件的列数需与数据集schema一致。MRS的详细功能说明，请参考MRS用户指南。 图1 从MRS导入数据

查看更多 →

背景信息 MRS集群处理的数据源通常来源于OBS或HDFS，OBS为客户提供海量、安全、高可靠、低成本的数据存储能力。MRS可以直接处理OBS中的数据，客户可以基于管理控制台Web界面和OBS客户端对数据进行浏览、管理和使用。如果需要将OBS的数据导入集群的HDFS系统后进行处理，可参考以下步骤进行操作。

查看更多 →

HBase数据迁移到华为云MRS服务 本实践使用华为云 CDM 服务将HBase集群中的数据（支持数据量在几十TB级别或以下的数据量级）迁移到华为云MRS服务。HBase会把数据存储在HDFS上，主要包括HFile文件和WAL文件，由配置项“hbase.rootdir”指定在HDFS上的路径，华为云M

查看更多 →

X/install/ FusionInsight -Hadoop-3.1.1/hadoop/sbin/exportENV_VARS.sh 命令中的“MRS_X.X.X”和“1_8”根据实际版本而定。 加载完成后，执行如下命令，格式化Zkfc。 cd ${HADOOP_HOME}/bin ./hdfs zkfc

查看更多 →

目的端“写入目录”输入：/hbase/data/default/表名 执行fixMeta和fixAssignments等命令恢复表，参考使用命令恢复历史不变的数据。 在CDH集群中删除快照： hdfs dfs -deleteSnapshot <snapshotDir> s0 恢复表时的问题处理

查看更多 →

tput和log文件夹。 单击“并行文件系统 > 创建并行文件系统”，创建一个名称为userdata的文件系统。 在OBS文件系统列表中单击文件系统名称userdata，选择“文件 > 新建文件夹”，分别创建program、input、output和log目录。 上传数据至userdata文件系统。

查看更多 →

e”、“Read”、“Write”、“Execute”。 在“权限”的表格中选择“HDFS > File System > hdfs://hacluster/ ”，勾选“Read”、“Write”和“Execute”。 在“权限”的表格中选择“Hive > Hive Read Write

查看更多 →

和NameNode一起运行。 NameNode和DataNode之间的通信都是建立在TCP/IP的基础之上的。NameNode、DataNode、ZKFC和JournalNode能部署在运行Linux的服务器上。 图1 HA HDFS结构 图1中各模块的功能说明如表1所示。 表1

查看更多 →

“机机”用户：用于MRS集群应用开发的场景。 用于 OMS 系统进程运行的用户。 系统内部用户 MRS集群提供的用于进程通信、保存用户组信息和关联用户权限的内部用户。 数据库用户 用于OMS数据库管理和数据访问的用户。 用于业务组件（Hive、Hue、Loader和DBservice）数据库的用户。

查看更多 →

“机机”用户：用于MRS集群应用开发的场景。 用于OMS系统进程运行的用户。 系统内部用户 MRS集群提供的用于进程通信、保存用户组信息和关联用户权限的内部用户。 数据库用户 用于OMS数据库管理和数据访问的用户。 用于业务组件（Hive、Hue、Loader和DBservice）数据库的用户。

查看更多 →

${HADOOP_HOME}/etc/hadoop/hdfs-site.xml user.keytab 对于Kerberos安全认证提供HDFS用户信息。 如果是安全模式集群，您可以联系管理员获取相应账号对应权限的keytab文件和krb5文件。 krb5.conf Kerberos

查看更多 →

Server建议使用的版本：2005以上。 金仓和 GaussDB 数据源可通过PostgreSQL连接器进行连接，支持的迁移作业的源端、目的端情况与PostgreSQL数据源一致。 云数据库 SQL Server 数据仓库：数据仓库服务（DWS），数据湖探索（ DLI ） Hadoop：MRS HDFS，MRS HBase，MRS

查看更多 →

HDFS访问OBS 功能简介 访问OBS过程为： 设置“fs.obs.access.key”和“fs.obs.secret.key”。 由此FileSystem实例可以读取、新增和删除各类资源。 不支持追加操作。 前提条件 对接OBS前需要提前在OBS服务中创建相关目录，并确保访问用户具有对应目录的访问操作权限。

查看更多 →

解决方案：必须是系统管理员才能更改外部数据包装器的owner。 level： ERROR GS_138150049 错误码： permission denied to create foreign-data wrapper %s. 解决方案：必须是系统管理员才能创建外部数据包装器。 level：

查看更多 →

创建HDFS目录 功能简介 创建目录过程为： 调用FileSystem实例的exists方法查看该目录是否存在。 如果存在，则直接返回。 如果不存在，则调用FileSystem实例的mkdirs方法创建该目录。 代码样例 如下是写文件的代码片段，详细代码请参考com.huawei

查看更多 →

如果配置为“true”，CDM读取HDFS系统上的文件时，会先对待迁移的源目录创建快照（不允许对单个文件创建快照），然后CDM迁移快照中的数据。 需要HDFS系统的管理员权限才可以创建快照，CDM作业完成后，快照会被删除。 fromJobConfig.formats 否 数据结构 时间格式，当“fromJobConfig

查看更多 →

prestartDetail.log HDFS服务启动前集群操作的记录日志。 hdfs-recover-fsimage.log NameNode元数据恢复日志。 datanode-disk-check.log 集群安装过程和使用过程中磁盘状态检测的记录日志。 hdfs-availability-check

查看更多 →

MRS HBase 获取MRS HBase配置文件方法如下： 获取“krb5.conf”和“user.keytab”文件。 参考下载用户认证文件，在MRS Manager下载用户认证文件，解压后得到“krb5.conf”和 “user.keytab”文件。 获取“core-site

查看更多 →

删除HDFS文件 功能简介 删除HDFS上某个指定文件或者文件夹。 被删除的文件或文件夹，会被放在当前用户目录下的.Trash/Current文件夹中。若发生误删除，可从该文件夹中恢复。 代码样例 如下是删除文件的代码片段，详细代码请参考com.huawei.bigdata.hdfs

查看更多 →

创建HDFS目录 功能简介 创建目录过程为： 调用FileSystem实例的exists方法查看该目录是否存在。 如果存在，则直接返回。 如果不存在，则调用FileSystem实例的mkdirs方法创建该目录。 代码样例 如下是写文件的代码片段，详细代码请参考com.huawei

查看更多 →

开发HDFS应用 HDFS样例程序开发思路 初始化HDFS 创建HDFS目录 创建HDFS文件并写入内容 追加信息到HDFS指定文件 读取HDFS指定文件内容 删除HDFS指定文件 删除HDFS指定目录 创建HDFS多线程任务 配置HDFS存储策略 配置HDFS同分布策略（Colocation）

查看更多 →