配置云存储 云存储说明 配置并行文件系统 配置存储桶 配置通用型文件系统 编辑云存储挂载 删除云存储挂载 父主题： 组件配置

查看更多 →

配置Structured Streaming使用RocksDB做状态存储 本章节仅适用于 MRS 3.3.0及之后版本。 配置场景 当大量的状态信息存储在默认的HDFS BackedStateStore，导致JVM GC占用大量时间时，可以通过如下配置，选择RocksDB作为状态后端。

查看更多 →

存储配置 参数 描述 默认值 hoodie.parquet.max.file.size Hudi写阶段生成的parquet文件的目标大小。对于DFS，这需要与基础文件系统块大小保持一致，以实现最佳性能。 120 * 1024 * 1024 byte hoodie.parquet.block

查看更多 →

云存储 获取云存储列表 授权云存储 解绑云存储 父主题： CAE API

查看更多 →

作 > 配置数据存储”，进入“配置数据存储”页面。 （可选）批量配置数据存储。 在“云服务监控”页面，勾选需要“配置数据存储”的云服务资源，单击“批量配置数据存储”，进入“批量配置数据存储”页面。 或在“主机监控”页面，勾选需要“配置数据存储”弹性云 服务器 ，单击“批量配置数据存储”，进入“批量配置数据存储”页面。

查看更多 →

对应的存储桶中。 具体操作请参考上传对象。 操作步骤 登录CAE控制台。 在左侧导航栏中选择“组件配置”。 在“组件配置”页面上方的下拉框中选择需要操作的组件。 图1 选择组件 单击“云存储配置”模块中的“编辑”，进入云存储配置页面。 单击选择“配置存储桶”。 图2 配置存储桶 从下拉框中选择已授权的存储桶名称。

查看更多 →

key，当前access key应该包含访问授权云存储的权限。 secret 否 String 用户secret key，当前secret key应该包含访问授权云存储的权限。 响应参数 无 请求示例 授权云存储，云存储类型为“obs”，存储桶名称为“test-bucket”。 POST

查看更多 →

云存储说明 CAE支持对并行文件系统、存储桶和通用文件系统三种类型的云存储，每种云存储的主要特点及应用场景参考表1。 表1 云存储对比 对比维度 对象存储OBS-并行文件系统 对象存储OBS-存储桶 通用文件系统 概念 并行文件系统是OBS提供的一种经过优化的高性能文件系统，提供

查看更多 →

单击“授权”，完成通用文件系统授权。 云存储解绑 若已授权存储对象云存储已绑定组件，解除绑定时，请先在“组件配置 > 云存储配置”中删除相应组件中挂载，具体操作请参考删除云存储挂载。 登录CAE控制台。 在左侧导航栏中选择“系统设置”。 单击“云存储授权”模块中的“编辑”，进入“已授权云存储”页面。 选择

查看更多 →

配置NFS服务器存储NameNode元数据 操作场景 本章节适用于MRS 3.x及后续版本。 用户在部署集群前，可根据需要规划Network File System（简称NFS）服务器，用于存储NameNode元数据，以提高数据可靠性。 如果您已经部署NFS服务器，并已配置NFS

查看更多 →

配置NFS服务器存储NameNode元数据 操作场景 本章节适用于MRS 3.x及后续版本。 用户在部署集群前，可根据需要规划Network File System（简称NFS）服务器，用于存储NameNode元数据，以提高数据可靠性。 如果您已经部署NFS服务器，并已配置NFS

查看更多 →

配置OBS存储功能 资产提供方上传资产时，需要保存资产的相关文件，因此需要用到存储。 公有云场景建议使用OBS。 前提条件 使用OBS之前，您需要拥有一个华为云账号或一个可用于访问OBS的IAM用户，本节将介绍如何注册华为云并实名认证、创建IAM用户、充值以及购买资源包，具体操作请参见使用OBS前需要做的准备工作。

查看更多 →

配置HDFS存储策略 功能简介 为HDFS上某个文件或文件夹指定存储策略。 代码样例 登录 FusionInsight Manager页面，选择“集群 > 待操作集群的名称 > 服务 > HDFS > 配置 > 全部配置”。 搜索并查看“dfs.storage.policy.ena

查看更多 →

配置HDFS存储策略 功能简介 为HDFS上某个文件或文件夹指定存储策略。 代码样例 登录FusionInsight Manager页面，选择“集群 > 待操作集群的名称 > 服务 > HDFS > 配置 > 全部配置”。 搜索并查看“dfs.storage.policy.ena

查看更多 →

配置HDFS存储策略 功能简介 为HDFS上某个文件或文件夹指定存储策略。 代码样例 登录FusionInsight Manager页面，选择“集群 > 待操作集群的名称 > 服务 > HDFS > 配置 > 全部配置”。 搜索并查看“dfs.storage.policy.ena

查看更多 →

选择源端资源所在的云平台。 目的端桶区域 选择目的端桶所在区域。 在待迁移桶列表区域，单击“添加桶”按钮，右侧弹出添加桶窗口。 勾选需要迁移的桶，单击操作列的“修改”，调整桶的迁移方式，迁移方式说明参见表2。勾选并调整完成后，单击“确认”。 所选的资源必须都来源于基础配置所选的源端平台。

查看更多 →

配置了云存储配置后，为什么实例异常了？ 当配置云存储的并行文件系统时，如果选择的并行文件系统中的并没有创建相应的子路径，则实例会为异常。 示例： 图1 挂载信息 图2 相应的并行文件系统中并没有test文件夹或文件 图3 报错事件 解决方法 登录OBS控制台。 选择“并行文件系统

查看更多 →

配置HDFS存储策略 功能简介 为HDFS上某个文件或文件夹指定存储策略。 代码样例 登录FusionInsight Manager页面，选择“集群 > 待操作集群的名称 > 服务 > HDFS > 配置 > 全部配置”。 搜索并查看“dfs.storage.policy.ena

查看更多 →

如何使用云存储？ 如果您使用控制台界面创建，请参见存储概述。 您还可以使用kubectl创建云存储，具体请参见使用PersistentVolumeClaim申请持久化存储。 父主题： 存储管理类

查看更多 →

删除云存储挂载 当您不需要挂载云存储时，可删除云存储挂载配置。 删除云存储挂载配置后，文件系统中存放的数据不会删除。如需重新挂载，请配置云存储挂载路径。 操作步骤 登录CAE控制台。 在左侧导航栏中选择“组件配置”。 在“组件配置”页面上方的下拉框中选择待操作的组件。 图1 选择组件

查看更多 →

编辑云存储挂载 已配置云存储挂载后，您如需更新挂载路径、读写权限、文件掩码等，可参考以下步骤进行操作。 操作步骤 登录CAE控制台。 在左侧导航栏中选择“组件配置”。 在“组件配置”页面上方的下拉框中选择待操作的组件。 图1 选择组件 单击“云存储配置”模块中的“编辑”，进入云存储配置页面。

查看更多 →