基于Slurm构建泛HPC场景云上云下资源协同解决方案

基于Slurm构建泛HPC场景云上云下资源协同解决方案

    集群文件系统 更多内容
  • 备份SFS Turbo文件系统

    配置文件系统相关数据。如图2所示。 图2 创建文件系统 要了解这些参数的详细说明,请参见“创建文件系统”中“表1”的相关参数解释。 可以修改文件系统的类型,但只能进行同类型文件系统之间的修改。例如:标准型文件系统可以修改为性能型文件系统,但不能修改为标准型增强版文件系统。 创建的SFS

    来自:帮助中心

    查看更多 →

  • 删除SFS Turbo文件系统

    删除SFS Turbo文件系统 文件系统删除后,文件系统中存放的数据将无法恢复。为避免数据丢失,执行删除操作前,请确认存放在该文件系统中的文件都已经在本地备份。 前提条件 删除文件系统之前,建议先卸载已挂载的文件系统。卸载操作请参见卸载SFS Turbo文件系统。 操作步骤 登录高性能弹性文件服务管理控制台。

    来自:帮助中心

    查看更多 →

  • 开始使用

    计费模式:选择“按需计费”。 集群名称:可以设置为系统默认名称,但为了区分和记忆,建议带上项目拼音缩写或者日期等。 集群版本:请选择集群版本。 集群类型:选择“分析集群”、“混合集群”、“流式集群”,根据业务需求勾选相应的组件。该示例选择“分析集群”。 元数据:选择“本地元数据”。

    来自:帮助中心

    查看更多 →

  • 配置Flink通过IAM委托访问OBS

    obs://并行文件系统名称/tmp/flinkjob/test -output obs://并行文件系统名称/tmp/flinkjob/output 由于Flink作业是On Yarn运行,在配置Flink对接OBS文件系统之前需要确保Yarn对接OBS文件系统功能是正常的。 父主题:

    来自:帮助中心

    查看更多 →

  • 使用MRS Hive表对接OBS文件系统

    委托成功创建。 步骤二:为 MRS 集群配置委托 配置存算分离支持在新建集群中配置委托实现,也可以通过为已有集群绑定委托实现。本示例以为已有集群配置委托为例介绍。 登录MRS控制台,在导航栏选择“现有集群”。 单击集群名称,进入集群详情页面。 在集群详情页的“概览”页签,单击“IAM

    来自:帮助中心

    查看更多 →

  • 可以将SFS容量型文件系统升级为SFS Turbo文件系统吗?

    可以将SFS容量型文件系统升级为SFS Turbo文件系统吗? 不可以。如果希望使用SFS Turbo文件系统,不再需要使用SFS容量型文件系统,可以先将SFS容量型文件系统删除/退订后,重新购买SFS Turbo文件系统。或者同时购买SFS Turbo文件系统后,完成两种文件系统之间的数

    来自:帮助中心

    查看更多 →

  • 配置HDFS通过IAM委托访问OBS

    bigdata_env 如果集群为安全模式,执行以下命令进行用户认证。普通模式集群无需执行用户认证。 kinit 组件业务用户 在hdfs命令行显式添加要访问的OBS文件系统。 例如: 使用以下命令访问OBS文件系统。 hdfs dfs -ls obs://OBS并行文件系统名称/路径 例如

    来自:帮助中心

    查看更多 →

  • 配置MRS集群通过IAM委托对接OBS

    成功创建。 创建存算分离集群 配置存算分离支持在新建集群中配置委托实现,也可以通过为已有集群绑定委托实现。本示例以开启Kerberos认证的集群为例介绍。 新创建存算分离集群: 进入购买MRS集群页面。 单击“购买集群”,进入“购买集群”页面。 在购买集群页面,选择“自定义购买”页签。

    来自:帮助中心

    查看更多 →

  • 删除集群

    删除集群 操作场景 按需计费的集群支持直接删除,详情请参见删除按需计费的集群。 包周期的集群不能直接删除,需进行集群退订(对于未超期集群)或释放(对于已超期未续费集群),详情请参见退订/释放包周期的集群。 注意事项 删除集群不会删除集群下包周期的资源,相关资源在集群删除后将会继续计费,请妥善处理。

    来自:帮助中心

    查看更多 →

  • 快速使用Hadoop

    登录MRS控制台,在左侧导航栏选择“现有集群”,单击集群名称,该集群需要包含Hadoop组件,且已为MRS集群绑定具有OBS文件系统操作权限的IAM权限委托。 查看或绑定委托的操作如下: 登录MRS集群的“概览”页面,查看“委托”参数是否有值,且绑定的委托具有OBS文件系统操作权限。 是,集群已绑定委托。 否,执行4

    来自:帮助中心

    查看更多 →

  • (可选)网络打通

    0通过配置 VPC终端节点 并添加与迁移集群相同的VPC来实现网络打通。 参考配置VPC终端节点,购买VPC终端节点。其中“虚拟私有云”参数配置选择创建集群时所选择的VPC。 配置VPC终端节点完成后,登录弹性文件服务管理控制台,在左侧导航栏选择“通用文件系统 > 文件系统列表”进入文件系统列表页面。 单

    来自:帮助中心

    查看更多 →

  • 快速使用Hadoop

    登录MRS控制台,在左侧导航栏选择“现有集群”,单击集群名称,该集群需要包含Hadoop组件,且已为MRS集群绑定具有OBS文件系统操作权限的IAM权限委托。 查看或绑定委托的操作如下: 登录MRS集群的“概览”页面,查看“委托”参数是否有值,且绑定的委托具有OBS文件系统操作权限。 是,集群已绑定委托。 否,执行4

    来自:帮助中心

    查看更多 →

  • PVC网盘创建失败

    登录SFS控制台,在“弹性文件服务”界面单击“创建文件系统”或“购买SFS资源包”,创建文件系统请参考:创建文件系统。 购买CCE集群: 登录CCE控制台,在云容器引擎界面单击“购买Kubernetes集群”,操作步骤请参考:快速创建Kubernetes集群集群中导入SFS: 在“云容器引擎”

    来自:帮助中心

    查看更多 →

  • HANA节点文件系统规划

    HANA节点文件系统规划 表1 HANA节点文件系统规划 挂载点 文件系统大小示例 文件系统类型 是否共享 备注 / 100G - 否 OS卷 /hana/data 256G xfs 否 Data卷,推荐值为内存空间大小的1.2倍或以上。 /hana/log 256G xfs 否

    来自:帮助中心

    查看更多 →

  • 文件系统出现异常状态

    员解决。 扩容错误 当文件系统处于扩容错误状态,文件系统可自动恢复到可用状态。如果不能恢复到可用状态,请联系管理员解决。 缩容错误 当文件系统处于缩容错误状态,文件系统自动恢复到可用状态大约需要5分钟。 缩容失败 当文件系统处于缩容失败状态,文件系统自动恢复到可用状态大约需要5分钟。

    来自:帮助中心

    查看更多 →

  • 挂载并行文件系统

    挂载并行文件系统 通过obsfs使用OBS服务,需要将OBS的并行文件系统挂载至您本地的文件系统上。挂载完成后,可以像操作本地目录一样操作OBS并行文件系统,比如保存某个文件至挂载目录,即上传对象至OBS。 obsfs挂载到华为 云服务器ECS 上时占用OBS流量,不占用华为 云服务器 E CS 的流量。

    来自:帮助中心

    查看更多 →

  • 文件系统出现异常状态

    文件系统出现异常状态 目前文件系统异常状态主要为扩容错误,当处于这种状态时,请参考下面处理建议。 表1 文件系统状态异常处理建议 异常状态 建议 扩容错误 当文件系统处于扩容错误状态,文件系统可自动恢复到可用状态。如果不能恢复到可用状态,请联系管理员解决。

    来自:帮助中心

    查看更多 →

  • 创建文件系统异步任务

    创建文件系统异步任务 功能介绍 创建文件系统异步任务,仅支持异步查询目录资源使用情况,API请求路径的feature取值为dir-usage,以下简称为DU任务。 接口约束 在2023年8月1号之后创建的文件系统支持该API操作。如果存在10个正在执行的任务,则不允许创建新任务。

    来自:帮助中心

    查看更多 →

  • SFS Turbo文件系统状态

    SFS Turbo文件系统状态 SFS Turbo文件系统状态要素说明 返回值 说明 100 CREATING,正在创建。 200 ACTIVE,激活状态,SFS Turbo文件系统可挂载。 300 FAILED,失败。 303 CREATE_FAILED,创建失败。 400 DELETED,已删除。

    来自:帮助中心

    查看更多 →

  • 获取文件系统列表

    SFS Turbo文件系统的列表。 count Integer SFS Turbo文件系统的数量。 表5 ShareInfo 参数 参数类型 描述 action_progress ActionProgress object SFS Turbo文件系统的创建任务进度。文件系统正在创建时,返回该字段;否则不返回。

    来自:帮助中心

    查看更多 →

  • 创建文件系统本地目录

    执行如下命令,查看是否能解析文件系统挂载地址中的 域名 。如图2所示。 nslookup 文件系统域名 nslookup sfs-nas1.xx-xxxx-xx.xxxxxxxxxxx.com 文件系统域名仅为域名,如:sfs-nas1.xxxx.com。文件系统域名请从文件系统的挂载地址中获取,不需要输入整个挂载地址。

    来自:帮助中心

    查看更多 →

共105条
看了本文的人还看了