基于Slurm构建泛HPC场景云上云下资源协同解决方案

基于Slurm构建泛HPC场景云上云下资源协同解决方案

    并行集群共享文件夹 更多内容
  • 创建元数据存储路径

    对象存储服务 ”,进入对象存储服务页面。 选择“并行文件系统 > 创建并行文件系统”,进入创建页面,配置相关参数后单击“立即创建”。 文件系统名称:根据界面要求设置并行文件系统名称,例如“lakeformation-test”。 其他参数根据实际情况选择。 在并行文件系统页面,单击已创建的文件系统名称,例如“lakeformation-test”。

    来自:帮助中心

    查看更多 →

  • 共享

    共享 共享概述 创建共享 更新共享 查看共享 接受/拒绝共享邀请 退出共享

    来自:帮助中心

    查看更多 →

  • 共享

    共享 共享概述 创建共享 修改共享名称 查看共享详情 接受连接创建申请 拒绝连接创建申请 停止共享

    来自:帮助中心

    查看更多 →

  • 上传文件或文件夹

    Browser。 单击待上传文件文件夹的桶。 单击“上传”,系统弹出“上传对象”对话框,如图1所示。 您可以选择文件上传,详见4;也可以选择文件夹上传,详见5。 图1 上传对象 单击“选择文件”,打开本地浏览框。选择待上传文件后,单击“打开”。 您最多可同时选择500个文件文件夹进行上传。

    来自:帮助中心

    查看更多 →

  • 移动文件或文件夹

    移动文件文件夹 移动文件文件夹的实现方式:复制文件文件夹到指定位置,然后删除原有文件文件夹。 批量移动文件数量超过万级别时,建议使用obsutil工具,详见复制对象和删除对象。 前提条件 用户需要有待操作文件的ACL读写权限。 操作步骤 登录OBS Browser。 选中待配置的桶,进入桶界面。

    来自:帮助中心

    查看更多 →

  • 搜索文件或文件夹

    搜索文件文件夹 OBS Browser支持按前缀搜索文件文件夹。 操作步骤 登录OBS Browser。 单击目标文件文件夹所在的桶。 单击。 父主题: 对象管理

    来自:帮助中心

    查看更多 →

  • 删除文件或文件夹

    删除文件文件夹 用户可根据需要删除已有文件文件夹。 背景知识 删除文件夹时,文件夹内的文件也将同时被删除,请务必确认这些文件可以被删除。 删除无用的文件文件夹可节省空间和成本。 用户上传到OBS的某些文件,可能需要定期删除,对于这类删除文件的场景,可通过OBS的生命周期管理

    来自:帮助中心

    查看更多 →

  • 上传文件或文件夹

    单击“选择文件”,打开本地浏览框。选择待上传文件后,单击“打开”。 您最多可同时选择500个文件文件夹进行上传。 如果待上传至OBS的文件存放在Microsoft OneDrive中,建议这些待上传文件的名称不要超过32位,以保证兼容性。 单击“选择文件夹”,选择文件夹后,单击“确定”。

    来自:帮助中心

    查看更多 →

  • 查询文件或文件夹

    在左侧导航栏中,选择“数据”,进入“个人空间”页面。 在“个人空间”页面的左侧目录树中,选择需要查询的文件文件夹所在目录。 在右侧的数据列表上方的搜索框中,输入待查询文件夹文件名称,按Enter键或单击。 数据列表中显示符合查询条件的文件夹和数据文件,如图1所示。 图1 查询结果展示 父主题: 仿真数据生命周期管理

    来自:帮助中心

    查看更多 →

  • 复制文件或文件夹

    ,删除文件夹的操作请参见删除文件文件夹。 图2 新建文件夹 在“复制到”弹窗中,选择需要复制到的目标文件夹,单击“确定”。 系统自动开始复制文件文件夹,页面显示复制进度。复制完成后,在目标文件夹可查看到复制的文件文件夹。 复制文件文件夹,不支持复制到系统目录文件夹(即创建

    来自:帮助中心

    查看更多 →

  • 删除文件或文件夹

    在“个人空间”页面的左侧目录树中,选择待删除的文件文件夹所在目录。 在右侧的数据列表中,勾选需要删除的文件文件夹,单击列表上方的“删除”。 图3 批量删除文件文件夹入口 在弹出的提示框中,单击“确定”。 图4 确认删除 删除文件夹时,会级联删除文件夹下的所有文件夹和数据,删除后不可恢复,请谨慎操作。 父主题:

    来自:帮助中心

    查看更多 →

  • 关于GDS并行导入

    概述 并行导入将存储在 服务器 普通文件系统中的数据导入到 GaussDB (DWS)数据库中。暂时不支持将存储在HDFS文件系统上的数据导入GaussDB(DWS)。 并行导入功能通过外表设置的导入策略、导入数据格式等信息来识别数据源文件,利用多DN并行的方式,将数据从数据源文件导入到

    来自:帮助中心

    查看更多 →

  • 关于GDS并行导出

    通过外表导出数据 相关概念 数据文件:存储有数据的TEXT、 CS V或FIXED文件文件中保存的是从GaussDB(DWS)数据库导出的数据。 外表:用于规划导出数据文件的数据文件格式、存放位置、编码格式等信息。 GDS:数据服务工具。在导出数据时,需要将此工具部署到数据文件所在的服务器上,使DN可以通过该工具导出数据。

    来自:帮助中心

    查看更多 →

  • 验证并行查询效果

    验证并行查询效果 本章节使用TPCH测试工具测试并行查询对22条QUERY的性能提升情况。 测试的实例信息如下: 实例规格:32 vCPUs | 256 GB 内核版本:2.0.26.1 并行线程数:16 测试数据量:100GB 操作步骤 生成测试数据。 请在https://github

    来自:帮助中心

    查看更多 →

  • 如何并行创建索引?

    如何并行创建索引? 答:参考如下方法: --设置maintenance_work_mem参数根据实际情况调整该大小。 gaussdb=# SET maintenance_work_mem = '8GB'; --建表。 gaussdb=# CREATE TABLE table_name

    来自:帮助中心

    查看更多 →

  • 如何并行创建索引?

    如何并行创建索引? 答:参考如下方法: --设置maintenance_work_mem参数根据实际情况调整该大小。 gaussdb=# SET maintenance_work_mem = '8GB'; --建表。 gaussdb=# CREATE TABLE table_name

    来自:帮助中心

    查看更多 →

  • 设置并行度

    个节点。增加任务的并行度,充分利用集群机器的计算能力,一般并行度设置为集群CPU总和的2-3倍。 操作步骤 并行度可以通过如下三种方式来设置,用户可以根据实际的内存、CPU、数据以及应用程序逻辑的情况调整并行度参数。 在会产生shuffle的操作函数内设置并行度参数,优先级最高。

    来自:帮助中心

    查看更多 →

  • SMP并行执行

    SMP并行执行 在复杂查询场景中,单个查询的执行较长,系统并发度低,通过SMP并行执行技术实现算子级的并行,能够有效减少查询执行时间,提升查询性能及资源利用率。 通过算子并行来提升性能,同时会占用更多的系统资源,包括CPU、内存、网络、I/O等等。本质上SMP是一种以资源换取时间

    来自:帮助中心

    查看更多 →

  • 配置并行文件系统

    单击“云存储配置”模块中的“编辑”,进入云存储配置页面。 单击选择“配置并行文件系统”。 图2 配置并行文件系统 从下拉框中选择已授权的并行文件系统名称。 如需新增授权,可以单击下拉框右侧“去授权并行文件系统”进行添加,具体操作请参考授权并行文件系统。 参考表1配置容器挂载的路径和权限。 表1 参数说明

    来自:帮助中心

    查看更多 →

  • 创建并行文件系统

    创建并行文件系统 用户可以通过控制台创建并行文件系统。 操作步骤 在管理控制台首页,选择“服务列表 > 存储 > 对象存储服务”。 选择左侧导航栏的“并行文件系统”,进入并行文件系统控制台。 单击界面右上角的“创建并行文件系统”,进入创建页面。 图1 创建并行文件系统 (可选)复制并行文件系统配置。

    来自:帮助中心

    查看更多 →

  • 上传文件夹至OBS

    String 本地需要上传的文件夹路径。 当上传的文件夹下内容为空或者该文件夹下包含多个文件夹且有文件夹下内容有空时,OBS对应路径下不产生该空文件夹。 dst_obs_dir 是 String 上传的目标OBS桶地址,必须以“obs://”作为前缀,上传的目标文件夹后缀必须以“/”结尾。

    来自:帮助中心

    查看更多 →

共105条
看了本文的人还看了