对象存储服务 OBS     

对象存储服务(Object Storage Service)是一款稳定、安全、高效、易用的云存储服务,具备标准Restful API接口,可存储任意数量和形式的非结构化数据。

 
 

    对象存储管理并行文件系统 更多内容
  • 桶 桶(Bucket)是OBS中存储对象的容器。对象存储提供了基于桶和对象的扁平化存储方式,桶中的所有对象都处于同一逻辑层级,去除了文件系统中的多层级树形目录结构。 每个桶都有自己的存储类别、访问权限、所属区域等属性,用户可以在不同区域创建不同存储类别和访问权限的桶,并配置更多高级属性来满足不同场景的存储诉求。

    来自:帮助中心

    查看更多 →

  • 资源购买

    上传镜像前需要创建组织,创建步骤请参考创建组织。 购买对象存储服务OBS 对象存储服务提供按需计费和包年包月两种计费模式,用户可以根据实际需求购买OBS服务。OBS服务支持以下两种存储方式,单机单卡场景使用文件系统,多机多卡场景使用普通OBS桶。 创建普通OBS桶 创建并行文件系统 购买数据加密服务DEW

    来自:帮助中心

    查看更多 →

  • OMS将对象数据迁移到并行文件系统有哪些限制?

    OMS 将对象数据迁移到并行文件系统有哪些限制? OMS将对象数据迁移到并行文件系统有以下限制(并行文件系统限制): 若对象名以/结尾,则对象大小必须为0,否则不支持迁移。 对象名中不能出现连续/,例如:test//test。 在同一层级中,文件和文件夹的名称不能相同。 父主题: 迁移限制

    来自:帮助中心

    查看更多 →

  • 修改写对象(Java SDK)

    OBS支持的region以及region与endPoint的对应关系,详细信息请参见地区与终端节点。 目前接口仅在并行文件系统支持,普通对象并行文件系统不支持,如何创建并行文件系统请参考创建并行文件系统(Java SDK)。 方法定义 obsClient.modifyObject(ModifyObjectRequest

    来自:帮助中心

    查看更多 →

  • 重命名对象(Java SDK)

    OBS支持的region以及region与endPoint的对应关系,详细信息请参见地区与终端节点。 目前接口仅在并行文件系统支持,普通对象并行文件系统不支持,如何创建并行文件系统请参考创建并行文件系统(Java SDK)。 方法定义 obsClient.renameObject(RenameObjectRequest

    来自:帮助中心

    查看更多 →

  • 资源包概述

    资源包,以此类推。 OBS提供的以下资源包也同时支持并行文件系统: 表2 并行文件系统资源包说明 资源包 作用 使用限制 标准存储包(单AZ) 用于抵扣单AZ并行文件系统产生的标准存储数据容量费用。 只适用于单AZ并行文件系统产生的标准存储数据容量计费,且只能用于资源包所属区域。

    来自:帮助中心

    查看更多 →

  • 并行处理

    分支名”获取该分支的执行结果。 失败时停止 并行处理出现错误时的是否停止。 True:表示任一并行处理的分支出现错误时,整个任务便停止,并返回错误信息。 False:表示并行处理的分支出现错误后,整个任务会继续执行后续节点。 超时时间(ms) 并行处理过程的最长执行时间,如果超过该时间

    来自:帮助中心

    查看更多 →

  • 关于并行导出

    关于并行导出 使用GDS工具将数据从数据库导出到普通文件系统中,适用于高并发、大量数据导出的场景。使用外表做并行导出时,需要开启steam算子后才能够使用GDS工具导出。 概述 通过外表导出数据:通过外表设置的导出模式、导出数据格式等信息来指定待导出的数据文件,利用多DN并行的方

    来自:帮助中心

    查看更多 →

  • 并行查询(PQ)

    并行查询(PQ) 功能介绍 使用方法 性能测试 父主题: 内核功能

    来自:帮助中心

    查看更多 →

  • 数据并行导入

    数据并行导入 实现原理 数据并行导入(加载)的核心思想是充分利用所有节点的计算能力和I/O能力以达到最大的导入速度。DWS的数据并行导入实现了对指定格式(支持 CS V/TEXT格式)的外部数据高速、并行入库。 所谓高速、并行入库是和传统的使用INSERT语句逐条插入的方式相比较。并行导入过程中:

    来自:帮助中心

    查看更多 →

  • 使用catalog连接kerberos安全认证hive on obs

    使通过CloudTable集群管理面创建 MRS Hive连接。 目前CloudTable Doris暂不支持使用Catalog对接数据存储在并行文件系统的OBS MRS Hive集群 。 创建MRS Hive连接步骤 通过访问以下地址登录 表格存储服务 管理控制台:https://console

    来自:帮助中心

    查看更多 →

  • 计费相关

    计费相关 如何购买对象存储服务? 如何购买专属对象存储? 账号欠费后已重新续费,为什么OBS资源仍然不可用? 桶内无对象,为什么还会产生存储费用? 配置CDN回源,并购买回源流量包,计费未走回源流量包 已购买资源包,为什么仍然扣费? 标准存储包(多AZ存储)的作用是什么? 购买了

    来自:帮助中心

    查看更多 →

  • HDFS组件对接OBS

    在HDFS命令行显式添加要访问的OBS文件系统。 例如: 使用以下命令访问OBS文件系统。 hdfs dfs -ls obs://OBS并行文件系统名称/路径 使用以下命令创建OBS文件系统下的目录: hdfs dfs -mkdir obs://OBS并行文件系统名称/hadoop 使用以下命令上传客户端节点“/opt/test

    来自:帮助中心

    查看更多 →

  • 重命名对象或目录

    开发过程中,您有任何问题可以在github上提交issue,或者在华为云对象存储服务论坛中发帖求助。 您可以通过rename_object来修改对象名和目录名,rename_object接口只适用于并行文件系统,对象桶该接口不支持。 参数描述 字段名 类型 约束 说明 option

    来自:帮助中心

    查看更多 →

  • 截断对象

    开发过程中,您有任何问题可以在github上提交issue,或者在华为云对象存储服务论坛中发帖求助。 您可以通过调用truncate_object来对对象进行截断操作,truncate_object接口只适用于并行文件系统的桶,对象桶该接口不支持。 参数描述 字段名 类型 约束 说明 option

    来自:帮助中心

    查看更多 →

  • 如何准备MRS的数据源?

    将本地数据上传OBS。 登录OBS管理控制台。 在OBS上创建userdata并行文件系统,然后在userdata文件系统下创建program、input、output和log文件夹。 单击“并行文件系统 > 创建并行文件系统”,创建一个名称为userdata的文件系统。 在OBS文件系统列表中单击文件系统名称userdata,选择“文件

    来自:帮助中心

    查看更多 →

  • Argo作业

    对于已设置的环境变量,可以进行修改或者删除。 容器存储 手动添加 可选参数,如果要挂载使用对象存储服务提供的并行文件系统,则单击“添加存储挂载”。 文件系统名称:在下拉列表中根据名称选择要使用的并行文件系统。 挂载路径:根据实际情况填入挂载目录,例如/dir/test。 编辑HPC任务 表4

    来自:帮助中心

    查看更多 →

  • Yarn组件对接OBS

    在Yarn命令行显式添加要访问的OBS文件系统。 使用以下命令访问OBS文件系统。 hdfs dfs -ls obs://OBS并行文件系统名称/路径 使用以下命令创建OBS文件系统下的目录: hdfs dfs -mkdir obs://OBS并行文件系统名称/hadoop1 执行以下Yarn任务访问OBS:

    来自:帮助中心

    查看更多 →

  • 关于OBS并行导入

    存的是待并行导入数据库的数据。 OBS:对象存储服务,是一种可存储文档、图片、影音视频等非结构化数据的云存储服务。向 GaussDB (DWS)并行导入数据时,数据对象放置在OBS 服务器 上。 桶(Bucket):对OBS中的一个存储空间的形象称呼,是存储对象的容器。 对象存储是一种非

    来自:帮助中心

    查看更多 →

  • 重命名对象(Go SDK)

    约束限制: 并行文件系统的名字需全局唯一,不能与已有的任何并行文件系统名称重复,包括其他用户创建的并行文件系统并行文件系统命名规则如下: 3~63个字符,数字或字母开头,支持小写字母、数字、“-”、“.”。 禁止使用IP地址。 禁止以“-”或“.”开头及结尾。 禁止两个“.”相邻(如:“my

    来自:帮助中心

    查看更多 →

  • FileSytem结果表

    FileSytem结果表 功能描述 FileSystem结果表用于将数据输出到分布式文件系统HDFS或者对象存储服务OBS等文件系统。数据生成后,可直接对生成的目录创建非 DLI 表,通过DLI SQL进行下一步处理分析,并且输出数据目录支持分区表结构。适用于数据转储、大数据分析、备份或活跃归档、深度或冷归档等场景。

    来自:帮助中心

    查看更多 →

共105条
看了本文的人还看了