对象存储服务 OBS     

对象存储服务(Object Storage Service)是一款稳定、安全、高效、易用的云存储服务,具备标准Restful API接口,可存储任意数量和形式的非结构化数据。

 
 

    并行数据存储 更多内容
  • 关于OBS并行导入

    息。 Data:对象的数据内容,OBS对于数据的内容是无感知的,即认为对象内的数据为无状态的二进制数据数据库普通表:数据库中的普通表,数据源文件中的数据最终并行导入到这些表中存储,包括行存表、列存表。 外表:用于识别数据源文件中的数据。外表中保存了数据源文件的位置、文件格式、编码格式、数据间的分隔符等信息。

    来自:帮助中心

    查看更多 →

  • 关于GDS并行导入

    DN(Datanode): GaussDB (DWS)数据节点。接收CN下发的导入任务,将数据源文件中的数据通过外表写入数据库目标表中。 数据源文件:存有数据的文件。文件中保存的是待导入数据库的数据数据 服务器 数据源文件所在的服务器称为数据服务器。基于安全考虑,建议数据服务器和GaussDB(DWS)集群处于同一内网。

    来自:帮助中心

    查看更多 →

  • 关于OBS并行导出

    相关概念 数据源文件:存储数据的TEXT、 CS V文件。 OBS:对象存储服务,是一种可存储文档、图片、影音视频等非结构化数据的云存储服务。从GaussDB(DWS)并行导出数据时,数据对象放置在OBS服务器上。 桶(Bucket):对OBS中的一个存储空间的形象称呼,是存储对象的容器。

    来自:帮助中心

    查看更多 →

  • 关于GDS并行导出

    通过外表导出数据 相关概念 数据文件:存储数据的TEXT、CSV或FIXED文件。文件中保存的是从GaussDB(DWS)数据库导出的数据。 外表:用于规划导出数据文件的数据文件格式、存放位置、编码格式等信息。 GDS:数据服务工具。在导出数据时,需要将此工具部署到数据文件所在的服务器上,使DN可以通过该工具导出数据。

    来自:帮助中心

    查看更多 →

  • 验证并行查询效果

    验证并行查询效果 本章节使用TPCH测试工具测试并行查询对22条QUERY的性能提升情况。 测试的实例信息如下: 实例规格:32 vCPUs | 256 GB 内核版本:2.0.26.1 并行线程数:16 测试数据量:100GB 操作步骤 生成测试数据。 请在https://github

    来自:帮助中心

    查看更多 →

  • 如何并行创建索引?

    如何并行创建索引? 答:参考如下方法: --设置maintenance_work_mem参数根据实际情况调整该大小。 gaussdb=# SET maintenance_work_mem = '8GB'; --建表。 gaussdb=# CREATE TABLE table_name

    来自:帮助中心

    查看更多 →

  • 如何并行创建索引?

    如何并行创建索引? 答:参考如下方法: --设置maintenance_work_mem参数根据实际情况调整该大小。 gaussdb=# SET maintenance_work_mem = '8GB'; --建表。 gaussdb=# CREATE TABLE table_name

    来自:帮助中心

    查看更多 →

  • 设置并行度

    设置并行度 操作场景 并行度控制任务的数量,影响shuffle操作后数据被切分成的块数。调整并行度让任务的数量和每个任务处理的数据与机器的处理能力达到最优。 查看CPU使用情况和内存占用情况,当任务和数据不是平均分布在各节点,而是集中在个别节点时,可以增大并行度使任务和数据更均匀

    来自:帮助中心

    查看更多 →

  • SMP并行执行

    况下,并行扫描才能够提高扫描性能。 其他因素对SMP性能的影响 除了资源因素外,还有一些因素也会对SMP并行性能造成影响。例如分区表中分区数据不均,以及系统并发度等因素。 数据倾斜对SMP性能的影响 当数据中存在严重数据倾斜时,并行效果较差。例如某表join列上某个值的数据量远大

    来自:帮助中心

    查看更多 →

  • 并行文件系统

    并行文件系统 并行文件系统(Parallel File System)是对象存储服务(Object Storage Service,OBS)提供的一种经过优化的高性能文件语义系统,提供毫秒级别访问时延,TB/s级别带宽和百万级别的IOPS,能够快速处理高性能计算(HPC)工作负载,主要应用于大数据场景。

    来自:帮助中心

    查看更多 →

  • OBS的数据存储在哪里?

    OBS的数据存储在哪里? 在OBS上创建桶时,您可以指定一个区域。在该区域内,您的数据存储在多台设备上。 父主题: 产品咨询

    来自:帮助中心

    查看更多 →

  • 配置监控数据存储至OBS

    行的操作下的“配置数据存储”。 进入“配置数据存储”页面。 在“配置数据存储”页面,根据页面提示设置参数,为企业路由器实例配置OBS存储。 在“配置数据存储”页面,参数的详细说明,请参见配置OBS数据存储。 父主题: 使用CES服务监控ESW网络指标

    来自:帮助中心

    查看更多 →

  • 对接Redis实现数据存储

    对接Redis实现数据存储 通过应用与Redis对接,实现数据存储功能。 前提条件 已获取Redis提供服务的URL地址和登录密码。 新建Redis连接器 参考创建连接器入口中操作,进入创建连接器页面。 在左侧列表中,选择“数据库 > Redis”,单击“+”。 图1 新建Redis

    来自:帮助中心

    查看更多 →

  • Hive数据存储及加密配置

    Hive数据存储及加密配置 使用HDFS Colocation存储Hive表 配置Hive分区元数据冷热存储 Hive支持ZSTD压缩格式 配置Hive列加密功能 父主题: 使用Hive

    来自:帮助中心

    查看更多 →

  • 迁移归档存储数据

    在OBS桶中仅开启归档数据直读功能,仅支持直接下载归档存储数据,并未修改相应存储类型,因此 OMS 无法正常直接下载对象。 归档存储开启直读,和使用OMS自动恢复归档存储,源端对象存储服务都会收取相应费用,详见产品价格详情。 迁移归档数据时,目的端桶类型建议选择为“标准存储”,待迁移完成确

    来自:帮助中心

    查看更多 →

  • 配置监控数据存储至OBS

    作下的“配置数据存储”。 进入“配置数据存储”页面。 在“配置数据存储”页面,根据页面提示设置参数,为企业路由器实例配置OBS存储。 企业路由器连接 在企业路由器列表中,单击展开目标企业路由器的连接列表,并单击连接所在行的操作下的“配置数据存储”。 进入“配置数据存储”页面。 在

    来自:帮助中心

    查看更多 →

  • 配置异常数据存储(可选)

    影响任务保存。 配置异常数据存储 在配置异常数据存储前,您需要提前完成OBS数据源的接入配置,具体请参见接入OBS数据源。 在创建任务页面中配置异常数据存储信息。 表1 异常数据存储信息 参数 配置说明 集成应用 选择OBS数据源所属的集成应用。 源端数据类型 当前仅支持选择“OBS”。

    来自:帮助中心

    查看更多 →

  • 数据转发至OBS长期存储

    数据转发至OBS长期存储 场景说明 对于设备上报的数据,可以选择让平台将设备上报数据推送给应用服务器,由应用服务器进行保存;还可以选择让平台将设备上报数据转发给对象存储服务(OBS),由OBS进行存储。 本示例为将所有设备上报的数据转发至OBS存储。 创建OBS桶 登录华为云官方网站,访问对象存储服务。

    来自:帮助中心

    查看更多 →

  • 开通账单数据存储功能

    开通账单数据存储功能 客户在对象存储服务(OBS)中创建桶后,即可开通账单数据存储服务,华为云会按时将账单文件同步存储至您OBS对应的桶资源中。 当客户在当天04:00以后开通账单数据存储服务或更新推送设置,华为云将不会推送开通前一日的账单。 例如:客户在2024年02月10日0

    来自:帮助中心

    查看更多 →

  • 创建元数据存储路径

    创建元数据存储路径 LakeFormation元数据映射的数据文件和目录存储在OBS并行文件系统中。在创建LakeFormation元数据之前,需要提前创建数据存储使用的OBS并行文件系统。 如果已存在可用的OBS并行文件系统,可跳过该章节操作。 操作步骤 登录管理控制台。 在页面左上角单击,选择“存储

    来自:帮助中心

    查看更多 →

  • 数据如何存储到GaussDB(DWS)?

    数据如何存储到GaussDB(DWS)? GaussDB(DWS)支持多数据源高效入库,典型的入库方式如下所示。详细指导请参见导入数据。 从OBS导入数据数据上传到OBS对象存储服务中,再从OBS中导入,支持CSV,TEXT格式数据。 通过INSERT语句直接插入数据。 用户

    来自:帮助中心

    查看更多 →

共105条
看了本文的人还看了