MapReduce基本原理 如需使用MapReduce，请确保 MRS 集群内已安装Hadoop服务。 MapReduce是Hadoop的核心，是Google提出的一个软件架构，用于大规模数据集（大于1TB）的并行运算。概念“Map（映射）”和“Reduce（化简）”及其主要思想，均取自于函数式编程语言及矢量编程语言。

查看更多 →

创建 数据仓库 GaussDB (DWS) 参见“创建集群”章节创建GaussDB(DWS)数据仓库。创建成功后，记录集群的内网IP。 为确保E CS 与GaussDB(DWS)网络互通，GaussDB(DWS)数据仓库需要与ECS在同一个区域，同一个虚拟私有云和子网下。 表1 DWS规格

查看更多 →

数据仓库错误码 SQL标准错误码说明 第三方库错误码说明 GAUSS-00001 -- GAUSS-00100 GAUSS-00101 -- GAUSS-00200 GAUSS-00201 -- GAUSS-00300 GAUSS-00301 -- GAUSS-00400 GAUSS-00401

查看更多 →

领取免费数据仓库服务后，为什么看不到集群？ 免费领取数据仓库服务后，并不会自动创建集群，您需要登录GaussDB(DWS)管理控制台手动创建GaussDB(DWS)集群。 父主题： 计费FAQ

查看更多 →

MRS可以做什么？ MRS支持什么类型的分布式存储？ 什么是区域和可用区？ MRS是否支持更换网段？ MRS集群内节点是否支持降配操作？ MRS集群是否支持Hive on Spark？ 不同版本的Hive之间是否可以兼容？ 数据存储在OBS和HDFS有什么区别？ Hadoop压力测试工具如何获取？

查看更多 →

分布式身份 注册个人分布式身份 注册企业分布式身份 更新企业DID服务 查询分布式身份文档 父主题： API

查看更多 →

本实践演示通过 数据湖探索 服务 DLI Flink作业将分布式消息服务Kafka的消费数据实时同步至DWS数据仓库，实现Kafka实时入库到DWS的过程。 本实践预计时长90分钟，实践用到的云服务包括 虚拟私有云VPC 及子网、弹性负载均衡ELB、 弹性云服务器 ECS、 对象存储服务 OBS、分布式消息服务Kafka、 数据湖 探索DLI和数据仓库服务DWS

查看更多 →

大数据 数据仓库服务 SYS.DWS Key：datastore_id Value：数据仓库集群ID Key：dws_instance_id Value：数据仓库节点ID 数据仓库服务的监控指标说明 云搜索服务 SYS.ES Key：cluster_id Value：集群id Key：instance_id

查看更多 →

创建MRS Hive集群 购买一个包含有Hive组件的MRS集群，详情请参见购买自定义集群。 本文以购买的MRS 3.1.5版本的集群为例，组件包含Hadoop、Hive组件，集群开启Kerberos认证。 单击“立即购买”，等待MRS集群创建成功。 准备应用开发配置文件 集群创建成功后，登录 FusionInsight

查看更多 →

数据仓库服务 DWS DWS集群启用KMS加密 DWS集群启用日志转储 DWS集群启用自动快照 DWS集群启用SSL加密连接 DWS集群未绑定公网IP DWS集群运维时间窗检查 父主题： 系统内置预设策略

查看更多 →

OBS or Hadoop) 功能描述 在当前数据库创建一个HDFS或OBS外表，用来访问存储在HDFS或者OBS分布式集群文件系统上的结构化数据。也可以导出ORC格式数据到HDFS或者OBS上。 数据存储在OBS：数据存储和计算分离，集群存储成本低，存储量不受限制，并且集群可以随时删

查看更多 →

OBS or Hadoop) 功能描述 在当前数据库创建一个HDFS或OBS外表，用来访问存储在HDFS或者OBS分布式集群文件系统上的结构化数据。也可以导出ORC格式数据到HDFS或者OBS上。 数据存储在OBS：数据存储和计算分离，集群存储成本低，存储量不受限制，并且集群可以随时删

查看更多 →

权。用户在部署安全集群时，需要使用安全加密通道，配置如下参数。安全Hadoop RPC相关信息请参考： MRS 3.2.0之前版本：https://hadoop.apache.org/docs/r3.1.1/hadoop-project-dist/hadoop-common/SecureMode

查看更多 →

云搜索 服务 CSS 相关介绍请参考《云搜索服务产品介绍》。 分布式缓存服务DCS相关介绍请参考《分布式缓存服务产品介绍》。 文档数据库服务DDS相关介绍请参考《文档数据库服务产品介绍》。 数据仓库服务GaussDB（DWS）相关介绍请参考《数据仓库服务产品介绍》。 MapReduce服务 MRS

查看更多 →

，并支持通过控制台对集群进行运维监控。 集群逻辑架构 GaussDB(DWS)集群逻辑架构如图2所示。实例的详细介绍请参见表1。 图2 集群逻辑架构图 表1 集群架构说明 名称 描述 说明 CM 集群管理模块（Cluster Manager）。管理和监控分布式系统中各个功能单元和

查看更多 →

≥ 0 bytes/s CDM 集群实例 网络流出速率 该指标用于统计每秒流出测量对象的网络流量。 单位：字节/秒。 ≥ 0 bytes/s CDM集群实例 CPU使用率 该指标用于统计测量对象的CPU使用率。 单位：%。 0%～100% CDM集群实例 内存使用率 该指标用于统计测量对象的内存使用率。

查看更多 →

分布式训练 分布式训练功能介绍 单机多卡数据并行-DataParallel(DP) 多机多卡数据并行-DistributedDataParallel(DDP) 分布式调测适配及代码示例 分布式训练完整代码示例 基于训练作业启动PyTorch DDP训练示例 基于训练作业启动PyTorch

查看更多 →

分布式部署 SAP NetWeaver分布式部署如图1所示。 图1 SAP NetWeaver分布式部署 该部署方式是由多个SAP实例组成，一个SAP实例是一组同时开始和结束的进程。在分布式系统中，所有实例都运行在独立的 云服务器 上，主要包括以下实例： ABAP Central Services

查看更多 →

集群拓扑图 概述 集群拓扑图向用户展示了集群内所有节点的拓扑结构，方便用户查看节点状态、节点进程、节点IP地址等信息。 集群拓扑图分为拓扑结构展示与节点进程展示两个功能。 拓扑结构节点展示仅8.0.0及以上集群版本支持，节点进程展示仅8.2.0及以上集群版本支持。 查看集群拓扑图

查看更多 →

如何清理与回收存储空间？ GaussDB(DWS)数据仓库中保存的数据在删除后，可能没有释放占用的磁盘空间形成脏数据，导致磁盘浪费、创建及恢复快照性能下降等问题，如何清理？ 清理与回收存储空间对系统的影响如下： 删除无用的脏数据，释放存储空间。 数据库将进行大量读写操作，可能影响正常使用，建议选择空闲时间执行。

查看更多 →

创建MRS Hive集群 购买一个包含有Hive组件的MRS集群，详情请参见购买自定义集群。 本文以购买的MRS 3.1.5版本的集群为例，组件包含Hadoop、Hive组件，集群开启Kerberos认证。 单击“立即购买”，等待MRS集群创建成功。 准备应用开发配置文件 集群创建成功后，登录FusionInsight

查看更多 →