New Policy”，为1新建的用户组添加相应OBS路径的“Read”和“Write”权限。 例如，为用户组“obs_hadoop1”添加“obs://OBS并行文件系统名称/hadoop1”的“Read”和“Write”权限： 父主题： MRS 集群组件对接OBS（基于Guardian）

查看更多 →

具，另一方面也在逐步构建与国内外业界主流数据库工具的对接。数据库外围工具种类丰富、标准繁多，目前DWS兼容的工具类别主要包括：BI工具、ETL工具、报表工具、数据挖掘、数据复制、数据集成、备份恢复、安全、运维监控、云平台、Web中间件等，详细工具清单参照 GaussDB 生态对接相关文档。

查看更多 →

单击“Add New Policy”，为新建的用户组添加相应OBS路径的“Read”和“Write”权限。 例如，为用户组“obs_hadoop”添加“obs://OBS并行文件系统名称/hadoop”的“Read”和“Write”权限： 父主题： MRS集群组件对接OBS（基于Guardian）

查看更多 →

建设开始出现诸多发展瓶颈和痛点 实时性要求越来越高，旧有的企业数据管理和分析体系无法支持业务系统的柔性响应、精准服务、快速迭代等需要，迫切需要建设数据中台，以更好的实现数据汇聚链接，驱动企业决策。 大数据发展至今，技术组件纷繁复杂，而企业缺乏统一的开发和管理工具，导致数据中台的建

查看更多 →

指定要使用的DEW服务所在的endpoint信息。 获取地区和终端节点。 配置示例：spark.hadoop.fs.dew.endpoint=kms.cn-xxxx.myhuaweicloud.com spark.hadoop.fs.dew.csms.version 否 最新的version

查看更多 →

交Spark Jar和Spark python程序，执行Spark application，计算和处理用户数据。 提交Spark作业 提交SparkSQL作业 Spark基于内存进行计算的分布式计算框架。SparkSQL作业用于查询和分析数据，包括SQL语句和Script脚本两种

查看更多 →

创建用户，登录Manager页面，选择“系统 > 权限 > 用户”，单击“添加用户”，创建用户test（实际运行用户）和test1（代理用户）用户，用户组选择hadoop、hive和supergroup，主组选择hadoop。 在spark-beeline中使用代理用户提交Spark任务 修改JD BCS erver实例配置。

查看更多 →

Spark Jupyter对接方案概述 在MRS服务中可以配合Jupyter Notebook使用PySpark，能够提高机器学习、数据探索和ETL应用开发效率。 本实践指导用户如何在MRS集群中配置Jupyter Notebook来使用Pyspark。 具体流程如下： 步骤1：在MRS集群外节点安装客户端

查看更多 →

run(RpcExecutor.java:318) 回答 CTBase用户在Ranger界面配置权限策略，赋予CTBase元数据表_ctmeta_、聚簇表和索引表RWCAE（READ，WRITE，EXEC，CREATE，ADMIN）权限。 父主题： HBase常见问题

查看更多 →

nstances 表1 路径参数 参数 是否必选 参数类型 描述 project_id 是 String 项目ID，获取方法请参见项目ID和账号ID。 task_id 是 String 作业算子id，表关联作业算子列表接口响应体的task_id。 表2 Query参数 参数 是否必选

查看更多 →

5版本后的SSL。为了解决这个问题，Netty被加入到ZooKeeper中。所以如果用户需要使用SSL，启用Netty并设置Server端和Client端的以下参数。 开源的服务端只支持简单的文本密码，这可能导致相关安全问题。为此在服务端将不再使用此类文本密码。 Client端 将“zkCli

查看更多 →

Driver返回码和RM WebUI上应用状态显示不一致 问题 ApplicationMaster与ResourceManager之间通信发生长时间异常时，为什么Driver返回码和RM WebUI上应用状态显示不一致？ 回答 在yarn-client模式下，Spark的Driver和App

查看更多 →

行安全配置。您可通过官网资料了解系统用户和用户组配置对应的文件系统权限。详情请参见： MRS 3.2.0之前版本：http://hadoop.apache.org/docs/r3.1.1/hadoop-project-dist/hadoop-common/SecureMode.h

查看更多 →

数据资产模型 数据资产模型是解决方案信息架构共享，包含方案的主题设计、逻辑模型设计、物理模型设计、ETL映射、业务指标设计等。如何发布数据资产模型参考归档发布资产。 查找数据资产模型 图1 查找数据资产模型 图2 数据资产模型详情 引用数据资产模型 支持将发布的数据资产模型引用到

查看更多 →

Storm-HDFS开发指引 操作场景 本章节只适用于Storm和HDFS交互的场景。本章中描述的jar包的具体版本信息请以实际情况为准。 应用开发操作步骤 确认Storm和HDFS组件已经安装，并正常运行。 将storm-examples导入到IntelliJ IDEA开发环境，请参见准备Storm应用开发环境。

查看更多 →

Flink是一个分布式的数据处理引擎，用于处理有界和无界流式数据。Flink定义了文件系统抽象，OBS服务实现了Flink的文件系统抽象，使得OBS可以作为flink StateBackend和数据读写的载体。 注意事项 flink-obs-fs-hadoop目前仅支持OBS并行文件系统。 为了

查看更多 →

实时交互分析 针对即时的分析需求，分析人员可实时从大数据平台中获取信息。 弹性伸缩 增加节点，即可扩展系统的数据存储能力和查询分析的性能，可支持PB级数据的存储和计算。 增强型ETL和实时BI分析 数据仓库 在整个BI系统中起到了支柱的作用，更是海量数据收集、存储、分析的核心。为IoT（Internet

查看更多 →

0-incubating.jar和hbase的lib下的metrics-core-2.2.0.jar，复制到“/opt/Bigdata/MRS_1.9.2/install/ FusionInsight -Hadoop-2.8.3/hadoop/share/hadoop/common/lib/”下。

查看更多 →

Storm-HDFS开发指引 操作场景 本章节只适用于MRS产品中Storm和HDFS交互的场景。本章中描述的jar包的具体版本信息请以实际情况为准。 安全模式下登录方式分为两种，票据登录和keytab文件登录，两种方式操作步骤基本一致，票据登录方式为开源提供的能力，后期需要人工

查看更多 →

往非常复杂，依赖于源系统和网络，因此在监控检测源系统和 数据湖 的SDI层的数据一致性，可以快速给问题定界定位。 DGC命名规范检测 作业命名 节点命名 脚本命名 环境变量命名 数据连接命名 DGC是 数据治理中心 ，尤其是数据开发模块，数据的ETL脚本的逻辑和任务调度编排均在DGC上。

查看更多 →

用于大数据开发场景的数据ETL任务管理等场景，但不涉及 数据治理 ，适用于开发者试用、小规模验证等场景。 企业版：基于MRS Hive的出租车出行的数据治理流程 MRS Hive 企业版 数据集成+数据开发+数据治理 需求全功能数据治理能力，适用于有完善的数据管理团队和体系，要进行企业信息

查看更多 →