交Spark Jar和Spark python程序，执行Spark application，计算和处理用户数据。 提交Spark作业 提交SparkSQL作业 Spark基于内存进行计算的分布式计算框架。SparkSQL作业用于查询和分析数据，包括SQL语句和Script脚本两种

查看更多 →

迁移工作原理 概述 迁移流程 数据识别与准备 数据迁移 数据安全与完整性保障

查看更多 →

FunctionGraph函数的执行包含了哪些过程？ FunctionGraph函数的执行过程包含两步： 选择一个相应内存的空闲实例。 执行用户的指定运行代码。 父主题： 函数执行

查看更多 →

实现过程 涉及接口 登录（login） 请求方法：PUT 请求的url：https://ip:port/agentgateway/resource/onlineagent/{agentid} 请参考签入 强制登录（forcelogin） 请求方法：PUT 请求的url：https

查看更多 →

个表信息管理层，吸收了Hive的DDL命令。为MapReduce提供读写接口，提供Hive命令行接口来进行数据定义和元数据查询。基于 MRS 的HCatalog功能，Hive、MapReduce开发人员能够共享元数据信息，避免中间转换和调整，能够提升数据处理的效率。 WebHCat WebHCat运行用户通过Rest

查看更多 →

加速原理 通俗来讲，GA全球骨干网相当于华为云在全球多个国家建设高速公路网，接入点就好比高速公路入口，加速区域就是指有高速公路入口的国家或地区，而Region则可以理解是高速公路网的出口站点。我们可以通过“运营商”建设的普通公路访问Region应用（EIP访问流程），也可以就近接

查看更多 →

供，令牌验证由网格执行，彻底解耦用户业务中的认证逻辑，使应用程序专注于自身业务。基于Istio的JWT完整机制如图1所示。 图1 Istio JWT认证流程 ① 客户端连接认证服务，提供用户名和密码； ② 认证服务验证用户名和密码，生成JWT令牌，包括用户标识和过期时间等信息，并使用认证服务的私钥签名；

查看更多 →

TaurusDB备份原理 云数据库 TaurusDB基于华为最新一代DFV存储，采用计算与存储分离架构，计算层用于给外部提供服务，管理日志信息，存储层存储数据信息。存储层分为Common Log节点和Slice Store节点，Common Log节点存储日志信息，Slice Store节点存储数据信息。

查看更多 →

假设当前有两个用户tom和jerry，如果想要用户jerry能够对当前tom创建的所有表以及将来创建的表都有查询权限，如何处理： 将用户tom下的同名schema权限赋给jerry。 1 GRANT USAGE ON SCHEMA tom TO jerry; 将用户tom已经创建的表的select权限赋给jerry。

查看更多 →

MapReduce MapReduce基本原理 MapReduce与其他组件的关系 MapReduce开源增强特性 父主题： 组件介绍

查看更多 →

。 知识点 大数据技术发展趋势及鲲鹏大数据 3% HDFS分布式文件系统和 ZooKeeper 12% Hive 分布式 数据仓库 10% HBase技术原理 11% MapReduce 和 Yarn 技术原理 9% Spark 基于内存的分布式计算 7% Flink 流批一体分布式实时处理引擎

查看更多 →

如何强制停止Hive执行的MapReduce任务 问题 在Hive执行MapReduce任务长时间卡住的情况下想手动停止任务，需要如何操作？ 回答 登录 FusionInsight Manager。 选择“集群 > 待操作的集群名称 > 服务 > Yarn”。 单击左侧页面的“Re

查看更多 →

如何强制停止Hive执行的MapReduce任务 问题 在Hive执行MapReduce任务长时间卡住的情况下想手动停止任务，需要如何操作？ 回答 登录FusionInsight Manager。 选择“集群 > 服务 > Yarn”。 单击左侧页面的“ResourceManag

查看更多 →

增量迁移原理介绍 文件增量迁移 关系数据库增量迁移 HBase/CloudTable增量迁移 MongoDB/DDS增量迁移 父主题： 进阶实践

查看更多 →

以集群实例在备份时，需要分别备份Config节点和Shard节点上的数据，且Config节点和Shard节点是分开进行备份的。如图1所示，集群实例的备份是由Config节点和Shard节点分别在各自的Hidden节点上进行，备份过程会占用Hidden节点一定的CPU内存资源。因此

查看更多 →

Hive CBO原理介绍 Hive CBO原理介绍 CBO，全称是Cost Based Optimization，即基于代价的优化器。 其优化目标是： 在编译阶段，根据查询语句中涉及到的表和查询条件，计算出产生中间结果少的高效join顺序，从而减少查询时间和资源消耗。 Hive中实现CBO的总体过程如下：

查看更多 →

备份原理及方案 RDS实例支持自动备份和手动备份，您可以定期对数据库进行备份，当数据库故障或数据损坏时，可以通过备份文件恢复数据库，从而保证数据可靠性。 云数据库RDS通过Sysbench导入数据模型和一定量的数据，备份后压缩比约为80%。其中，重复数据越多，压缩比越高。 压缩比

查看更多 →

规格的Task排队等待运行。 性能影响因素 根据迁移模型，可以看出 CDM 数据迁移的速率受源端读取速度、网络带宽、目的端写入性能、CDM集群和作业配置等因素影响。 表1 性能影响因素 影响因素 说明 业务相关因素 作业抽取并发数配置 创建CDM迁移作业时，支持设置该作业的抽取并发数。

查看更多 →

Pods触发autoscaler决策扩容流程。 autoscaler模拟调度阶段，评估节点池1和节点池2中扩容的节点均可调度。 autoscaler决策优选节点池，将在节点池1和节点池2范围中随机选择一个节点池执行扩容。 most-pods 组合型策略，优先级排序为：most-pods > random。

查看更多 →

Console，该Console仅提供对Oozie工作流的查看和监控功能。通过Oozie对外提REST方式的WS接口，Oozie client通过该接口控制（启动、停止等操作）Workflow流程，从而编排、运行Hadoop MapReduce任务，如图1所示。 图1 Oozie框架 图1中各部分的功能说明如表1所示。

查看更多 →

HA能够解决JHS单点故障时，应用访问MapReduce接口无效，导致整体应用执行失败的场景，从而大大提升MapReduce服务的高可用性。 图1 JobHistoryServer HA主备倒换的状态转移过程 JobHistoryServer高可用性 采用ZooKeeper实现主备选举和倒换。 JobH

查看更多 →