locale = "US" String 否 - Spark输入字段 配置SparkSQL输入信息： 列名：配置SparkSQL列名。 字段名：配置输入字段名。 类型：配置字段类型。 长度：配置字段长度，字段值实际长度太长则按配置的长度截取，“类型”为“CHAR”时实际长度不足则

查看更多 →

MRS Spark 功能 通过MRS Spark节点实现在MRS中执行预先定义的Spark作业。 参数 用户可参考表1，表2和表3配置MRS Spark节点的参数。 表1 属性参数 参数 是否必选 说明 节点名称 是 节点名称，可以包含中文、英文字母、数字、“_”、“-”、“/”

查看更多 →

ICAgent管理（非华为云主机） 安装ICAgent 升级ICAgent 卸载ICAgent 父主题： 配置管理

查看更多 →

接入成功后会生成一条接入配置信息。 单击接入配置名称可进入详情页面，查看该接入配置详细信息。 单击接入配置操作列的“修改”重新修改接入配置信息。 单击接入配置操作列的“标签管理”即可添加标签。 单击接入配置操作列的“更多 > 复制”复制一条新的接入配置信息。 单击接入配置操作列的“更多 > 删除”即可删除接入配置信息。

查看更多 →

配置Spark Python3样例工程 操作场景 为了运行MRS产品Spark2x组件的Python3接口样例代码，需要完成下面的操作。 操作步骤 客户端机器必须安装有Python3，其版本不低于3.6。 在客户端机器的命令行终端输入python3可查看Python版本号。如下显示Python版本为3

查看更多 →

配置Spark Python3样例工程 操作场景 为了运行MRS产品Spark2x组件的Python3接口样例代码，需要完成下面的操作。 操作步骤 客户端机器必须安装有Python3，其版本不低于3.6。 在客户端机器的命令行终端输入python3可查看Python版本号。如下显示Python版本为3

查看更多 →

配置SparkSQL支持Hudi Schema演进 Schema演进开启后不能关闭。 本章节仅适用于MRS 3.2.0及之前版本。 使用spark-beeline时，需要登录Manager页面，选择“集群 > 服务 > Spark2x > 配置 > 全部配置”。 在搜索栏中搜索参数“spark

查看更多 →

配置Spark任务不获取HBase Token信息 配置场景 使用Spark提交任务时，Driver默认会去HBase 获取Token ，访问HBase则需要配置文件“jaas.conf”进行安全认证。此时如果用户未配置“jaas.conf”文件，会导致应用运行失败。 因此，根据应用是否涉及HBase进行以下处理：

查看更多 →

DP – Cloud Native Infrastructure）：云原生技术深度解析，探究应用容器化、微服务网格化及多云部署管理等技术应用。 人工智能入门级开发者认证（HCCDA - AI）：面向AI初学者，培训与认证AI基础理论及基于华为云EI服务的AI应用开发能力 数据仓库 工作级开发者认证（HCCDP

查看更多 →

大数据入门级、云技术精髓入门级、 GaussDB 入门级-Python、GaussDB工作级开发者认证上线。 2022-11-08 物联网入门级、大数据工作级、云迁移工作级开发者认证上线。 开发者认证名称增加英文。 增加问题反馈渠道。 2022-09-30 移动应用入门级开发者认证上线。 增加实验考试常见问题，刷新考试流程，考试成绩同步说明等。

查看更多 →

资源和成本规划 该解决方案主要部署如下资源，每月花费如资源和成本规划-入门级、资源和成本规划-标准级、资源和成本规划-增强级所示，具体请参考华为云官网价格，实际收费以账单为准： 资源和成本规划-入门级 表1 资源和成本规划-入门级（包年包月） 华为云服务 配置示例 每月花费 弹性云服务器

查看更多 →

使用Spark/Spark2x Spark使用说明 Spark用户权限管理 Spark客户端使用实践 访问Spark WebUI界面 使用代理用户提交Spark作业 配置Spark读取HBase表数据 配置Spark任务不获取HBase Token信息 Spark Core企业级能力增强

查看更多 →

配置流式读取Spark Driver执行结果 配置场景 在执行查询语句时，返回结果有可能会很大（10万数量以上），此时很容易导致JD BCS erver OOM（Out of Memory）。因此，提供数据汇聚功能特性，在基本不牺牲性能的情况下尽力避免OOM。 配置描述 提供两种不同

查看更多 →

Spark输出 概述 “Spark输出”算子，用于配置已生成的字段输出到SparkSQL表的列。 输入与输出 输入：需要输出的字段 输出：SparkSQL表 参数说明 表1 算子参数说明 参数 含义 类型 是否必填 默认值 Spark文件存储格式 配置SparkSQL表文件的存储

查看更多 →

允许开启对接Kafka可靠性功能。 配置描述 在Spark客户端的“spark-defaults.conf”配置文件中进行设置。 表1 参数说明 参数 说明 默认值 spark.streaming.Kafka.reliability Spark Streaming对接Kafka是否开启可靠性功能：

查看更多 →

哪些区域支持接入非华为云主机？ 目前仅以下区域，可以接入非华为云主机： 华北-北京一 华北-北京四 华东-上海一 华东-上海二 华南-广州 中国-香港 亚太-新加坡 西南-贵阳一 亚太-雅加达 中东-利雅得 如果您的主机非华为云主机，请在上述区域购买HSS配额，然后使用非华为云主机的安装方式，将主机接入配额所在区域。

查看更多 →

的主机。 配置完成后，单击“确认”，创建评估成功。 在迁移方案设计页面的应用列表，单击应用操作列的“查看资源配置”，进入目的端配置表页面。 在资源配置明细区域，可以查看应用内主机资源的评估推荐结果，其中目的端规格配置是根据源端规格配置和评估策略推荐的华为云对应规格配置，成本预估是

查看更多 →

为什么不能识别批量导入的云主机？ 受云 堡垒机 版本限制，当用户云堡垒机“设备系统”版本低于V3.3.0.0时，导入的云主机可能会识别失败，不能获取主机信息。 您可以先选择升级系统到最新版本后，再次导入云主机。也可以将云主机信息转入Excel表格，通过Excel文件方式批量导入主机。

查看更多 →

配置流式读取Spark Driver执行结果 配置场景 在执行查询语句时，返回结果有可能会很大（10万数量以上），此时很容易导致JDB CS erver OOM（Out of Memory）。因此，提供数据汇聚功能特性，在基本不牺牲性能的情况下尽力避免OOM。 配置描述 提供两种不同

查看更多 →

对接的 DLI 服务的Region。 根据Spark应用程序的需要，修改“spark-defaults.conf”中的配置项，配置项兼容开源Spark配置项，参考开源Spark的配置项说明。 使用Spark-submit提交Spark作业 进入工具文件bin目录，执行spark-submit命令，并携带相关参数。

查看更多 →

Spark Streaming Streaming任务打印两次相同DAG日志 Spark Streaming任务一直阻塞 运行Spark Streaming任务参数调优的注意事项 为什么提交Spark Streaming应用超过token有效期，应用失败 为什么Spark Str

查看更多 →