和业务随行：策略与用户身份绑定，实现用户的业务策略和网络体验能够保持一致。 4 SparkSOHO-SmartPad10b-v 支持空会议资源的快速预约、显示及智能识别释放； SparkSOHO-SmartGuard-v 支持门禁，人脸、密码自动开门; SparkSOHO-SmartSensor-v

查看更多 →

使用华为云 域名 解析与绑定 操作场景 在华为云购买云速建站和域名，通过华为云 解析并绑定域名 ，使用户可以通过域名来访问您的网站。 前提条件 在华为云已购买域名。 在华为云备案中心已备案此域名，中国香港站点无需备案。 此域名未添加任何解析记录集 约束与限制 云速建站一个大陆站点支持备案3个域名。

查看更多 →

提高开发、测试、运维之间的沟通协助效率。 华为云DevSecOps咨询与规划服务基于华为云DevSecOps理念，针对客户对DevSecOps相关产品的需求，提供研发能力、测试能力、微服务转型等咨询规划或诊断报告，以提升企业软件交付能力，助力研发效能提升，使能企业数字化转型。 华为云DevSecOps咨询与规划服务包含五个子产品：

查看更多 →

华为云DevSecOps设计与实施服务 华为云DevSecOps设计与实施服务参考业界理念与华为实践，提供敏捷辅导、微服务迁移上云等落地实施服务，提升企业软件交付能力，助力研发效能提升，使能企业数字化转型。 华为云DevSecOps设计与实施服务包含两个子产品： 团队级教练辅导 微服务迁移上云

查看更多 →

Standalone模式spark配置 数据工厂应用内配置 图1 计算引擎配置 参数配置中spark.executor.extraClassPath指定spark上需要额外加载的jar包的路径，jar包需要放在spark所在 服务器 上。如果spark是集群环境，则每个节点都需要放入jar包，且路径相同。

查看更多 →

调测Spark应用 编包并运行Spark应用 查看Spark应用调测结果 父主题： Spark开发指南

查看更多 →

广播。 参见https://spark.apache.org/docs/latest/sql-programming-guide.html 配置自动广播阈值的方法： 在Spark的配置文件“spark-defaults.conf”中，设置“spark.sql.autoBroadc

查看更多 →

Spark应用开发简介 Spark简介 Spark是分布式批处理框架，提供分析挖掘与迭代式内存计算能力，支持多种语言（Scala/Java/Python）的应用开发。 适用以下场景： 数据处理（Data Processing）：可以用来快速处理数据，兼具容错性和可扩展性。 迭代计算（Iterative

查看更多 →

快速开发Spark应用 Spark是分布式批处理框架，提供分析挖掘与迭代式内存计算能力，支持多种语言的应用开发。 通常适用以下场景： 数据处理（Data Processing）：可以用来快速处理数据，兼具容错性和可扩展性。 迭代计算（Iterative Computation）：

查看更多 →

调测Spark应用 配置Windows通过EIP访问集群Spark 在本地Windows环境中调测Spark应用 在Linux环境中调测Spark应用 父主题： Spark2x开发指南（安全模式）

查看更多 →

Spark应用开发简介 Spark简介 Spark是分布式批处理框架，提供分析挖掘与迭代式内存计算能力，支持多种语言（Scala/Java/Python）的应用开发。 适用以下场景： 数据处理（Data Processing）：可以用来快速处理数据，兼具容错性和可扩展性。 迭代计算（Iterative

查看更多 →

调测Spark应用 在本地Windows环境中调测Spark应用 在Linux环境中调测Spark应用 父主题： Spark2x开发指南（普通模式）

查看更多 →

Spark作业管理 Spark作业管理概述 创建Spark作业 父主题： 作业管理

查看更多 →

Spark shuffle异常处理 问题 在部分场景Spark shuffle阶段会有如下异常 解决方法 JDBC应该： 登录 FusionInsight Manager管理界面，修改JD BCS erver的参数“spark.authenticate.enableSaslEncryp

查看更多 →

ght_Spark2x_xxx/install/FusionInsight-Spark2x-*/spark/conf/log4j-executor.properties”）中的日志级别为DEBUG，如下所示： log4j.rootCategory=DEBUG, sparklog DEBUG级别生效会有一定的时延。

查看更多 →

= B.name; 一个表大于阈值一个表小于阈值。 将小表进行BroadCast操作。 两个表的大小都大于阈值。 比较查询所涉及的字段大小与阈值的大小。 如果某表中涉及字段的大小小于阈值，将该表相应数据进行广播。 如果两表中涉及字段的大小都大于阈值，则不进行广播。 （可选）如下两

查看更多 →

Spark常见问题 Spark Core SQL和DataFrame Spark Streaming Spark客户端设置回收站version不生效 Spark yarn-client模式下如何修改日志级别为INFO 父主题： 使用Spark/Spark2x

查看更多 →

Spark SQL语法概览 本章节介绍了目前 DLI 所提供的Spark SQL语法列表。参数说明，示例等详细信息请参考具体的语法说明。 表1 批作业SQL语法 语法分类 操作链接 数据库相关语法 创建数据库 删除数据库 查看指定数据库 查看所有数据库 创建OBS表相关语法 使用DataSource语法创建OBS表

查看更多 →

Studio服务进行作业开发请参考《 数据治理中心 用户指南》。 Spark SQL语法创建表时是否支持定义主键 Spark SQL语法不支持定义主键。 DLI Spark jar作业是否能访问DWS跨源表？ 可以访问。 详细操作请参考访问DWS和访问SQL库表。 如何查看Spark内置依赖包的版本？ DLI内置依

查看更多 →

Spark用户权限管理 SparkSQL权限介绍 创建SparkSQL角色 配置Spark表、列和数据库的用户权限 配置SparkSQL业务用户权限 配置Spark2x Web UI ACL Spark客户端和服务端权限参数配置说明 父主题： 使用Spark2x（ MRS 3.x及之后版本）

查看更多 →

进程的JVM参数1 参数 说明 默认日志级别 spark.driver.extraJavaOptions Driver的JVM参数。 INFO spark.executor.extraJavaOptions Executor的JVM参数。 INFO spark.yarn.am.extraJavaOptions

查看更多 →