数据湖探索 DLI

数据湖探索(Data Lake Insight,简称DLI)是完全兼容Apache Spark和Apache Flink生态, 实现批流一体的Serverless大数据计算分析服务。DLI支持多模引擎,企业仅需使用SQL或程序就可轻松完成异构数据源的批处理、流处理、内存计算、机器学习等,挖掘和探索数据价值

 
进入控制台立即购买帮助文档DLI开发者社区1对1咨询                
               

           

    spark服务器配置案例 更多内容
  • 导入并配置Spark样例工程

    Scala SparkOnMultiHbaseScalaExample Spark同时访问两个HBase Scala SparkRExample 安装SparkR R SparkOnHudiJavaExample 使用Spark执行Hudi基本操作 Java SparkOnHudiPythonExample

    来自:帮助中心

    查看更多 →

  • 配置SparkSQL业务用户权限

    配置SparkSQL业务用户权限 操作场景 SparkSQL业务还可能需要关联使用其他组件,例如spark on HBase需要HBase权限。以下介绍SparkSQL关联HBase服务的操作。 前提条件 完成Spark客户端的安装,例如安装目录为“/opt/client”。 获

    来自:帮助中心

    查看更多 →

  • 配置Spark SQL开启Adaptive Execution特性

    Manager系统,选择“集群 > 服务 > Spark2x > 配置”,单击“全部配置”,搜索以下参数。 参数 说明 默认值 spark.sql.adaptive.enabled 配置是否启用自适应执行功能。 注意:AQE特性与DPP(动态分区裁剪)特性同时开启时,SparkSQL任务执行中会优先执

    来自:帮助中心

    查看更多 →

  • 配置Spark SQL开启Adaptive Execution特性

    Manager系统,选择“集群 > 服务 > Spark2x > 配置”,单击“全部配置”,搜索以下参数。 参数 说明 默认值 spark.sql.adaptive.enabled 配置是否启用自适应执行功能。 注意:AQE特性与DPP(动态分区裁剪)特性同时开启时,SparkSQL任务执行中会优先执

    来自:帮助中心

    查看更多 →

  • 配置SparkSQL业务用户权限

    配置SparkSQL业务用户权限 操作场景 SparkSQL业务还可能需要关联使用其他组件,例如Spark on HBase需要HBase权限。以下介绍SparkSQL关联HBase服务的操作。 前提条件 完成Spark客户端的安装,例如安装目录为“/opt/client”。 获

    来自:帮助中心

    查看更多 →

  • Spark作业运行大批量数据时上报作业运行超时异常错误

    具体并发设置可以参考对接DWS样例代码中的partitionColumn和numPartitions相关字段和案例描述。 调整Spark作业的Executor数量,分配更多的资源用于Spark作业的运行。 父主题: Spark作业运维类

    来自:帮助中心

    查看更多 →

  • 成长地图

    快速使用Oozie 快速使用Presto 快速使用Ranger 快速使用Spark 快速使用Tez 快速使用HetuEngine 配置 MRS 集群存算分离 使用MRS访问OBS 常见问题 了解更多常见问题、案例和解决方案 热门案例 MRS故障案例集在哪里? MRS集群内包含哪些组件? HDFS显示磁盘空间不足怎么办?

    来自:帮助中心

    查看更多 →

  • 查询SQL获取max值传递给CDM作业

    作业开发”。 选择MRS Spark SQL节点和For Each循环执行的节点,让 CDM 子作业循环执行,并配置节点属性参数。 配置MRS Spark SQL节点的属性参数,并关联已创建的脚本maxtime。 图3 配置MRS Spark SQL节点属性参数 配置For Each节点的属性参数,并关联已创建的CDM子作业。

    来自:帮助中心

    查看更多 →

  • 案例:设置cost

    案例:设置cost_param对查询性能优化 cost_param参数用于控制在特定的客户场景中,使用不同的估算方法使得估算值与真实值更接近。此参数可以同时控制多种方法,与某一方法对应的位做与操作,不为0表示该方法被选择。 场景一:优化前 cost_param的bit0(set

    来自:帮助中心

    查看更多 →

  • 证书选型案例

    证书选型案例 表1 以下为部分典型行业证书选型案例,您在选购证书时可以进行参考。 实例 所属行业 业务特征 常用证书类型 中国农业银行 中国平安 金融、银行、保险 有严格的数据保密要求 希望在网站地址栏展示身份信息 EV 教育部 淘宝、京东 百度、新浪、今日头条 上海证券交易所 国家电网

    来自:帮助中心

    查看更多 →

  • 实践案例指引

    实践案例指引 本文汇总了基于测试计划服务(CodeArts TestPlan)常见应用场景的操作实践,为每个实践提供详细的方案描述和操作指导,助力用户高质量进行测试活动。 表1 CodeArts TestPlan最佳实践一览表 最佳实践 说明 测试用例三层管理 本实践为您介绍如何使用“用例库-基线版本-测试版本”

    来自:帮助中心

    查看更多 →

  • 实践案例指引

    实践案例指引 表1 CodeArts Link服务最佳实践指引 最佳实践 说明 Jira与CodeArts Req数据双向同步 介绍如何通过CodeArts Link实现Jira与CodeArts Req的数据双向同步,从而提高企业运作效率、提高数据资产的复用率。

    来自:帮助中心

    查看更多 →

  • 典型使用案例

    典型使用案例 在这个章节中,我们将介绍一个QingTian Enclave的使用场景。其中包含了一些角色和基本的工作流程,同时使用了华为云数据加密服务(DEW)的KMS子服务,华为云统一身份认证服务(IAM)和华为云 对象存储服务 (OBS)。 工作流程 构建QingTian Enclave镜像

    来自:帮助中心

    查看更多 →

  • 开发一个MRS Spark Python作业

    创建一个数据开发模块空作业,作业名称为“job_MRS_Spark_Python”。 图2 新建作业 进入到作业开发页面,拖动“MRS Spark Python”节点到画布中并单击,配置节点的属性。 图3 配置MRS Spark Python节点属性 参数设置说明: --master

    来自:帮助中心

    查看更多 →

  • 案例:改写SQL消除子查询(案例2)

    案例:改写SQL消除子查询(案例2) 现象描述 某局点客户反馈如下SQL语句的执行时间超过1天未结束: 1 2 3 4 5 6 7 8 9 10 11 12 13 14 UPDATE calc_empfyc_c_cusr1 t1 SET ln_rec_count

    来自:帮助中心

    查看更多 →

  • 案例:改写SQL消除子查询(案例1)

    案例:改写SQL消除子查询(案例1) 现象描述 1 2 3 4 select 1, (select count(*) from customer_address_001 a4 where a4.ca_address_sk = a.ca_address_sk) as

    来自:帮助中心

    查看更多 →

  • 案例:改写SQL消除子查询(案例2)

    案例:改写SQL消除子查询(案例2) 现象描述 某局点客户反馈如下SQL语句的执行时间超过1天未结束: 1 2 3 4 5 6 7 8 9 10 11 12 13 14 UPDATE calc_empfyc_c_cusr1 t1 SET ln_rec_count

    来自:帮助中心

    查看更多 →

  • 案例:NOT IN转NOT EXISTS

    案例:NOT IN转NOT EXISTS NOT IN语句需要使用nestloop anti join来实现,而NOT EXISTS则可以通过hash anti join来实现。在join列不存在null值的情况下,not exists和not in等价。因此在确保没有null值时,可以通过将not

    来自:帮助中心

    查看更多 →

  • 使用AI案例

    注册并登录华为云,且创建好OBS桶用于存储数据和模型。 订阅并使用AI案例 登录“AI Gallery”。 选择“案例库”,在下拉框中单击“案例库 >”,进入AI案例库首页,该页面展示了所有共享的案例。 根据业务场景搜索所需的免费案例,单击案例进入详情页面。 在详情页面您可以查看案例的“使用说明”、“关联资产”、“输

    来自:帮助中心

    查看更多 →

  • 实践案例指引

    批量迁移jfrog仓库至私有依赖库 部署 通过代理主机在内网部署应用 基于Nginx实现应用的灰度发布 基于Kubernetes Nginx-Ingress实现应用的灰度发布 通过自托管资源池部署应用至云下IDC 通过自托管资源池实现跨Region虚拟机部署 测试计划 基于接口自动化用例和关键字驱动的电商平台测试

    来自:帮助中心

    查看更多 →

  • 案例:NOT IN转NOT EXISTS

    案例:NOT IN转NOT EXISTS NOT IN语句需要使用nestloop anti join来实现,而NOT EXISTS则可以通过hash anti join来实现。在join列不存在null值的情况下,not exists和not in等价。因此在确保没有null值时,可以通过将not

    来自:帮助中心

    查看更多 →

共105条
看了本文的人还看了