数据湖探索 DLI

数据湖探索(Data Lake Insight,简称DLI)是完全兼容Apache Spark和Apache Flink生态, 实现批流一体的Serverless大数据计算分析服务。DLI支持多模引擎,企业仅需使用SQL或程序就可轻松完成异构数据源的批处理、流处理、内存计算、机器学习等,挖掘和探索数据价值

 
进入控制台立即购买帮助文档DLI开发者社区1对1咨询                
               

           

    Spark 必备基本原理 更多内容
  • Spark on HBase程序

    Spark on HBase程序 场景说明 Java样例代码 Scala样例代码 父主题: 开发Spark应用

    来自:帮助中心

    查看更多 →

  • 使用Spark on CCE

    使用Spark on CCE 使用Spark的Kubernetes调度程序spark-submit,可以将Spark应用程序提交到Kubernetes集群中运行,详情请参见在Kubernetes上运行Spark。使用spark-submit提交Spark应用程序的工作原理如下:

    来自:帮助中心

    查看更多 →

  • Spark日志介绍

    Manager界面中配置。 表1 Spark2x日志列表 日志类型 日志文件名 描述 SparkResource2x日志 spark.log Spark2x服务初始化日志。 prestart.log prestart脚本日志。 cleanup.log 安装卸载实例时的清理日志。 spark-availability-check

    来自:帮助中心

    查看更多 →

  • Spark Streaming

    Spark Streaming Streaming任务打印两次相同DAG日志 Spark Streaming任务一直阻塞 运行Spark Streaming任务参数调优的注意事项 为什么提交Spark Streaming应用超过token有效期,应用失败 为什么Spark Str

    来自:帮助中心

    查看更多 →

  • 开发Spark应用

    开发Spark应用 Spark Core样例程序 Spark SQL样例程序 通过JDBC访问Spark SQL样例程序 Spark读取HBase表样例程序 Spark从HBase读取数据再写入HBase样例程序 Spark从Hive读取数据再写入HBase样例程序 Spark S

    来自:帮助中心

    查看更多 →

  • 开发Spark应用

    开发Spark应用 Spark Core样例程序 Spark SQL样例程序 通过JDBC访问Spark SQL样例程序 Spark读取HBase表样例程序 Spark从HBase读取数据再写入HBase样例程序 Spark从Hive读取数据再写入HBase样例程序 Spark S

    来自:帮助中心

    查看更多 →

  • 项目专员

    特定资质的员工申请成为项目专员。 员工个人账号与伙伴完成关联,是伙伴管理员为其申请考试券、云实验等伙伴权益的必备条件之一。 成为项目专员是伙伴申请专职人员激励(FH)的必备条件之一。 伙伴管理员 伙伴成员 父主题: 伙伴组织管理

    来自:帮助中心

    查看更多 →

  • KrbServer及LdapServer基本原理

    KrbServer及LdapServer基本原理 KrbServer及LdapServer简介 为了管理集群中数据与资源的访问控制权限,推荐安装安全模式集群。在安全模式下,客户端应用程序在访问集群中的任意资源之前均需要通过身份认证,建立安全会话链接。 MRS 通过KrbServer为

    来自:帮助中心

    查看更多 →

  • MemArtsCC

    MemArtsCC MemArtsCC基本原理 MemArtsCC与其他组件的关系 父主题: 组件介绍

    来自:帮助中心

    查看更多 →

  • Ranger

    Ranger Ranger基本原理 Ranger与其他组件的关系 父主题: 组件介绍

    来自:帮助中心

    查看更多 →

  • Storm

    Storm Storm基本原理 Storm与其他组件的关系 Storm开源增强特性 父主题: 组件介绍

    来自:帮助中心

    查看更多 →

  • 产品架构和功能原理

    点继续推送增量变更数据。 实时灾备基本原理 实时灾备的功能是通过实时复制技术实现两个数据库的数据容灾,底层技术原理和实时迁移是一致的,差异点主要是实时灾备支持正向数据同步和反向数据同步,且实时灾备为实例级别灾备,不支持选择库表。 录制回放基本原理 录制回放主要分为录制、回放两个阶

    来自:帮助中心

    查看更多 →

  • 水印防护配置指导

    水印防护配置指导 基本原理 开发示例 父主题: 水印防护

    来自:帮助中心

    查看更多 →

  • MapReduce

    MapReduce MapReduce基本原理 MapReduce与其他组件的关系 MapReduce开源增强特性 父主题: 组件介绍

    来自:帮助中心

    查看更多 →

  • IoTDB

    IoTDB IoTDB基本原理 IoTDB开源增强特性 父主题: 组件介绍

    来自:帮助中心

    查看更多 →

  • HBase

    HBase HBase基本原理 HBase HA方案介绍 HBase与其他组件的关系 HBase开源增强特性 父主题: 组件介绍

    来自:帮助中心

    查看更多 →

  • ClickHouse

    ClickHouse ClickHouse基本原理 ClickHouse与其他组件的关系 ClickHouse开源增强特性 父主题: 组件介绍

    来自:帮助中心

    查看更多 →

  • Loader

    Loader Loader基本原理 Loader与其他组件的关系 Loader开源增强特性 父主题: 组件介绍

    来自:帮助中心

    查看更多 →

  • Spark性能优化

    Spark性能优化 概述 Spark是基于内存的分布式计算框架。在迭代计算的场景下,数据处理过程中的数据可以存储在内存中,提供了比MapReduce高10到100倍的计算能力。Spark可以使用HDFS作为底层存储,使用户能够快速地从MapReduce切换到Spark计算平台上去

    来自:帮助中心

    查看更多 →

  • Spark SQL join优化

    配置为-1时,将不进行广播。 配置自动广播阈值的方法: 在Spark的配置文件“spark-defaults.conf”中,设置“spark.sql.autoBroadcastJoinThreshold”的值。 spark.sql.autoBroadcastJoinThreshold

    来自:帮助中心

    查看更多 →

  • Spark shuffle异常处理

    Spark shuffle异常处理 问题 在部分场景Spark shuffle阶段会有如下异常 解决方法 JDBC应该: 登录 FusionInsight Manager管理界面,修改JD BCS erver的参数“spark.authenticate.enableSaslEncryp

    来自:帮助中心

    查看更多 →

共105条
看了本文的人还看了