数据湖探索 DLI

数据湖探索(Data Lake Insight,简称DLI)是完全兼容Apache Spark和Apache Flink生态, 实现批流一体的Serverless大数据计算分析服务。DLI支持多模引擎,企业仅需使用SQL或程序就可轻松完成异构数据源的批处理、流处理、内存计算、机器学习等,挖掘和探索数据价值

 
进入控制台立即购买帮助文档DLI开发者社区1对1咨询                
               

           

    spark 云主机 更多内容
  • Spark对接OpenTSDB

    Spark对接OpenTSDB 创建表关联OpenTSDB 插入数据至OpenTSDB表 查询OpenTSDB表 默认配置修改 父主题: 使用Spark MRS 3.x之前版本)

    来自:帮助中心

    查看更多 →

  • 使用Spark on CCE

    使用Spark on CCE 使用Spark的Kubernetes调度程序spark-submit,可以将Spark应用程序提交到Kubernetes集群中运行,详情请参见在Kubernetes上运行Spark。使用spark-submit提交Spark应用程序的工作原理如下:

    来自:帮助中心

    查看更多 →

  • 开发Spark应用

    开发Spark应用 Spark Core样例程序 Spark SQL样例程序 通过JDBC访问Spark SQL样例程序 Spark读取HBase表样例程序 Spark从HBase读取数据再写入HBase样例程序 Spark从Hive读取数据再写入HBase样例程序 Spark S

    来自:帮助中心

    查看更多 →

  • Spark on HBase程序

    Spark on HBase程序 场景说明 Java样例代码 Scala样例代码 父主题: 开发Spark应用

    来自:帮助中心

    查看更多 →

  • 开发Spark应用

    开发Spark应用 Spark Core样例程序 Spark SQL样例程序 通过JDBC访问Spark SQL样例程序 Spark读取HBase表样例程序 Spark从HBase读取数据再写入HBase样例程序 Spark从Hive读取数据再写入HBase样例程序 Spark S

    来自:帮助中心

    查看更多 →

  • Flexus L实例云主机卡顿怎么办?

    Flexus L实例 云主机卡顿怎么办? Flexus L实例云主机卡顿有以下几种原因,请您逐一排查,选择对应的解决方法。 云主机CPU或带宽使用率过高导致卡顿。 请排查影响 云服务器 带宽和CPU使用率高的进程,关闭无用和异常进程。具体操作请参见Linux云 服务器 卡顿怎么办?、Windows云服务器卡顿怎么办?。

    来自:帮助中心

    查看更多 →

  • 远程登录Linux系统L实例云主机(CloudShell方式)

    在CloudShell配置向导中设置登录云主机的配置项。 表1 登录云主机的配置项 配置项 说明 端口 云主机的连接端口,默认22。 请确保安全组已开放登录端口(默认使用22端口),否则无法连接云主机。配置安全组规则请参考配置安全组规则。 用户名 云主机的名称,默认root。 认证方式 选择“密码认证”,并输入云主机的密码。

    来自:帮助中心

    查看更多 →

  • 使用DNAT为云主机面向公网提供服务

    使用DNAT为云主机面向公网提供服务 入门指引 准备工作 步骤1:购买弹性公网IP 步骤2:购买公网NAT网关 步骤3:添加DNAT规则 步骤4:结果验证

    来自:帮助中心

    查看更多 →

  • Flexus L实例云主机卡顿怎么办?

    Flexus L实例云主机卡顿怎么办? Flexus L实例云主机卡顿有以下几种原因,请您逐一排查,选择对应的解决方法。 云主机CPU或带宽使用率过高导致卡顿。 请排查影响云服务器带宽和CPU使用率高的进程,关闭无用和异常进程。具体操作请参见Linux云服务器卡顿怎么办?、Windows云服务器卡顿怎么办?。

    来自:帮助中心

    查看更多 →

  • 查询Flexus L实例云主机详情列表

    查询Flexus L实例云主机详情列表 功能介绍 根据用户请求条件筛选、查询所有的云主机,并关联获取云主机的详细信息。 该接口支持查询云主机计费方式,以及是否被冻结。 接口约束 当前云主机详情列表中未包含包年/包云主机到期时间,如需获取,可以通过客户运营能力相关接口进行查询,详细

    来自:帮助中心

    查看更多 →

  • Spark应用开发规则

    org.apache.spark.SparkContext // RDD操作时引入的类。 import org.apache.spark.SparkContext._ // 创建SparkConf时引入的类。 import org.apache.spark.SparkConf 分布式模

    来自:帮助中心

    查看更多 →

  • Spark应用开发建议

    在对性能要求比较高的场景下,可以使用Kryo优化序列化性能 Spark提供了两种序列化实现: org.apache.spark.serializer.KryoSerializer:性能好,兼容性差 org.apache.spark.serializer.JavaSerializer:性能一般,兼容性好

    来自:帮助中心

    查看更多 →

  • Spark作业相关问题

    Spark作业相关问题 使用咨询 作业开发 作业运维报错 运维指导

    来自:帮助中心

    查看更多 →

  • Spark性能优化

    Spark性能优化 概述 Spark是基于内存的分布式计算框架。在迭代计算的场景下,数据处理过程中的数据可以存储在内存中,提供了比MapReduce高10到100倍的计算能力。Spark可以使用HDFS作为底层存储,使用户能够快速地从MapReduce切换到Spark计算平台上去

    来自:帮助中心

    查看更多 →

  • Spark用户权限管理

    Spark用户权限管理 SparkSQL用户权限介绍 创建SparkSQL角色 配置Spark表、列和数据库的用户权限 配置SparkSQL业务用户权限 配置Spark Web UI ACL Spark客户端和服务端权限参数配置说明 父主题: 使用Spark/Spark2x

    来自:帮助中心

    查看更多 →

  • Spark shuffle异常处理

    Spark shuffle异常处理 问题 在部分场景Spark shuffle阶段会有如下异常 解决方法 JDBC应该: 登录 FusionInsight Manager管理界面,修改JD BCS erver的参数“spark.authenticate.enableSaslEncryp

    来自:帮助中心

    查看更多 →

  • Spark SQL join优化

    配置为-1时,将不进行广播。 参见https://spark.apache.org/docs/3.1.1/sql-programming-guide.html。 配置自动广播阈值的方法: 在Spark的配置文件“spark-defaults.conf”中,设置“spark.sql.autoBroadc

    来自:帮助中心

    查看更多 →

  • Spark2x

    Spark2x Spark2x jar包冲突列表 Jar包名称 描述 处理方案 spark-core_2.1.1-*.jar Spark任务的核心jar包。 Spark可以直接使用开源同版本的spark包运行样例代码,但是不同版本的spark-core包在使用的时候可能互相序列化ID不一样,建议使用集群自带jar包。

    来自:帮助中心

    查看更多 →

  • 配置Spark SQL防御

    )无需执行。 kinit Spark组件操作用户 例如: kinit sparkuser 根据提示输入用户密码,首次登录需重置密码。 执行如下命令进入spark-sql客户端: cd opt/client/Spark/spark/bin ./spark-sql 在客戶端下执行以下

    来自:帮助中心

    查看更多 →

  • 调测Spark应用

    调测Spark应用 配置Windows通过EIP访问集群Spark 在本地Windows环境中调测Spark应用 在Linux环境中调测Spark应用 父主题: Spark2x开发指南(普通模式)

    来自:帮助中心

    查看更多 →

  • Spark常用API介绍

    Spark常用API介绍 Spark Java API接口介绍 Spark scala API接口介绍 Spark Python API接口介绍 Spark REST API接口介绍 Spark client CLI介绍 Spark JDB CS erver接口介绍 父主题: Spark应用开发常见问题

    来自:帮助中心

    查看更多 →

共105条
看了本文的人还看了