数据湖探索 DLI

数据湖探索(Data Lake Insight,简称DLI)是完全兼容Apache Spark和Apache Flink生态, 实现批流一体的Serverless大数据计算分析服务。DLI支持多模引擎,企业仅需使用SQL或程序就可轻松完成异构数据源的批处理、流处理、内存计算、机器学习等,挖掘和探索数据价值

 
进入控制台立即购买帮助文档DLI开发者社区1对1咨询                
               

           

    spark application manager 更多内容
  • 导入并配置Oozie样例工程

    选择运行的样例工程: OozieMapReduceExcample样例工程,执行5。 OozieSparkHBaseExample和OozieSparkHiveExample样例工程,请参考使用Oozie调度Spark2x访问HBase以及Hive。 使用客户端上传Oozie的example文件到HDFS。

    来自:帮助中心

    查看更多 →

  • Spark2x日志介绍

    。 日志大小和压缩文件保留个数可以在 FusionInsight Manager界面中配置。 表1 Spark2x日志列表 日志类型 日志文件名 描述 SparkResource2x日志 spark.log Spark2x服务初始化日志。 prestart.log prestart脚本日志。

    来自:帮助中心

    查看更多 →

  • 准备Spark应用开发用户

    准备Spark应用开发用户 前提条件 MRS 服务集群开启了Kerberos认证,没有开启Kerberos认证的集群忽略该步骤。 操作场景 开发用户用于运行样例工程。用户需要有HDFS、YARN和Hive权限,才能运行Spark样例工程。 操作步骤 登录MRS Manager,请参考登录MRS

    来自:帮助中心

    查看更多 →

  • Manager应用开发简介

    Manager应用开发简介 本文档供需要以HTTP基本认证(Basic Authentication)方式访问FusionInsight Manager REST API的用户使用。 REST API REST API是访问Web 服务器 的一套API,REST API接口的执行方式

    来自:帮助中心

    查看更多 →

  • Manager应用开发流程

    Manager应用开发流程 本文档主要基于Java API对Manager进行应用开发。 开发流程中各阶段的说明如图1和表1所示。 图1 Manager应用程序开发流程 表1 Manager应用开发的流程说明 阶段 说明 参考文档 了解基本概念 在开始开发应用前,需要了解基本认证的基本概念,了解场景需求,设计表等。

    来自:帮助中心

    查看更多 →

  • 调测Manager应用

    调测Manager应用 在本地开发环境中调测Manager应用 查看Manager应用调测结果 父主题: Manager管理开发指南

    来自:帮助中心

    查看更多 →

  • 重置Kafka Manager密码

    重置Kafka Manager密码 如果您忘记了创建实例时设置的Kafka Manager密码,通过重置Manager密码功能,重新设置一个新的密码,可使用新密码登录Kafka Manager。 2023年5月17日及以后创建的实例不提供重置Kafka Manager密码功能。 前提条件

    来自:帮助中心

    查看更多 →

  • Manager基本原理

    Manager基本原理 Manager功能 Manager是MRS的运维管理系统,为部署在集群内的服务提供统一的集群管理能力。 Manager支持大规模集群的性能监控、告警、用户管理、权限管理、审计、服务管理、健康检查、日志采集等功能。 Manager结构 Manager的整体逻辑架构如图1所示。

    来自:帮助中心

    查看更多 →

  • Manager页面加载卡顿

    Manager页面加载卡顿 用户问题 MRS集群Manager页面加载卡顿。 问题现象 登录MRS集群的Manager页面,单击一个按钮需要等一分钟后才能加载到数据,部分按钮单击后卡顿无法访问。 原因分析 查看“/var/log/Bigdata/omm/oms/pms/scriptlog/pms_script

    来自:帮助中心

    查看更多 →

  • SparkStreaming消费Kafka消息失败,提示“Error getting partition metadata”

    org.apache.spark.deploy.SparkSubmit$.org$apache$spark$deploy$SparkSubmit$$runMain(SparkSubmit.scala:762) org.apache.spark.deploy.SparkSubmit$.d

    来自:帮助中心

    查看更多 →

  • 查看Spark应用调测结果

    查看Spark应用调测结果 操作场景 Spark应用程序运行完成后,您可以查看运行结果数据,也可以通过Spark WebUI查看应用程序运行情况。 操作步骤 查看Spark应用运行结果数据。 结果数据存储路径和格式已经与Spark应用程序指定,您可以通过指定文件中获取到运行结果数据。

    来自:帮助中心

    查看更多 →

  • MRS 2.1.0.11补丁说明

    1.0.2 修复问题列表: MRS Manager nodeagent重启后不显示监控信息 长时间提交作业,manager executor进程会内存溢出 支持提交作业,manager executor可配置并发度功能 MRS manager管理面看不到Kafka新建的topic

    来自:帮助中心

    查看更多 →

  • MRS 2.1.0.3补丁说明

    修复问题列表: MRS Manager Manager executor高并发提交作业问题 MRS大数据组件 hive on tez插入数据失败问题 MRS 2.1.0.2 修复问题列表: MRS Manager nodeagent重启后不显示监控信息 长时间提交作业,manager executor进程会内存溢出

    来自:帮助中心

    查看更多 →

  • 使用Oozie调度Spark2x访问HBase以及Hive

    conf Spark客户端目录(如“/opt/client/Spark2x/spark/jars”) jar包 Oozie的share HDFS的“/user/oozie/share/lib/spark2x/”目录 将待使用样例工程的项目打包成jar包,比如OoizeSparkHBase-1

    来自:帮助中心

    查看更多 →

  • MRS 2.1.0.8补丁说明

    1.0.2 修复问题列表: MRS Manager nodeagent重启后不显示监控信息 长时间提交作业,manager executor进程会内存溢出 支持提交作业,manager executor可配置并发度功能 MRS manager管理面看不到Kafka新建的topic

    来自:帮助中心

    查看更多 →

  • MRS 2.1.0.6补丁说明

    1.0.2 修复问题列表: MRS Manager nodeagent重启后不显示监控信息 长时间提交作业,manager executor进程会内存溢出 支持提交作业,manager executor可配置并发度功能 MRS manager管理面看不到Kafka新建的topic

    来自:帮助中心

    查看更多 →

  • MRS 1.8.10.6补丁说明

    修复问题列表: MRS Manager MRS Manager支持包周期集群指定节点缩容 MRS 1.8.10.5 修复问题列表: MRS Manager 优化补丁机制 MRS大数据组件 解决Spark JobHistory内存泄露问题 Hadoop/Hive/Spark支持OBS FileSystem

    来自:帮助中心

    查看更多 →

  • 访问Hue WebUI界面

    adoop”、“supergroup”组和“manager_view”角色,主组为“hive”。 该用户用于登录Manager。 操作步骤 登录服务页面: 登录FusionInsight Manager,具体请参见访问集群Manager,选择“集群 > 服务 > Hue”。 在“Hue

    来自:帮助中心

    查看更多 →

  • 配置SparkSQL业务用户权限

    配置SparkSQL业务用户权限 操作场景 SparkSQL业务还可能需要关联使用其他组件,例如spark on HBase需要HBase权限。以下介绍SparkSQL关联HBase服务的操作。 前提条件 完成Spark客户端的安装,例如安装目录为“/opt/client”。 获

    来自:帮助中心

    查看更多 →

  • 配置SparkSQL业务用户权限

    配置SparkSQL业务用户权限 操作场景 SparkSQL业务还可能需要关联使用其他组件,例如Spark on HBase需要HBase权限。以下介绍SparkSQL关联HBase服务的操作。 前提条件 完成Spark客户端的安装,例如安装目录为“/opt/client”。 获

    来自:帮助中心

    查看更多 →

  • 导入并配置Oozie样例工程

    选择运行的样例工程: OozieMapReduceExcample样例工程,执行6。 OozieSparkHBaseExample和OozieSparkHiveExample样例工程,请参考使用Oozie调度Spark2x访问HBase以及Hive。 使用客户端上传Oozie的examples文件夹到HDFS。

    来自:帮助中心

    查看更多 →

共105条
看了本文的人还看了