数据湖探索 DLI

数据湖探索(Data Lake Insight,简称DLI)是完全兼容Apache Spark和Apache Flink生态, 实现批流一体的Serverless大数据计算分析服务。DLI支持多模引擎,企业仅需使用SQL或程序就可轻松完成异构数据源的批处理、流处理、内存计算、机器学习等,挖掘和探索数据价值

 
进入控制台立即购买帮助文档DLI开发者社区1对1咨询                
               

           

    flink规则引擎 更多内容
  • 备份Flink元数据

    备份Flink元数据 操作场景 为了确保Flink集群中的元数据安全,或者系统管理员需要对Flink进行重大操作(如升级或迁移等)时,需要对Flink集群的元数据进行备份,从而保证系统在出现异常或未达到预期结果时可以及时进行数据恢复,将对业务的影响降到最低。 系统管理员可以通过 FusionInsight

    来自:帮助中心

    查看更多 →

  • 恢复Flink元数据

    Manager创建恢复Flink任务。只支持创建任务手动恢复数据。 只支持进行数据备份时的系统版本与当前系统版本一致时的数据恢复。 当业务正常时需要恢复Flink元数据,建议手动备份最新Flink元数据后,再执行恢复Flink元数据操作。否则会丢失从备份时刻到恢复时刻之间的Flink元数据。

    来自:帮助中心

    查看更多 →

  • Flink应用开发简介

    程。 当前 MRS 提供以下Flink相关样例工程,安全模式路径为“flink-examples/flink-examples-security”,普通模式路径为“flink-examples/flink-examples-normal”: 表2 Flink相关样例工程 样例工程 描述

    来自:帮助中心

    查看更多 →

  • 调测Flink应用

    调测Flink应用 编译并调测Flink应用 查看Flink应用调测结果 调测Flink SpringBoot样例程序 父主题: Flink开发指南(普通模式)

    来自:帮助中心

    查看更多 →

  • Flink Savepoints CLI介绍

    Flink Savepoints CLI介绍 概述 Savepoints在持久化存储中保存某个checkpoint,以便用户可以暂停自己的应用进行升级,并将状态设置为savepoint的状态,并继续运行。该机制利用了Flink的checkpoint机制创建流应用的快照,并将快照的

    来自:帮助中心

    查看更多 →

  • 准备Flink安全认证

    该方式是YARN内部的认证方式,不需要用户配置。 当前一个Flink集群只支持一个用户,一个用户可以创建多个Flink集群。 加密传输 图2 Flink系统加密传输方式 Flink整个系统存在三种加密传输方式: 使用Yarn内部的加密传输方式:Flink yarn client与Yarn Resource

    来自:帮助中心

    查看更多 →

  • Flink常用API介绍

    Flink常用API介绍 Flink Java API接口介绍 Flink Scala API接口介绍 Flink REST API接口介绍 Flink Savepoints CLI介绍 Flink Client CLI介绍 父主题: Flink应用开发常见问题

    来自:帮助中心

    查看更多 →

  • 快速开发Flink应用

    /opt/hadoopclient/Flink/flink/conf/ mkdir ssl mv flink.keystore ssl/ mv flink.truststore ssl/ vi /opt/hadoopclient/Flink/flink/conf/flink-conf.yaml 修改如下两个参数的路径详细为相对地址路径。

    来自:帮助中心

    查看更多 →

  • Flink应用开发简介

    程。 当前MRS提供以下Flink相关样例工程,安全模式路径为“flink-examples/flink-examples-security”,普通模式路径为“flink-examples/flink-examples-normal”: 表2 Flink相关样例工程 样例工程 描述

    来自:帮助中心

    查看更多 →

  • 调测Flink应用

    调测Flink应用 编译并调测Flink应用 查看Flink应用调测结果 调测Flink SpringBoot样例程序 父主题: Flink开发指南(安全模式)

    来自:帮助中心

    查看更多 →

  • Flink常用API介绍

    Flink常用API介绍 Flink Java API接口介绍 Flink Scala API接口介绍 Flink REST API接口介绍 Flink Savepoints CLI介绍 Flink Client CLI介绍 父主题: Flink应用开发常见问题

    来自:帮助中心

    查看更多 →

  • 基础指标:Flink指标

    基础指标:Flink指标 介绍通过Flink服务上报到AOM的指标的类别、名称、含义等信息。 表1 Flink服务监控指标 分类 指标 指标含义 单位 CPU flink_jobmanager_Status_JVM_CPU_Load JobManager中JVM的CPU负载。 无

    来自:帮助中心

    查看更多 →

  • 添加Flink作业标签

    添加Flink作业标签 标签是用户自定义的、用于标识云资源的键值对,它可以帮助用户对云资源进行分类和搜索。标签由标签“键”和标签“值”组成。 DLI 支持对Flink作业添加标签。如果想对Flink作业添加如项目名称、业务类别、背景信息等相关信息的标识,用户可以通过添加标签来实现。

    来自:帮助中心

    查看更多 →

  • 管理Flink作业模板

    SQL样例模板 Flink OpenSource SQL样例模板 自定义模板 新建模板 基于模板新建作业 修改模板 删除模板 Flink SQL样例模板 Flink SQL样例模板列表显示已有的Flink SQL样例作业模板,Flink SQL样例模板列表参数说明如表 1所示。 已有样例模板的具体场景以控制台为准。

    来自:帮助中心

    查看更多 →

  • Flink常用配置参数

    Flink常用配置参数 配置文件说明 Flink所有的配置参数都可以在客户端侧进行配置,建议用户直接修改客户端的“flink-conf.yaml”配置文件进行配置,如果通过Manager界面修改Flink服务参数,配置完成之后需要重新下载安装客户端: 配置文件路径:客户端安装路径

    来自:帮助中心

    查看更多 →

  • Flink用户权限管理

    Flink用户权限管理 Flink安全认证机制说明 Flink用户权限说明 创建FlinkServer权限角色 配置Flink对接Kafka安全认证 配置Flink认证和加密 父主题: 使用Flink

    来自:帮助中心

    查看更多 →

  • Flink作业引擎概述

    Flink作业引擎概述 Flink WebUI提供基于Web的可视化开发平台,用户只需要编写SQL即可开发作业,极大降低作业开发门槛。同时通过作业平台能力开放,支持业务人员自行编写SQL开发作业来快速应对需求,大大减少Flink作业开发工作量。 Flink WebUI特点 Flink

    来自:帮助中心

    查看更多 →

  • Flink用户权限说明

    Flink用户权限说明 访问并使用Flink WebUI进行业务操作需为用户赋予FlinkServer相关权限,Manager的admin用户没有FlinkServer的业务操作权限。 FlinkServer中应用(租户)是最大管理范围,包含集群连接管理、数据连接管理、应用管理、流表和作业管理等。

    来自:帮助中心

    查看更多 →

  • Flink SQL语法增强

    Flink SQL语法增强 本章节适用于MRS 3.3.0及以后版本。 FlinkSQL DISTRIBUTEBY FlinkSQL新增DISTRIBUTEBY特性,根据指定的字段进行分区,支持单字段及多字段,解决数据仅需要分区的场景。示例如下: SELECT /*+ DISTRIBUTEBY('id')

    来自:帮助中心

    查看更多 →

  • 在Flink WebUI和Linux中调测Flink应用

    。 场景二:使用Flink客户端在Linux环境下提交Flink作业 将1生成的Jar包放入Linux环境的Flink运行环境下(即Flink客户端),如“/opt/client”。 在Linux环境中运行Flink应用程序,需要先启动Flink集群。在Flink客户端下执行yarn

    来自:帮助中心

    查看更多 →

  • DIS Flink Connector概述

    DIS Flink Connector概述 DIS Flink Connector是 数据接入服务 (DIS)提供的一个sdk。 DIS Flink Connector支持将DIS作为数据源创建Stream对接Flink。 父主题: 使用DIS Flink Connector上传与下载数据

    来自:帮助中心

    查看更多 →

共105条
看了本文的人还看了