数据湖探索 DLI

数据湖探索(Data Lake Insight,简称DLI)是完全兼容Apache Spark和Apache Flink生态, 实现批流一体的Serverless大数据计算分析服务。DLI支持多模引擎,企业仅需使用SQL或程序就可轻松完成异构数据源的批处理、流处理、内存计算、机器学习等,挖掘和探索数据价值

 
进入控制台立即购买帮助文档DLI开发者社区1对1咨询                
               

           

    DLI连接 更多内容
  • DLI连接

    DLI 连接 介绍 通过DLI连接,可以导入数据 数据湖探索 DLI服务 CDM 暂不支持从DLI服务导出数据连接样例 { "links": [ { "link-config-values": { "configs":

    来自:帮助中心

    查看更多 →

  • DLI连接

    DLI连接 介绍 通过DLI连接,可以导入数据 数据湖 探索DLI服务,CDM暂不支持从DLI服务导出数据连接样例 { "links": [ { "link-config-values": { "configs":

    来自:帮助中心

    查看更多 →

  • DLI连接参数说明

    DLI连接中使用AK/SK所在用户对dli-trans*桶的读、写、创建目录对象等权限,否则会导致迁移失败。dli-trans*内部临时桶的权限策略添加请参见新增dli-trans*内部临时桶授权策略。 表1 DLI连接参数 参数名 说明 取值样例 名称 连接的名称,根据连接的数

    来自:帮助中心

    查看更多 →

  • DLI连接参数说明

    DLI连接中使用AK/SK所在用户对dli-trans*桶的读、写、创建目录对象等权限,否则会导致迁移失败。dli-trans*内部临时桶的权限策略添加请参见新增dli-trans*内部临时桶授权策略。 表1 DLI连接参数 参数名 说明 取值样例 名称 连接的名称,根据连接的数

    来自:帮助中心

    查看更多 →

  • 新建DLI数据连接

    新建DLI数据连接 连接DLI前,需要满足以下条件: 已创建好DLI数据库和资源队列。 新建DLI数据连接 登录 DLV 管理控制台。 在“我的数据”页面,单击页面最上方的工作空间下拉列表并选择所需访问的工作空间,然后单击“新建数据连接”。 图1 新建连接 在“新建数据连接”窗口中,选择数据源类型“数据湖探索

    来自:帮助中心

    查看更多 →

  • DLI数据连接参数说明

    DLI数据连接参数说明 表1 DLI数据连接 参数 是否必选 说明 数据连接类型 是 DLI连接固定选择为数据湖探索DLI)。 数据连接名称 是 数据连接的名称,只能包含字母、数字、下划线和中划线,且长度不超过100个字符。 标签 否 标识数据连接的属性。设置标签后,便于统一管理。

    来自:帮助中心

    查看更多 →

  • 使用客户端工具连接DLI

    使用客户端工具连接DLI 使用JDBC提交SQL作业 使用Spark-submit提交Spark Jar作业 使用Livy提交Spark Jar作业

    来自:帮助中心

    查看更多 →

  • DLI

    DLI 基于数据湖探索(Data Lake Insight,简称DLI服务数据集。 前提条件 连接数据源已创建,如何创建请参见DLI数据源。 在DLI构建数据 登录DLI服务控制台。 参考创建并提交Spark SQL作业中操作,创建队列、数据库和表。 例如,创建了数据库tpch,且数据库中预置了所需的表。

    来自:帮助中心

    查看更多 →

  • 使用JDBC连接DLI并提交SQL作业

    使用JDBC连接DLI并提交SQL作业 操作场景 在Linux或Windows环境下您可以使用JDBC应用程序连接DLI服务端提交作业。 使用JDBC连接DLI提交的作业运行在Spark引擎上。 JDBC版本2.X版本功能重构后,仅支持从DLI作业桶读取查询结果,如需使用该特性需具备以下条件:

    来自:帮助中心

    查看更多 →

  • DLI SQL

    。 选择SQL语句时: DLI数据目录如果选择DLI默认的数据目录dli,表示为DLI数据库和数据表。 DLI数据目录如果选择DLI所绑定的LakeFormation已创建元数据catalog,表示为LakeFormation的数据库和数据表。 DLI环境变量 否 环境变量配置项需要以"hoodie

    来自:帮助中心

    查看更多 →

  • DLI Spark

    datasource.css DLI内部相关模块: sys.res.dli-v2 sys.res.dli sys.datasource.dli-inner-table 访问元数据 是 是否通过Spark作业访问元数据。具体请参考使用Spark作业访问DLI数据。 表2 高级参数 参数

    来自:帮助中心

    查看更多 →

  • 配置DLI源端参数

    配置DLI源端参数 作业中源连接DLI连接时,源端作业参数如表1所示。 表1 DLI作为源端时的作业参数 参数名 说明 取值样例 资源队列 选择目的表所属的资源队列。 DLI的default队列无法在迁移作业中使用,您需要在DLI中新建SQL队列。 cdm 数据库名称 写入数据的数据库名称。

    来自:帮助中心

    查看更多 →

  • 配置DLI源端参数

    配置DLI源端参数 作业中源连接DLI连接时,源端作业参数如表1所示。 表1 DLI作为源端时的作业参数 参数名 说明 取值样例 资源队列 选择目的表所属的资源队列。 DLI的default队列无法在迁移作业中使用,您需要在DLI中新建SQL队列。 cdm 数据库名称 写入数据的数据库名称。

    来自:帮助中心

    查看更多 →

  • DLI资源

    DLI资源 资源是服务中存在的对象。在DLI中,资源如下,您可以在创建自定义策略时,通过指定资源路径来选择特定资源。 表1 DLI的指定资源与对应路径 资源类型 资源名称 资源路径 queue DLI队列 queues.queuename database DLI数据库 databases

    来自:帮助中心

    查看更多 →

  • OBS数据迁移到DLI服务

    OBS数据迁移到DLI服务 操作场景 数据湖探索(Data Lake Insight,简称DLI)提供大数据查询服务,本章节介绍使用CDM将OBS的数据迁移到DLI,使用流程如下: 创建CDM集群 创建DLI连接 创建OBS连接 创建迁移作业 前提条件 已经开通了OBS和DLI,并且当前用户拥有OBS的读取权限。

    来自:帮助中心

    查看更多 →

  • OBS数据迁移到DLI服务

    OBS数据迁移到DLI服务 操作场景 数据湖探索(Data Lake Insight,简称DLI)提供大数据查询服务,本章节介绍使用CDM将OBS的数据迁移到DLI,使用流程如下: 创建CDM集群 创建DLI连接 创建OBS连接 创建迁移作业 前提条件 已经开通了OBS和DLI,并且当前用户拥有OBS的读取权限。

    来自:帮助中心

    查看更多 →

  • OBS数据迁移到DLI服务

    OBS数据迁移到DLI服务 操作场景 数据湖探索(Data Lake Insight,简称DLI)提供大数据查询服务,本章节介绍使用CDM将OBS的数据迁移到DLI,使用流程如下: 创建CDM集群 创建DLI连接 创建OBS连接 创建迁移作业 前提条件 已经开通了OBS和DLI,并且当前用户拥有OBS的读取权限。

    来自:帮助中心

    查看更多 →

  • 为什么DLI增强型跨源连接要创建对等连接?

    为什么DLI增强型跨源连接要创建对等连接DLI增强型跨源连接创建对等连接的主要原因是为了实现DLI与不同VPC中的数据源之间的网络连通。 当DLI需要访问外部数据源,而这些数据源位于不同的VPC中时,由于网络隔离,DLI默认无法直接读取这些数据源的数据。通过创建增强型跨源连接,可

    来自:帮助中心

    查看更多 →

  • DLI经典型跨源连接下线(EOL)公告

    如果您正在使用DLI经典型跨源连接的功能,请尽快更换使用增强型跨源连接。 否则使用经典型跨源连接操作过程中出现的错误,不再提供该功能的任何技术服务支持。 DLI经典型跨源连接停止服务后,可以使用哪个功能替换? 推荐使用增强型跨源连接DLI提供的增强型跨源连接功能,通过建立对

    来自:帮助中心

    查看更多 →

  • 转储至DLI

    单击“选择”,在“选择DLI数据库”窗口选择一个数据库。 此配置项仅支持选择,不可手动输入。 - DLI数据表 单击“选择”,在“选择DLI数据表”窗口选择一个数据表。仅支持数据位置为DLI类型的数据表,且用户需具有该表的插入权限。 此配置项仅支持选择,不可手动输入。 配置此项必须已配置“DLI 数据库”。

    来自:帮助中心

    查看更多 →

  • DLI请求条件

    务缩写,如dli)仅适用于对应服务的操作。运算符与条件键一起使用,构成完整的条件判断语句。 DLI通过IAM预置了一组条件键。下表显示了适用于DLI服务特定的条件键。 表1 DLI请求条件 DLI条件键 类型 运算符 描述 g:CurrentTime 全局级 Date and time

    来自:帮助中心

    查看更多 →

共105条
看了本文的人还看了