数据湖探索 DLI

数据湖探索(Data Lake Insight,简称DLI)是完全兼容Apache Spark和Apache Flink生态, 实现批流一体的Serverless大数据计算分析服务。DLI支持多模引擎,企业仅需使用SQL或程序就可轻松完成异构数据源的批处理、流处理、内存计算、机器学习等,挖掘和探索数据价值

按需付费,CU单价 ¥0.35/小时

进入控制台立即购买帮助文档DLI开发者社区1对1咨询                
               

           

    uquery 更多内容
  • 使用CDM迁移数据到DLI,迁移作业日志上报UQUERY_CONNECTOR_0001:Invoke DLI service api failed错误

    SqoopException: UQUERY_CONNECTOR_0001:Invoke DLI service api failed, failed reason is %s. at org.apache.sqoop.connector.uquery.intf.impl.UQueryWriter

    来自:帮助中心

    查看更多 →

  • SQL作业运维类

    OBSIOException错误 使用 CDM 迁移数据到DLI,迁移作业日志上报UQUERY_CONNECTOR_0001:Invoke DLI service api failed错误 SQL作业访问报错:File not Found SQL作业访问报错:DLI.0003: AccessControlException

    来自:帮助中心

    查看更多 →

  • 创建DLI表关联OpenTSDB

    源连接。管理控制台操作请参考增强型跨源连接。 语法格式 1 2 3 4 5 CREATE TABLE [IF NOT EXISTS] UQUERY_OPENTSDB_TABLE_NAME USING OPENTSDB OPTIONS ( 'host' = 'xx;xx',

    来自:帮助中心

    查看更多 →

  • 创建DLI表关联OpenTSDB

    源连接。管理控制台操作请参考增强型跨源连接。 语法格式 1 2 3 4 5 CREATE TABLE [IF NOT EXISTS] UQUERY_OPENTSDB_TABLE_NAME USING OPENTSDB OPTIONS ( 'host' = 'xx;xx',

    来自:帮助中心

    查看更多 →

  • 修订记录

    修改了如下内容: 开通DIS服务 DIS服务端错误码 2018-05-11 第四次正式发布。 修改了如下内容: 开通DIS通道 DIS服务端错误码 Uquery更名为 数据湖探索 (DLI,Data Lake Insight)。 2018-02-08 第三次正式发布。 新增了如下内容: 创建通道 删除通道

    来自:帮助中心

    查看更多 →

  • DLI内置依赖包

    hadoop-mapreduce-client-common-3.1.1-h0.cbu.mrs.313.r9.jar kerby-util-2.0.2.jar spark-uquery_2.12-3.1.1-2.3.7.dli-SNAPSHOT.jar hadoop-mapreduce-client-core-3.1

    来自:帮助中心

    查看更多 →

  • DLI资源

    DLI资源 资源是服务中存在的对象。在DLI中,资源如下,您可以在创建自定义策略时,通过指定资源路径来选择特定资源。 表1 DLI的指定资源与对应路径 资源类型 资源名称 资源路径 queue DLI队列 queues.queuename database DLI数据库 databases

    来自:帮助中心

    查看更多 →

  • 转储至DLI

    此配置项仅支持选择,不可手动输入。 - DLI数据表 单击“选择”,在“选择DLI数据表”窗口选择一个数据表。仅支持数据位置为DLI类型的数据表,且用户需具有该表的插入权限。 此配置项仅支持选择,不可手动输入。 配置此项必须已配置“DLI 数据库”。 偏移量 最新:最大偏移量,即获取最新的有效数据。

    来自:帮助中心

    查看更多 →

  • DLI请求条件

    务缩写,如dli)仅适用于对应服务的操作。运算符与条件键一起使用,构成完整的条件判断语句。 DLI通过IAM预置了一组条件键。下表显示了适用于DLI服务特定的条件键。 表1 DLI请求条件 DLI条件键 类型 运算符 描述 g:CurrentTime 全局级 Date and time

    来自:帮助中心

    查看更多 →

  • 快速配置CloudLink Box/CloudLink Bar

    快速配置CloudLink Box/CloudLink Bar 通过IWB快速配置 通过Web界面快速配置 通过Touch快速配置

    来自:帮助中心

    查看更多 →

  • 快速配置CloudLink Box/CloudLink Bar

    快速配置CloudLink Box/CloudLink Bar 通过Web界面快速配置 通过Touch快速配置 父主题: 管理专业会议终端

    来自:帮助中心

    查看更多 →

  • 添加DLI转储任务

    OBS:转储到OBS MRS :转储到MRS DLI:转储到DLI CLOUDTABLE:转储到CloudTable DWS:转储到DWS 缺省值:NOWHERE 枚举值: DLI dli_destination_descriptor 否 DliDestinationDescriptorRequest

    来自:帮助中心

    查看更多 →

  • 配置DLI源端参数

    配置DLI源端参数 作业中源连接为DLI连接时,源端作业参数如表1所示。 表1 DLI作为源端时的作业参数 参数名 说明 取值样例 资源队列 选择目的表所属的资源队列。 DLI的default队列无法在迁移作业中使用,您需要在DLI中新建SQL队列。 cdm 数据库名称 写入数据的数据库名称。

    来自:帮助中心

    查看更多 →

  • DLI Hudi开发规范

    DLI Hudi开发规范 Hudi开发规范概述 Hudi数据表设计规范 Hudi数据表管理操作规范 Spark on Hudi开发规范 Bucket调优示例

    来自:帮助中心

    查看更多 →

  • DLI Hudi元数据

    在“数据库”选项中选择要对接的DLI元数据中的数据库,即可对接到DLI元数据。 DLI通用队列对接DLI元数据方法: 请参考使用Spark作业访问DLI元数据。 DLI SQL队列对接Lakeformation元数据方法: 参考DLI对接LakeFormation。 DLI通用队列对接Lakeformation元数据方法:

    来自:帮助中心

    查看更多 →

  • DLI Delta元数据

    相关操作 DLI SQL队列对接DLI元数据方法: 在DLI管理控制台的SQL编辑器页面的“数据目录”中选择“dli”。 在“数据库”选项中选择要对接的DLI元数据中的数据库,即可对接到DLI元数据。 DLI通用队列对接DLI元数据方法: 请参考使用Spark作业访问DLI元数据。

    来自:帮助中心

    查看更多 →

  • 配置DLI源端参数

    配置DLI源端参数 作业中源连接为DLI连接时,源端作业参数如表1所示。 表1 DLI作为源端时的作业参数 参数名 说明 取值样例 资源队列 选择目的表所属的资源队列。 DLI的default队列无法在迁移作业中使用,您需要在DLI中新建SQL队列。 cdm 数据库名称 写入数据的数据库名称。

    来自:帮助中心

    查看更多 →

  • 配置DLI作业桶

    配置DLI作业桶 使用DLI服务前需配置DLI作业桶,该桶用于存储DLI作业运行过程中产生的临时数据,例如:作业日志、作业结果。 本节操作指导您在DLI管理控制台的“全局配置 > 工程配置”页面配置DLI作业桶。 操作前准备 配置前,请先购买OBS桶或并行文件系统。 大数据场景推

    来自:帮助中心

    查看更多 →

  • 日志转储至DLI

    选择已创建的日志流。 说明: 已配置过DLI集群转储的日志流不能重复配置。 - DLI-数据库 需要转储的目标DLI数据库名称。更多信息请参见DLI库表管理。 test DLI-数据表 需要转储的目标DLI数据库表名称。更多信息请参见DLI库表管理。 - 表普通列映射 将内置字段

    来自:帮助中心

    查看更多 →

  • 新建DLI数据连接

    选择可用的DLI资源队列。DLI预置的资源队列“default”,仅用于客户体验。 委托授权 首次创建DLI的数据连接时,需要您同意访问DLI 数据湖 探索)委托授权。授权成功后,再次创建DLI的数据连接时,将不再提示您委托授权。 填写完数据源信息后,单击“确定”即可完成DLI数据连接的添加。

    来自:帮助中心

    查看更多 →

  • 目的端为DLI

    toJobConfig.queue 是 String 写入数据的资源队列。 toJobConfig.database 是 String 写入数据到数据湖探索DLI)的哪个数据库。 toJobConfig.table 是 String 写入数据的表名。 toJobConfig.columnList

    来自:帮助中心

    查看更多 →

共105条
看了本文的人还看了