None 服务介绍 数据湖探索 DLI 介绍什么是 数据湖 探索 02:47 数据湖探索DLI产品介绍 功能介绍 数据湖探索 DLI 熟悉数据湖探索控制台 03:10 数据湖探索控制台介绍 操作指导 数据湖探索 DLI 介绍怎样创建提交SQL作业 07:36 数据湖探索SQL作业入门指导

查看更多 →

list - - dli:catalog:bind 授予数据目录绑定权限。 write - - dli:catalog:get 授予数据目录详情查询权限。 read - - dli:queue:list 授予队列列表查询权限。 list queue * - - g:RequestTag/<tag-key>

查看更多 →

登录用户的权限进行部署。 第一次使用数据湖数据湖 DLI时需要登录DLI控制台，如果使用IAM子账户部署该解决方案，请参考部署指南确保该账号已经有DLI的相关授权，第一次使用DLI时候也需要用子账号登录一次控制台。具体请参考数据湖探索 DLI帮助文档。

查看更多 →

轻松搭建电商数据分析处理平台。 约束与限制 部署该解决方案之前，您需 注册华为账号 并开通华为云，完成实名认证，且账号不能处于欠费或冻结状态。 第一次使用数据湖数据湖 DLI时需要登录DLI控制台，如果使用IAM子账户部署该解决方案，请参考部署指南确保该账号已经有DLI的相关授权，第

查看更多 →

。DLI在开源Flink基础上进行了特性增强和安全增强，提供了数据处理所必须的Stream SQL特性。 HetuEngine是提供交互式查询分析能力的开源分布式SQL查询引擎，具备高性能、低延迟的查询处理能力，支持在大规模数据存储中进行数据查询和分析。 DLI服务架构：Serverless

查看更多 →

数据湖分析 多源数据目录 父主题： Doris应用开发指导

查看更多 →

该Catalog创建数据库“default”（固定名称，不可自定义），数据库内包含两个数据表“table_A”、“table_B”，并进行授权。 创建存储元数据的OBS路径 登录管理控制台。 在页面左上角单击，选择“存储 > 对象存储服务”，进入对象存储服务页面。 选择“并行文件系统

查看更多 →

DLI 基于数据湖探索（Data Lake Insight，简称DLI）服务的数据集。 前提条件 连接的数据源已创建，如何创建请参见DLI数据源。 在DLI构建数据 登录DLI服务控制台。 参考创建并提交Spark SQL作业中操作，创建队列、数据库和表。 例如，创建了数据库tpch，且数据库中预置了所需的表。

查看更多 →

图解数据湖探索

查看更多 →

资源包仅提供托管服务，不提供下载功能。 如何使用API通过公网访问DLI？ DLI 域名 公网访问请使用域名访问：dli.{regionid}.myhuaweicloud.com 数据湖探索的终端节点请参考终端节点。 数据湖探索API请参考：数据湖探索API。 DLI自定义的Spark3

查看更多 →

auth.user”以及“es.net.http.auth.pass”为创建集群时设置的账号和密码。 插入数据 1 sparkSession.sql("insert into css_table values(18, 'John'),(28, 'Bob')"); 查询数据 1 sparkSession

查看更多 →

。 选择SQL语句时： DLI数据目录如果选择DLI默认的数据目录dli，表示为DLI的数据库和数据表。 DLI数据目录如果选择DLI所绑定的LakeFormation已创建元数据catalog，表示为LakeFormation的数据库和数据表。 DLI环境变量 否 环境变量配置项需要以"hoodie

查看更多 →

datasource.css DLI内部相关模块： sys.res.dli-v2 sys.res.dli sys.datasource.dli-inner-table 访问元数据 是 是否通过Spark作业访问元数据。具体请参考使用Spark作业访问DLI元数据。 表2 高级参数 参数

查看更多 →

查看监控指标 06 开发 您可以使用客户端或第三方BI工具对接DLI，以及通过DLI跨源连接进行数据分析。 客户端工具操作指导 使用Spark-submit提交作业 使用UDF操作指导 第三方BI工具对接DLI 永洪BI对接DLI 跨源数据分析操作指导 概述 对接HBase 对接OpenTSDB

查看更多 →

选择可用的DLI资源队列。DLI预置的资源队列“default”，仅用于客户体验。 委托授权 首次创建DLI的数据连接时，需要您同意访问DLI（数据湖探索）委托授权。授权成功后，再次创建DLI的数据连接时，将不再提示您委托授权。 填写完数据源信息后，单击“确定”即可完成DLI数据连接的添加。

查看更多 →

将写好的代码文件生成jar包，上传至DLI中。 控制台操作请参考《数据湖探索用户指南》。API操作请参考《数据湖探索API参考》>《上传资源包》。 在Spark作业编辑器中选择对应的Module模块并执行Spark作业。 控制台操作请参考《数据湖探索用户指南》。API操作请参考《数据湖探索API参考》>《创建批处理作业》。

查看更多 →

数据库、数据库模式（仅DWS需要）、数据表等新建完成后，如果涉及原始数据表等，您还需要将两套数据湖服务之间的数据进行同步： 数据湖中已有数据：通过 CDM 或DRS等数据迁移服务，在数据湖间批量同步数据。 数据源待迁移数据：通过对等的CDM或DRS等数据迁移服务作业进行同步，保证生产环境和开发环境的数据湖服务数据一致。

查看更多 →

DLI如何访问OBS桶中的数据 创建OBS表。 具体语法请参考《数据湖探索SQL语法参考》。 添加分区。 具体语法请参考《数据湖探索SQL语法参考》。 往分区导入OBS桶中的数据。 具体语法请参考《数据湖探索SQL语法参考》。 查询数据。 具体语法请参考《数据湖探索SQL语法参考》。

查看更多 →

Kafka实时入库到 GaussDB (DWS) 通过数据湖探索服务 DLI Flink作业将Kafka的消费数据实时同步至GaussDB(DWS)数据仓库，实现Kafka实时入库到GaussDB(DWS)的过程。 了解DLI请参见数据湖产品介绍 。 了解Kafka请参见分布式消息服务Kafka产品介绍。 图1

查看更多 →

情讲解可参考表1。 插入数据 1 sparkSession.sql("insert into opentsdb_new_test values('Penglai', 'abc', '2021-06-30 18:00:00', 30.0)"); 查询数据 1 sparkSession

查看更多 →

控制台操作请参考《数据湖探索用户指南》。API操作请参考《数据湖探索API参考》>《上传资源包》。 在Spark作业编辑器中选择对应的Module模块并执行Spark作业。 控制台操作请参考《数据湖探索用户指南》。API操作请参考《数据湖探索API参考》>《创建批处理作业》。 创建

查看更多 →