Kafka实时入库到 GaussDB (DWS) 通过 数据湖探索 服务 DLI Flink作业将Kafka的消费数据实时同步至GaussDB(DWS) 数据仓库 ，实现Kafka实时入库到GaussDB(DWS)的过程。 了解DLI请参见 数据湖 产品介绍 。 了解Kafka请参见分布式消息服务Kafka产品介绍。

查看更多 →

供海量、安全、高可靠、低成本的数据存储能力，使用时无需考虑容量限制，并且提供多种存储类型供选择，满足客户各类业务场景诉求。 数据湖探索 DLI：数据湖探索（Data Lake Insight，简称DLI）是完全兼容Apache Spark、Apache Flink、openLoo

查看更多 →

生编码格式错误。 操作结果； 提交Spark作业 将写好的python代码文件上传至DLI中。 控制台操作请参考《数据湖探索用户指南》。API操作请参考《数据湖探索API参考》>《上传资源包》。 如果 MRS 集群开启了Kerberos认证，创建Spark作业时需要将krb5.conf和user

查看更多 →

DLV 的数据连接支持哪些类型？ DLV的数据连接支持以下几种： 数据库类：包括数据仓库服务（DWS）、数据湖探索服务（DLI）、 MapReduce服务 （MRS）的Hive、MapReduce服务（MRS）的SparkSQL、云数据库（RDS）MySQL、云数据库（RDS）PostgreSQL、云数据库（RDS）SQL

查看更多 →

将几万个作业根据不同的类型分组，不同类型的作业通过不同的队列运行。 创建IAM子用户 或者创建IAM子用户，将不同类型的作业通过不同的用户执行。 具体请参考《数据湖探索用户指南》。 此外DLI还提供了作业管理功能，包括编辑、启动、停止、删除作业，以及导出和导入作业。您可以利用这些功能来定期维护和管理作业。

查看更多 →

方案概述 应用场景 此解决方案通过华为云 数据治理中心 DataArts Studio 、数据湖探索服务 DLI、 云数据迁移 CDM 、云数据库 RDS等服务的组合，可以快速构建一个轻量化离线数据分析平台，可一站式完成业务数据采集、分析，指标查询、做展示等工作，帮助企业实现业务数据洞察。

查看更多 →

如何建立增强型跨源连接，请参考《数据湖探索用户指南》中增强型跨源连接章节。 如何设置安全组规则，请参见《虚拟私有云用户指南》中“安全组”章节。 若使用MRS HBase，请在增强型跨源的主机信息中添加MRS集群所有节点的主机ip信息。 详细操作请参考《数据湖探索用户指南》中的“修改主机信息”章节描述。

查看更多 →

如何在DLI中运行复杂PySpark程序？ 数据湖探索（DLI）服务对于PySpark是原生支持的。 对于数据分析来说Python是很自然的选择，而在大数据分析中PySpark无疑是不二选择。对于JVM语言系的程序，通常会把程序打成Jar包并依赖其他一些第三方的Jar，同样的Py

查看更多 →

load().show() 返回结果： 提交Spark作业 将写好的代码生成jar包，上传至DLI中。 控制台操作请参考《数据湖探索用户指南》。API操作请参考《数据湖探索API参考》>《上传资源包》。 如果MRS集群开启了Kerberos认证，创建Spark作业时需要将krb5.conf和user

查看更多 →

价格计算器”购买并开通该服务。 已开通Kafka服务。未开通则访问Kafka服务，单击“立即购买”后开通该服务。 已开通数据湖探索服务。未开通则访问数据湖探索服务，单击“立即购买”后开通该服务。 已开通云数据仓库GaussDB(DWS)服务。未开通则访问云数据仓库GaussDB(

查看更多 →

功能总览 功能总览 全部 数据湖探索 权限管理 弹性资源池 DLI元数据 DLI SQL作业 DLI Spark作业 DLI Flink作业 跨源连接 DLI自定义委托 自定义镜像 OBS 2.0支持 数据湖探索 数据湖探索（Data Lake Insight，以下简称DLI）是完全兼容Apache

查看更多 →

DLI队列的引擎版本不同，校验的权限范围不同： HetuEngine不支持通过IAM用户授权，需使用DLI资源授权。 解决方案 请参考《数据湖探索用户指南》中的数据库权限管理章节授予用户创建表的权限。 父主题： DLI权限管理类

查看更多 →

ger权限模型的接口，具备良好的生态扩展性。 建议搭配服务 MapReduce服务（MRS） 数据仓库服务 GaussDB（DWS） 数据湖探索（DLI） 支持情况请咨询对应服务。 父主题： 应用场景

查看更多 →

快速卸载 卸载解决方案前，请先确保OBS桶中无数据，否则解决方案将卸载失败。 删除DLI数据库。登录数据湖探索 DLI 库表管理控制台，依次单击“更多”“删除数据库”在弹出的确认窗口中，单击“是”。 图1 删除DLI数据库 图2 确认删除 解决方案部署成功后，登录 资源编排 服务 R

查看更多 →

DataArtsStudio https://support.huaweicloud.com/dataartsstudio/index.html 数据湖探索 DLI https://support.huaweicloud.com/dli/index.html 数据仓库服务DWS https://support

查看更多 →

Service，简称OBS）、MapReduce服务（MRS）集群、数据仓库服务（Data Warehouse Service，简称DWS）或数据湖探索（Data Lake Insight，简称DLI）中，需要通过创建IAM委托授权DIS服务去访问用户的OBS、MRS、DWS或DLI资源。

查看更多 →

Service，简称OBS）、MapReduce服务（MRS）集群、数据仓库服务（Data Warehouse Service，简称DWS）或数据湖探索（Data Lake Insight，简称DLI）中，需要通过创建IAM委托授权DIS服务去访问用户的OBS、MRS、DWS或DLI资源。

查看更多 →

主机信息”，在弹出的对话框中，填写主机信息。 格式：“IP 主机名/ 域名 ”，多条信息之间以换行分隔。 MRS主机信息获取，详细请参考《数据湖探索用户指南》中的“修改主机信息”章节描述。 父主题： 增强型跨源连接类

查看更多 →

式更加优惠。 自建队列购买方式如下： 购买队列请参考创建队列。 弹性资源池购买方式如下： 具体弹性资源池的购买和添加队列操作可以参考《数据湖探索用户指南》中的“创建弹性资源池”和“弹性资源池添加队列”相关章节。 父主题： 计费相关问题

查看更多 →

统计方式按实际需求选择，各统计方式说明请参见校验方式说明。 在MgC控制台，创建数据湖探索 DLI统计任务并执行，方法请参考创建统计任务并执行校验。需要注意任务配置中的表组，选择步骤步骤16.创建的表组。 任务类型请选择大数据组件中的“数据湖探索 DLI”。 统计方式按实际需求选择，各统计方式说明请参见校验方式说明。

查看更多 →

ink Jar 包冲突，导致作用提交失败。 请参考DLI用户指南中提供的依赖包信息先将重复的包删除后再上传。 DLI内置依赖包请参考《数据湖探索用户指南》。 父主题： Flink Jar作业类

查看更多 →