数据湖探索 DLI

数据湖探索(Data Lake Insight,简称DLI)是完全兼容Apache Spark和Apache Flink生态, 实现批流一体的Serverless大数据计算分析服务。DLI支持多模引擎,企业仅需使用SQL或程序就可轻松完成异构数据源的批处理、流处理、内存计算、机器学习等,挖掘和探索数据价值

 
进入控制台立即购买帮助文档DLI开发者社区1对1咨询                
               

           

    数据湖图标 更多内容
  • DLI如何访问OBS桶中的数据

    DLI 如何访问OBS桶中的数据 创建OBS表。 具体语法请参考《 数据湖 探索SQL语法参考》。 添加分区。 具体语法请参考《数据湖探索SQL语法参考》。 往分区导入OBS桶中的数据。 具体语法请参考《数据湖探索SQL语法参考》。 查询数据。 具体语法请参考《数据湖探索SQL语法参考》。 父主题: SQL作业开发类

    来自:帮助中心

    查看更多 →

  • 创建DataArts Studio数据连接

    用两套集群, DataArts Studio 通过管理中心的创建数据连接区分开发环境和生产环境的数据湖服务,在开发和生产流程中自动切换对应的数据湖。因此您需要准备两套数据湖服务,且两套数据湖服务的版本、规格、组件、区域、VPC、子网以及相关配置等信息,均应保持一致。创建数据连接的详细操作请参见创建DataArts

    来自:帮助中心

    查看更多 →

  • 手动续费

    手动续费 在云服务控制台续费 登录管理控制台。 单击左侧导航栏的图标,选择“大数据 > 数据湖探索 DLI”。 在队列或弹性资源池的列表页,选中待续费的包年/包月资源。 单击“操作”列下的“更多 > 续费”。 选择续费时长,判断是否勾选“统一到期日”,将到期时间统一到各个月的某一

    来自:帮助中心

    查看更多 →

  • 概述

    的异构数据进行探索。 您可以使用本文档提供API对数据湖探索进行相关操作,包括队列、SQL作业、Flink作业、Spark作业和跨源连接等等。支持的全部操作请参见API概览。 在调用数据湖探索API之前,请确保已经充分了解数据湖探索相关概念。详细信息请参见产品介绍。 父主题: API使用前必读

    来自:帮助中心

    查看更多 →

  • 数据库、数据仓库、数据湖、湖仓一体分别是什么?

    针对读操作进行优化 针对写操作进行优化 什么是数据湖? 在企业内部,数据是一类重要资产已经成为了共识。随着企业的持续发展,数据不断堆积,企业希望把生产经营中的所有相关数据都完整保存下来,进行有效管理与集中治理,挖掘和探索数据价值。 数据湖就是在这种背景下产生的。数据湖是一个集中存储各类结构化和非结

    来自:帮助中心

    查看更多 →

  • 创建数据连接需要注意哪些事项?

    据连接。 主机连接当前仅支持Linux系统主机。 当所连接的数据湖发生变化(如 MRS 集群扩容等情况)时,您需要重新编辑并保存该连接。 数据连接中的数据湖认证信息如果发生变化(如密码过期)时,此连接会失效。建议您将数据湖认证信息设定为永久有效,避免由于连接失败导致业务受损。 当前DataArts

    来自:帮助中心

    查看更多 →

  • 数据加载支持哪些数据源?

    数据加载支持哪些数据源? 数据加载支持不同存储之间的数据迁移,源端支持OBS(数据湖OBS和租户OBS)、HIVE或DWS存储。目标端支持OBS(数据湖OBS)、HIVE、DWS或HDFS存储。同时支持本地上传数据至OBS(数据湖OBS)。 父主题: 数据加载

    来自:帮助中心

    查看更多 →

  • LakeFormation适用哪些场景

    LakeFormation适用哪些场景 LakeFormation适用于以下场景: 数据湖建设和持续运营:数据湖建设和持续运营,是指数据湖的初始化建设及后续日常的海量元数据及权限管理,因此客户需要便捷高效的建设和管理方式。 多计算引擎共享元数据:多计算引擎共享元数据,是指客户的多

    来自:帮助中心

    查看更多 →

  • 什么是LakeFormation

    Formation,简称LakeFormation)是企业级数据湖一站式构建服务。 在存算分离架构基础上提供数据湖元数据统一管理的可视化界面及API,兼容Hive元数据模型以及Ranger权限模型,支持对接 MapReduce服务 (MRS)、 数据仓库 服务 GaussDB (DWS)、数据湖探索(DLI)、 AI开发平台 ModelArts、 数据治理中心

    来自:帮助中心

    查看更多 →

  • 方案管理列表中看不到修改方案名称的铅笔图标。

    方案管理列表中看不到修改方案名称的铅笔图标。 其他平台同步生成的方案不允许修改名称(因为是根据方案名称确定关联关系),所以不可见,如卖家中心生成的解决方案。 方案名称的修改按钮图标只对方案的创建人可见。 父主题: 设计中心

    来自:帮助中心

    查看更多 →

  • java样例代码

    将写好的代码文件生成jar包,上传至DLI中。 控制台操作请参考《数据湖探索用户指南》。API操作请参考《数据湖探索API参考》>《上传资源包》。 在Spark作业编辑器中选择对应的Module模块并执行Spark作业。 控制台操作请参考《数据湖探索用户指南》。API操作请参考《数据湖探索API参考》>《创建批处理作业》。

    来自:帮助中心

    查看更多 →

  • 方案概述

    用当前登录用户的权限进行部署。 第一次使用数据湖数据湖 DLI时需要登录DLI控制台,如果使用IAM子账户部署该解决方案,请参考部署指南确保该账号已经有DLI的相关授权,第一次使用DLI时候也需要用子账号登录一次控制台。具体请参考数据湖探索 DLI帮助文档。

    来自:帮助中心

    查看更多 →

  • 附录

    易用的批量数据迁移服务。 CDM 围绕大数据迁移上云和智能数据湖解决方案,提供了简单易用的迁移能力和多种数据源到数据湖的集成能力,降低了客户数据源迁移和集成的复杂性,有效地提高您数据迁移和集成的效率。 数据湖探索 DLI:数据湖探索(Data Lake Insight,简称DLI)是完全兼容Apache

    来自:帮助中心

    查看更多 →

  • Spark作业使用咨询

    如何使用API通过公网访问DLI? DLI 域名 公网访问请使用域名访问:dli.{regionid}.myhuaweicloud.com 数据湖探索的终端节点请参考终端节点。 数据湖探索API请参考:数据湖探索API。 DLI自定义的Spark3.1.1镜像,需要把第三方依赖jar放到哪个路径下呢? DLI自定义的Spark3

    来自:帮助中心

    查看更多 →

  • 云服务故障

    分布式缓存服务主备切换 重启分布式缓存服务实例 - 云搜索服务 CSS 重启 云搜索 服务集群 - 数据湖探索 DLI 重启数据湖探索队列 force;stop_job 扩容数据湖探索队列 cu_count; 缩容数据湖探索队列 cu_count; 云数据库 GaussDB(for MySQL) 重启云数据库GaussDB(for

    来自:帮助中心

    查看更多 →

  • java样例代码

    将写好的代码文件生成jar包,上传至DLI中。 控制台操作请参考《数据湖探索用户指南》。API操作请参考《数据湖探索API参考》>《上传资源包》。 在Spark作业编辑器中选择对应的Module模块并执行Spark作业。 控制台操作请参考《数据湖探索用户指南》。API操作请参考《数据湖探索API参考》>《创建批处理作业》。

    来自:帮助中心

    查看更多 →

  • DataArts Studio支持连接哪些数据源?

    独立,使用场景各有不同。 管理中心的数据连接用于对接数据湖底座,DataArts Studio基于数据湖底座,提供一站式数据开发、治理和服务等能力。 数据集成的数据连接仅限于在数据集成中使用,用于将源端原始数据集成到目的端数据湖底座中。 父主题: 管理中心

    来自:帮助中心

    查看更多 →

  • 怎样排查DLI计费异常?

    如果使用了按需的弹性资源池下的队列执行作业,默认的计费模式是按CU时计费。 计费详情可参考《数据湖探索价格详情》。 如果使用的是default队列执行作业,则按照扫描量计费。 计费详情可参考《数据湖探索价格详情》。 如果在扣费时间段内没有执行过作业,则请继续排查是否是因为存储了大量数据而产生的计费。具体操作请参考数据存储。

    来自:帮助中心

    查看更多 →

  • java样例代码

    将写好的代码文件生成jar包,上传至DLI中。 控制台操作请参考《数据湖探索用户指南》。API操作请参考《数据湖探索API参考》>《上传资源包》。 在Spark作业编辑器中选择对应的Module模块并执行Spark作业。 控制台操作请参考《数据湖探索用户指南》。API操作请参考《数据湖探索API参考》>《创建批处理作业》。

    来自:帮助中心

    查看更多 →

  • 新建DLI数据连接

    首次创建DLI的数据连接时,需要您同意访问DLI(数据湖探索)委托授权。授权成功后,再次创建DLI的数据连接时,将不再提示您委托授权。 填写完数据源信息后,单击“确定”即可完成DLI数据连接的添加。 使用数据湖探索(DLI)数据源 您可以参考使用数据仓库服务(DWS)数据源,配置使用数据湖探索(DLI)数据源。

    来自:帮助中心

    查看更多 →

  • 管理中心典型场景教程

    管理中心典型场景教程 新建DataArts Studio与MRS Hive数据湖的连接 新建DataArts Studio与DWS数据湖的连接 新建DataArts Studio与MySQL数据库的连接 父主题: 管理中心

    来自:帮助中心

    查看更多 →

共105条
看了本文的人还看了