常见jar包冲突处理方式 问题现象 Spark能对接很多的第三方工具，因此在使用过程中经常会依赖一堆的三方包。而有一些包 MRS 已经自带，这样就有可能造成代码使用的jar包版本和集群自带的jar包版本不一致，在使用过程中就有可能出现jar包冲突的情况。 常见的jar包冲突报错有： 1、报错类找不到：java

查看更多 →

如果您上传的Jar包中包含 DLI Flink运行平台中已经存在的包，则会提示Flink Jar 包冲突，导致作用提交失败。 请参考DLI用户指南中提供的依赖包信息先将重复的包删除后再上传。 DLI内置依赖包请参考《 数据湖探索 用户指南》。 父主题： Flink Jar作业类

查看更多 →

java:2662) ... 32 common frames omitted 原因分析 Flink jar包冲突。用户提交的flink jar 与 DLI 集群中的hdfs jar包存在冲突。 处理步骤 1. 将用户pom文件中的的hadoop-hdfs设置为： <dependency>

查看更多 →

提交Hudi相关的Spark jar作业需要选择Spark版本为3.3.1，且使用的通用队列需要支持Hudi。 单击右上角的”创建作业”即可提交Spark jar的作业。 编写并打包Spark jar的程序包：（以Maven项目为例） 创建或使用现有的maven java项目，在 pom

查看更多 →

Flink Jar作业提交SQL样例程序 Flink Jar作业提交SQL样例程序开发思路 Flink Jar作业提交SQL样例程序（Java） 父主题： 开发Flink应用

查看更多 →

Flink Jar作业提交SQL样例程序 Flink Jar作业提交SQL样例程序开发思路 Flink Jar作业提交SQL样例程序（Java） 父主题： 开发Flink应用

查看更多 →

在DLI使用Delta提交Spark Jar作业 1. 添加如下依赖 <dependency> <groupId>io.delta</groupId> <artifactId>delta-core_2.12</artifactId> <version>2.3

查看更多 →

on>-bin.tar.gz”，支持在Linux环境中使用，且依赖JDK 1.8及以上版本。 配置DLI Spark-submit 使用spark-submit的机器安装JDK 1.8或以上版本并配置环境变量，当前仅在Linux环境下使用spark-submit工具。 下载并解压

查看更多 →

Flink Jar作业提交SQL样例程序（Java） 提交SQL的核心逻辑如下，目前只支持提交CREATE和INSERT语句。完整代码参见com.huawei.bigdata.flink.examples.FlinkSQLExecutor。 public class FlinkSQLExecutor

查看更多 →

使用Flink Jar读写DIS开发指南 概述 本节操作介绍基于Flink 1.12版本的Flink Jar作业读写DIS数据的操作方法。 Flink 1.12版本Flink Opensource SQL作业不支持使用DLI提供的connector读写DIS，因此推荐您使用本节操作提供的方法。

查看更多 →

{version}.jar版本规则：flinkversion为对应的flink版本号，version为flink-obs-fs-hadoop版本号。 如果没有匹配版本的jar包，可自行修改flink-obs-fs-hadoop目录下pom文件中的flink版本重新编译生成。详情见编译指南。

查看更多 →

Java-SDK编译提示jar包冲突 问题现象 could not load a native library: netty_tcnative_osx_aarch_64 问题原因 netty-tcnative-boringssl-static版本太低。 解决方法 升级到以下版本即可解决。

查看更多 →

Flink Jar作业提交SQL样例程序（Java） 提交SQL的核心逻辑如下，目前只支持提交CREATE和INSERT语句。完整代码参见com.huawei.bigdata.flink.examples.FlinkSQLExecutor。 public class FlinkSQLExecutor

查看更多 →

s-1.0-SNAPSHOT.jar”。 图10 导出jar包 步骤6：上传Jar包到OBS和DLI下 Spark 3.3及以上版本： 仅支持在创建Spark作业时，配置“应用程序”，从OBS选择作业所需的Jar包。 登录OBS控制台，将生成的Jar包文件上传到OBS路径下。 登录DLI控制台，选择“作业管理

查看更多 →

csms.version 否 最新的version String 在DEW服务的凭据管理中新建的通用凭据的版本号(凭据的版本标识符)。 若不指定，则默认获取该通用凭证的最新版本号。 配置示例：flink.hadoop.fs.dew.csms.version=v1 flink.hadoop

查看更多 →

1（Spark通用队列场景）及以上版本使用DEW管理访问凭据，在创建作业时，请配置作业使用Spark3.3.1版本、且已在作业中配置允许DLI访问DEW的委托信息。 自定义委托及配置请参考自定义DLI委托权限。 使用该功能，所有涉及OBS的桶，都需要进行配置AKSK。 语法格式 在Spark Jar作业编辑界面，选择配置优化参数，配置信息如下:

查看更多 →

ases 根据Spark、Hive版本下载对应客户端（如Spark3.1.1，对应Hive版本为2.3.7，则下载hive-exec-2.3.7-core.jar、hive-common-2.3.7.jar） 方式二：本地编译Hive相关jar包 如果对接的环境为Spark 3.1

查看更多 →

新增版本 使用ISV账号登录OSC控制台，单击左侧导航栏“服务发布”。 单击新创建的服务右侧“操作“栏中的“新增版本”，进入新增版本页面。 填写“服务版本”，选择对应的OBS桶，关联需要上传到OSC平台的服务包，完成后单击“确认”即可完成添加版本操作。 如果没有OBS桶，则可以单

查看更多 →

镜像版本 表1 镜像版本权限 权限 对应API接口 授权项（Action） IAM项目 (Project) 企业项目 (Enterprise Project) 获取镜像仓库版本列表 GET /v1.0/{project_id}/common/image-registry/imag

查看更多 →

镜像版本 获取镜像仓库版本列表 创建镜像仓库版本 获取镜像仓库版本详情 删除镜像仓库版本 更新镜像仓库版本状态 创建镜像仓库版本操作账号 父主题： API

查看更多 →

版本更新 KooCLI支持本地更新， 运行更新命令经交互确认后可将其升级至最新版本。 更新命令如下： hcloud update hcloud update KooCLI将更新到最新版本,请您确认是否继续(y/N): y 更新成功 执行版本更新命令时，在命令中添加“-y”参数，可跳过交互确认，直接更新：

查看更多 →