上传目标目录 Spark客户端目录（如“/opt/client/Spark2x/spark/conf”） hive-site.xml HDFS的“/user/developuser/myjobs/apps/spark2x”目录 hbase-site.xml 准备 MRS 应用开发用户时得到的keytab文件

查看更多 →

Spark客户端目录（如“/opt/client/Spark2x/spark/conf”） hive-site.xml HDFS的“/user/developuser/myjobs/apps/spark2x”目录 hbase-site.xml Spark客户端目录（如“/opt/client/Spark2x/spark/jars”）

查看更多 →

配置Windows通过EIP访问集群Spark 操作场景 该章节通过指导用户配置集群绑定EIP，并配置Spark文件的方法，方便用户可以在本地对样例文件进行编译。 本章节以运行SparkScalaExample样例为例进行说明。 操作步骤 为集群的每个节点申请弹性公网IP，并将本

查看更多 →

通过JDBC访问Spark SQL样例程序 通过JDBC访问Spark SQL样例程序开发思路 通过JDBC访问Spark SQL样例程序（Java） 通过JDBC访问Spark SQL样例程序（Scala） 父主题： 开发Spark应用

查看更多 →

配置Windows通过EIP访问集群Spark 操作场景 该章节通过指导用户配置集群绑定EIP，并配置Spark文件的方法，方便用户可以在本地对样例文件进行编译。 本章节以运行SparkScalaExample样例为例进行说明。 操作步骤 为集群的每个节点申请弹性公网IP，并将本

查看更多 →

通过JDBC访问Spark SQL样例程序 通过JDBC访问Spark SQL样例程序开发思路 通过JDBC访问Spark SQL样例程序（Java） 过JDBC访问Spark SQL样例程序（Scala） 父主题： 开发Spark应用

查看更多 →

输出路径请手动输入一个不存在的目录，例如obs://obs-demo-analysis-hwt4/output/。 说明： 访问OBS的AK/SK信息可通过如下方式获取： 登录华为云管理控制台。 单击右上角的用户名，然后选择“我的凭证”。 系统跳转至“我的凭证”页面，单击“访问密钥”。 单击“新增访问密钥”申请

查看更多 →

OBS支持使用HTTPS协议访问吗？ OBS支持HTTPS访问。 使用OBS分配的 域名 进行访问时，只要在浏览器中将桶或对象的URL的http替换成https即可。 OBS自定义域名绑定配合CDN同时使用时，通过CDN管理控制台进行HTTPS证书管理，即可使用HTTPS访问。CDN

查看更多 →

IAM权限的实现机制如下： 创建用户组，为用户组设定IAM权限集。 创建IAM用户，用户加入用户组以获取相关的权限。 桶策略 桶策略是作用于所配置的OBS桶及桶内对象的。OBS桶拥有者通过桶策略可为IAM用户或其他账号授权桶及桶内对象的操作权限。 访问控制列表 (ACL) ACL是

查看更多 →

-bucket”）。 同一用户在同一个区域多次创建同名桶不会报错，创建的桶属性以第一次请求为准。 默认取值： 无 objectKey String 可选 参数解释： 对象名。对象名是对象在存储桶中的唯一标识。对象名是对象在桶中的完整路径，路径中不包含桶名。 例如，您对象的访问地址为examplebucket

查看更多 →

Test\SparkJarObs\target”下名为“SparkJarObs-1.0-SNAPSHOT.jar”。 图10 导出jar包 步骤6：上传Jar包到OBS和 DLI 下 Spark 3.3及以上版本： 仅支持在创建Spark作业时，配置“应用程序”，从OBS选择作业所需的Jar包。

查看更多 →

DLI如何访问OBS桶中的数据 创建OBS表。 具体语法请参考《 数据湖探索 SQL语法参考》。 添加分区。 具体语法请参考《 数据湖 探索SQL语法参考》。 往分区导入OBS桶中的数据。 具体语法请参考《数据湖探索SQL语法参考》。 查询数据。 具体语法请参考《数据湖探索SQL语法参考》。

查看更多 →

添加OBS的Ranger访问权限策略 操作场景 Ranger管理员可以通过Ranger为OBS用户配置OBS目录或文件的读、写权限。 本章节仅适用于MRS 3.3.0-LTS及之后版本。 前提条件 已安装Ranger服务且服务运行正常。 已创建需要配置权限的用户组。 已安装Guardian服务。

查看更多 →

配置Flume通过IAM委托访问OBS 参考配置MRS集群通过IAM委托对接OBS完成存算分离集群配置后，Flume即可运行OBS作业。 本章节适用于MRS 3.x及之后的版本。 Flume对接OBS 创建用于存放数据的OBS文件夹。 登录OBS控制台。 单击“并行文件系统”进入并行文件系统页面。

查看更多 →

配置Mapreduce通过Guardian访问OBS 参考配置Guardian服务对接OBS完成Guardian对接OBS后，MapReduce服务还需参考本章节新增自定义配置。 Mapreduce对接OBS 登录 FusionInsight Manager，选择“集群 > 服务 > MapReduce

查看更多 →

ALM-45451 ClickHouse访问OBS失败 本章节仅适用于MRS 3.3.1及之后版本。 告警解释 系统配置冷热分离功能后，每隔1分钟检测一次当前访问OBS的状态，当连续3次检测到访问OBS失败时，系统产生告警。 当检测到系统访问OBS成功时，告警自动消除。 告警属性 告警ID

查看更多 →

配置Windows通过EIP访问集群Spark 操作场景 该章节通过指导用户配置集群绑定EIP，并配置Spark文件的方法，方便用户可以在本地对样例文件进行编译。 本章节以运行SparkScalaExample样例为例进行说明。 操作步骤 为集群的每个节点申请弹性公网IP，并将本

查看更多 →

通过JDBC访问Spark SQL样例程序 通过JDBC访问Spark SQL样例程序开发思路 通过JDBC访问Spark SQL样例程序（Java） 通过JDBC访问Spark SQL样例程序（Scala） 父主题： 开发Spark应用

查看更多 →

使用资源拥有者账号登录华为云，在右上角单击“控制台”。 在服务列表中选择“存储 > 对象存储服务 OBS”。 在“对象存储”的桶列表中搜索访问失败的桶，单击桶名称，进入“对象”页面。 在对象列表搜索访问失败的对象，单击对象名称，进入对象详情页面，在“对象ACL”页签下查看已配置的对象ACL。

查看更多 →

使用Spark作业访问sftp中的文件，作业运行失败，日志显示访问目录异常 Spark作业不支持访问sftp，建议将文件数据上传到OBS，再通过Spark作业进行读取和分析。 上传数据到OBS桶：通过OBS管理控制台或者使用命令行工具将存储在sftp中的文件数据上传到OBS桶中。

查看更多 →

er新建连接则需要重新认证，否则就会执行失败。因此，若长期执行应用过程中需要新建连接，用户需要在“url”中添加user.principal和user.keytab认证信息，以保证每次建立连接时认证成功，例如，“url”中需要加上“user.principal=sparkuser;user

查看更多 →