，但一般情况下文件只存储在一个区域，不同区域的用户访问OBS的响应速度存在差异。在需要频繁访问的场景下，直接访问OBS来获取相应文件，还会消耗大量的流量费用。 图1 从OBS获取数据过程 方案说明 OBS提供低成本的存储，华为云CDN可以提供网站加速、文件下载加速和点播加速。将数

查看更多 →

访问Spark Web UI界面 Spark Web UI界面主要用于查看Spark应用程序运行情况，推荐使用Google chrome浏览器以获得更好的体验。 Spark主要有两个Web页面。 Spark UI页面，用于展示正在执行的应用的运行情况。 页面主要包括了Jobs、S

查看更多 →

华为云OBS 对象存储服务 （Object Storage Service，OBS）提供海量、安全、高可靠、低成本的数据存储能力，可供用户存储任意类型和大小。包含“读取文件”和“上传文件”两个执行动作，“当有新文件上传”一个触发事件。 连接参数 华为云OBS连接器使用自定义认证，连接参数说明如表1所示。

查看更多 →

华为云OBS 华为云OBS提供了obsutil工具来解冻归档对象，支持批量解冻。 obsutil工具支持Windows、Linux和macOS等操作系统，您可以根据实际情况下载和安装合适的版本。 操作步骤 下载并安装obsutil。 解冻归档存储对象。 解冻完成后，参考华为云OB

查看更多 →

Spark on OBS性能调优 配置场景 Spark on OBS在小批量频繁请求OBS的场景下，可以通过关闭OBS监控提升性能。 配置描述 在Spark客户端的“core-site.xml”配置文件中修改配置。 表1 参数介绍 参数 描述 默认值 fs.obs.metrics

查看更多 →

如何判断是否内网访问OBS？ 假设某用户拥有一台华北-北京四区域的E CS ，同时拥有一个华北-北京四区域的OBS桶（桶名为example-bucket）。 判断是否内网访问的方法如下： 在ECS中ping需要确认的OBS桶的全局 域名 ，如果响应的IP地址为100网段或214网段，则说明ECS访问此OBS桶为内网访问。

查看更多 →

同步配置”，根据提示重启HetuEngine服务。 如果有运行中的HetuEngine计算实例，重启服务前需先停止计算实例，服务重启成功后再启动计算实例。 登录HetuEngine客户端创建Schema或表时，无需指定Location，默认存储在OBS上。 Ranger权限配置 集群已启

查看更多 →

配置CORS实现跨域访问OBS OBS提供HTML5协议中的CORS设置，帮助用户实现跨域访问。 您可以新建CORS规则，也可以从其他桶复制已有CORS规则。 背景知识 跨域是指不同域名之间相互访问。 跨域访问是浏览器出于安全考虑而设置的一个限制，即同源策略。由于JavaScri

查看更多 →

创建hive角色 自定义用户组赋予OBS路径的读写权限 登录 FusionInsight Manager，选择“系统 > 权限 > 用户组 > 添加用户组”。 创建一个空角色的用户组，例如，名称为“hiveobs1”，并将该用户组绑定给对应用户。 使用rangeradmin用户登录Ranger管理页面。

查看更多 →

配置Flink通过Guardian访问OBS 参考配置Guardian服务对接OBS完成Guardian对接OBS后，即可在Flink客户端访问OBS并行文件系统并运行作业。 Flink对接OBS 使用安装客户端的用户登录Flink客户端安装节点。 执行如下命令初始化环境变量。 source

查看更多 →

配置Hudi通过Guardian访问OBS 参考配置Guardian服务对接OBS完成Guardian对接OBS后，即可在spark-shell中创建Hudi COW表存储到OBS中。 Hudi对接OBS 使用客户端安装用户登录客户端安装节点。 配置环境变量。 source 客户端安装目录/bigdata_env

查看更多 →

如果集群为安全模式，执行以下命令进行用户认证，该用户需具有OBS目录的读写权限。普通模式集群无需执行用户认证。 kinit HDFS组件操作用户 在HDFS命令行显式添加要访问的OBS文件系统。 例如： 使用以下命令访问OBS文件系统。 hdfs dfs -ls obs://OBS并行文件系统名称/路径

查看更多 →

如果集群为安全模式，执行以下命令进行用户认证，该用户需具有OBS目录的读写权限。普通模式集群无需执行用户认证。 kinit HDFS组件操作用户 在Yarn命令行显式添加要访问的OBS文件系统。 使用以下命令访问OBS文件系统。 hdfs dfs -ls obs://OBS并行文件系统名称/路径

查看更多 →

SparkStreaming作业运行后报OBS访问403如何处理？ 问： SparkStreaming作业运行几十个小时后失败，报OBS访问403如何处理？ 答： 当用户提交作业需要读写OBS时，提交作业程序会默认为用户添加访问OBS的临时accesskey和secretkey，

查看更多 →

Spark作业访问OBS数据时报ResponseCode: 403和ResponseStatus: Forbidden错误 问题现象 Spark程序访问OBS数据时上报如下错误。 Caused by: com.obs.services.exception.ObsException:

查看更多 →

使用 MRS Spark SQL访问DWS表 应用场景 华为云提供MapReduce服务（MRS），可在云上快速构建和运营全栈云原生大数据平台。它包含HDFS、Hive、HBase、Spark等大数据组件，专为分析海量企业数据而量身定制。 Spark提供了类似SQL的Spark SQL

查看更多 →

使用Spark SQL作业分析OBS数据 DLI 支持将数据存储到OBS上，后续再通过创建OBS表即可对OBS上的数据进行分析和处理。 本指导中的操作内容包括：创建OBS表、导入OBS表数据、插入和查询OBS表数据等内容来帮助您更好的在DLI上对OBS表数据进行处理。 前提条件 已

查看更多 →

通过IAM委托换取临时访问密钥访问OBS IAM委托为统一身份认证服务IAM的功能特性，OBS在部分使用场景中（如CDN私有桶回源、跨区域复制），需要使用IAM委托功能，授予其他账号或云服务OBS的访问权限，替委托方管理OBS资源，实现安全高效的代维工作。 委托访问OBS，需要先调用IA

查看更多 →

有访问OBS对应的桶的权限，但是Spark作业访问时报错 verifyBucketExists on XXXX: status [403] 该报错信息可能是由于OBS桶被设置为了DLI日志桶，而日志桶不能用于DLI的其他业务功能。 您可以按以下操作步骤进行查询： 检查该OBS桶是否被设置为了DLI日志桶。

查看更多 →

。 网站域名是否需要接入备案 使用华为云OBS做托管的网站： 如果源站在华为云：一级域名需要在华为云提交备案。 如果源站不在华为云： 一级域名及其子域名都不在华为云解析，此时不需要在华为云接入备案。 一级域名不在华为云，子域名在华为云解析，此时需要在华为云接入备案。 父主题： 备案场景

查看更多 →

obsutil需通过公网下载，或者从其他可以访问公网的云 服务器 下载后传到当前云服务器安装。 前提条件 在登录ECS云服务器之前，请确保您已购买云服务器。 操作流程 图1 在Linux ECS上使用obsutil通过内网访问OBS的流程 操作步骤 登录Linux ECS 登录华为云，在页面右上角单击“控制台”，进入“控制台”页面。

查看更多 →