华为云

面向未来的智能世界,数字化是企业发展的必由之路。数字化成功的关键是以云原生的思维践行云原生,全数字化、全云化、AI驱动,一切皆服务。

华为云将持续创新,携手客户、合作伙伴和开发者,致力于让云无处不在,让智能无所不及,共建智能世界云底座。

 
 

    华为云 obs spark 访问 更多内容
  • 通过CDN加速访问OBS

    ,但一般情况下文件只存储在一个区域,不同区域的用户访问OBS的响应速度存在差异。在需要频繁访问的场景下,直接访OBS来获取相应文件,还会消耗大量的流量费用。 图1 从OBS获取数据过程 方案说明 OBS提供低成本的存储华为云CDN可以提供网站加速、文件下载加速和点播加速。将数

    来自:帮助中心

    查看更多 →

  • 通过临时URL访问OBS

    通过临时URL访问OBS 您可以通过临时URL访问OBS,对桶或对象进行创建桶、上传对象和下载对象等操作,详细示例可参考使用URL进行授权访问。本章节主要详细介绍如何通过临时URL分享对象。 分享对象 OBS提供分享功能,将存放在OBS对象(文件或文件夹)限时分享给所有用户。 文件分享

    来自:帮助中心

    查看更多 →

  • 访问Spark WebUI界面

    访问Spark WebUI界面 操作场景 MRS 集群安装Spark组件后,用户可以通过Spark WebUI界面查看Spark应用程序运行情况。 本章节指导用户在MRS集群中访问Spark WebUI界面。 前提条件 MRS集群已安装Spark组件,并且正常运行。 已创建具有Sp

    来自:帮助中心

    查看更多 →

  • 华为云OBS

    华为云OBS 华为云OBS提供了obsutil工具来解冻归档对象,支持批量解冻。 obsutil工具支持Windows、Linux和macOS等操作系统,您可以根据实际情况下载和安装合适的版本。 操作步骤 下载并安装obsutil。 解冻归档存储对象。 解冻完成后,参考华为云OB

    来自:帮助中心

    查看更多 →

  • 华为云OBS

    华为云OBS 对象存储服务 (Object Storage Service,OBS)提供海量、安全、高可靠、低成本的数据存储能力,可供用户存储任意类型和大小。包含“读取文件”和“上传文件”两个执行动作,“当有新文件上传”一个触发事件。 连接参数 华为云OBS连接器使用自定义认证,连接参数说明如表1所示。

    来自:帮助中心

    查看更多 →

  • 使用Spark SQL作业分析OBS数据

    使用Spark SQL作业分析OBS数据 DLI 支持将数据存储OBS上,后续再通过创建OBS表即可对OBS上的数据进行分析和处理。 本指导中的操作内容包括:创建OBS表、导入OBS表数据、插入和查询OBS表数据等内容来帮助您更好的在DLI上对OBS表数据进行处理。 前提条件 已

    来自:帮助中心

    查看更多 →

  • 如何判断是否内网访问OBS?

    明E CS 访问OBS桶为内网访问OBS桶的全局 域名 格式为:桶名.obs.myhuaweicloud.com 例如在华北-北京四的ECS上,执行ping example-bucket.obs.myhuaweicloud.com。 图1 响应信息 父主题: 产品咨询

    来自:帮助中心

    查看更多 →

  • 配置HetuEngine通过Guardian访问OBS

    配置HetuEngine通过Guardian访问OBS 参考配置Guardian服务对接OBS完成Guardian对接OBS后,即可在HetuEngine客户端创建指定Location为OBS文件系统路径的表,也支持基于Hive Metastore方式对接OBS。 HetuEngine对接OBS MRS集群支

    来自:帮助中心

    查看更多 →

  • 配置Hudi通过Guardian访问OBS

    配置Hudi通过Guardian访问OBS 参考配置Guardian服务对接OBS完成Guardian对接OBS后,即可在spark-shell中创建Hudi COW表存储OBS中。 Hudi对接OBS 使用客户端安装用户登录客户端安装节点。 配置环境变量。 source 客户端安装目录/bigdata_env

    来自:帮助中心

    查看更多 →

  • 配置HDFS通过Guardian访问OBS

    如果集群为安全模式,执行以下命令进行用户认证,该用户需具有OBS目录的读写权限。普通模式集群无需执行用户认证。 kinit HDFS组件操作用户 在HDFS命令行显式添加要访问OBS文件系统。 例如: 使用以下命令访问OBS文件系统。 hdfs dfs -ls obs://OBS并行文件系统名称/路径

    来自:帮助中心

    查看更多 →

  • 配置Yarn通过Guardian访问OBS

    如果集群为安全模式,执行以下命令进行用户认证,该用户需具有OBS目录的读写权限。普通模式集群无需执行用户认证。 kinit HDFS组件操作用户 在Yarn命令行显式添加要访问OBS文件系统。 使用以下命令访问OBS文件系统。 hdfs dfs -ls obs://OBS并行文件系统名称/路径

    来自:帮助中心

    查看更多 →

  • 配置CORS实现跨域访问OBS

    配置CORS实现跨域访问OBS OBS提供HTML5协议中的CORS设置,帮助用户实现跨域访问。 您可以新建CORS规则,也可以从其他桶复制已有CORS规则。 背景知识 跨域是指不同域名之间相互访问。 跨域访问是浏览器出于安全考虑而设置的一个限制,即同源策略。由于JavaScri

    来自:帮助中心

    查看更多 →

  • 配置Hive通过Guardian访问OBS

    创建hive角色 自定义用户组赋予OBS路径的读写权限 登录 FusionInsight Manager,选择“系统 > 权限 > 用户组 > 添加用户组”。 创建一个空角色的用户组,例如,名称为“hiveobs1”,并将该用户组绑定给对应用户。 使用rangeradmin用户登录Ranger管理页面。

    来自:帮助中心

    查看更多 →

  • 配置Flink通过Guardian访问OBS

    配置Flink通过Guardian访问OBS 参考配置Guardian服务对接OBS完成Guardian对接OBS后,即可在Flink客户端访问OBS并行文件系统并运行作业。 Flink对接OBS 使用安装客户端的用户登录Flink客户端安装节点。 执行如下命令初始化环境变量。 source

    来自:帮助中心

    查看更多 →

  • 使用华为云OBS

    网站域名是否需要接入备案 使用华为云OBS做托管的网站: 如果源站在华为云:一级域名需要在华为云提交备案。 如果源站不在华为云: 一级域名及其子域名都不在华为云解析,此时不需要在华为云接入备案。 一级域名不在华为云,子域名在华为云解析,此时需要在华为云接入备案。 父主题: 备案场景

    来自:帮助中心

    查看更多 →

  • SparkStreaming作业运行后报OBS访问403如何处理?

    SparkStreaming作业运行后报OBS访问403如何处理? 问: SparkStreaming作业运行几十个小时后失败,报OBS访问403如何处理? 答: 当用户提交作业需要读写OBS时,提交作业程序会默认为用户添加访问OBS的临时accesskey和secretkey,

    来自:帮助中心

    查看更多 →

  • 有访问OBS对应的桶的权限,但是Spark作业访问时报错 verifyBucketExists on XXXX: status [403]

    访问OBS对应的桶的权限,但是Spark作业访问时报错 verifyBucketExists on XXXX: status [403] 该报错信息可能是由于OBS桶被设置为了DLI日志桶,而日志桶不能用于DLI的其他业务功能。 您可以按以下操作步骤进行查询: 检查该OBS桶是否被设置为了DLI日志桶。

    来自:帮助中心

    查看更多 →

  • 在Linux ECS上使用obsutil通过内网访问OBS

    确认是否已经是内网访问OBS 具体方法请参见如何判断是否内网访问OBS? 下载obsutil obsutil最新版本和下载链接请参见下载obsutil。 配置obsutil 使用obsutil之前,您需要配置obsutil与OBS的对接信息,包括OBS终端节点(Endpoint)和访问密钥(AK和SK)。

    来自:帮助中心

    查看更多 →

  • 通过IAM委托换取临时访问密钥访问OBS

    通过IAM委托换取临时访问密钥访问OBS IAM委托为统一身份认证服务IAM的功能特性,OBS在部分使用场景中(如CDN私有桶回源、跨区域复制),需要使用IAM委托功能,授予其他账号或云服务OBS访问权限,替委托方管理OBS资源,实现安全高效的代维工作。 委托访问OBS,需要先调用IA

    来自:帮助中心

    查看更多 →

  • 在Linux ECS上使用obsutil通过内网访问OBS

    obsutil最新版本和下载链接请参见下载obsutil。 配置obsutil 使用obsutil之前,您需要配置obsutil与OBS的对接信息,包括OBS终端节点(Endpoint)和访问密钥(AK和SK)。具体操作请参见obsutil指南的初始化配置章节。 其中OBS终端节点(Endpoint)需要根据

    来自:帮助中心

    查看更多 →

  • 通过Nginx反向代理访问OBS

    通过Nginx反向代理访问OBS 应用场景 一般情况下,用户会通过OBS提供的桶访问域名(例如https://bucketname.obs.cn-north-4.myhuaweicloud.com)或者绑定的自定义域名来访问OBS。 但在某些场景下,用户需要通过固定的IP地址访问OBS,例如:

    来自:帮助中心

    查看更多 →

共105条
看了本文的人还看了