对象存储服务 OBS     

对象存储服务(Object Storage Service)是一款稳定、安全、高效、易用的云存储服务,具备标准Restful API接口,可存储任意数量和形式的非结构化数据。

 
 

    hadoop 云存储开发环境 更多内容
  • 快速使用Hadoop

    org/repos/dist/release/hadoop/common/中下载Hadoop的样例程序。 例如,选择hadoop-x.x.x版本,下载“hadoop-x.x.x.tar.gz”,解压后在“hadoop-x.x.x\share\hadoop\mapreduce”路径下获取“hadoop-mapreduce-examples-x

    来自:帮助中心

    查看更多 →

  • 云存储

    存储 获取存储列表 授权存储 解绑存储 父主题: CAE API

    来自:帮助中心

    查看更多 →

  • 新建Hadoop集群配置

    新建Hadoop集群配置 集群配置管理支持新建、编辑或删除Hadoop集群配置。 Hadoop集群配置主要用于新建Hadoop类型连接时,能够简化复杂的连接参数配置,如图1所示。 图1 使用集群配置前后对比 CDM 支持的Hadoop类型连接主要包括以下几类: MRS 集群:MRS HDFS,MRS

    来自:帮助中心

    查看更多 →

  • Hadoop对接OBS

    AbstractFileSystem.obs.impl org.apache.hadoop.fs.obs.OBS 是 - fs.obs.endpoint 无 是 华为OBS的终端节点(Endpoint)。 fs.obs.access.key 无 是 华为的AK(Access Key Id),需要具备访问OBS对应桶的权限。

    来自:帮助中心

    查看更多 →

  • 快速使用Hadoop

    org/repos/dist/release/hadoop/common/中下载Hadoop的样例程序。 例如,选择hadoop-x.x.x版本,下载“hadoop-x.x.x.tar.gz”,解压后在“hadoop-x.x.x\share\hadoop\mapreduce”路径下获取“hadoop-mapreduce-examples-x

    来自:帮助中心

    查看更多 →

  • 新建Hadoop集群配置

    新建Hadoop集群配置 集群配置管理支持新建、编辑或删除Hadoop集群配置。 Hadoop集群配置主要用于新建Hadoop类型连接时,能够简化复杂的连接参数配置,如图1所示。 图1 使用集群配置前后对比 CDM支持的Hadoop类型连接主要包括以下几类: MRS集群:MRS HDFS,MRS

    来自:帮助中心

    查看更多 →

  • 授权云存储

    key,当前access key应该包含访问授权存储的权限。 secret 否 String 用户secret key,当前secret key应该包含访问授权存储的权限。 响应参数 无 请求示例 授权存储存储类型为“obs”,存储桶名称为“test-bucket”。 POST

    来自:帮助中心

    查看更多 →

  • 云存储授权

    单击“授权”,完成通用文件系统授权。 存储解绑 若已授权存储对象存储已绑定组件,解除绑定时,请先在“组件配置 > 存储配置”中删除相应组件中挂载,具体操作请参考删除存储挂载。 登录CAE控制台。 在左侧导航栏中选择“系统设置”。 单击“存储授权”模块中的“编辑”,进入“已授权存储”页面。 选择

    来自:帮助中心

    查看更多 →

  • 配置云存储

    配置存储 存储说明 配置并行文件系统 配置存储桶 配置通用型文件系统 编辑存储挂载 删除存储挂载 父主题: 组件配置

    来自:帮助中心

    查看更多 →

  • 云存储说明

    存储说明 CAE支持对并行文件系统、存储桶和通用文件系统三种类型的存储,每种存储的主要特点及应用场景参考表1。 表1 存储对比 对比维度 对象存储OBS-并行文件系统 对象存储OBS-存储桶 通用文件系统 概念 并行文件系统是OBS提供的一种经过优化的高性能文件系统,提供

    来自:帮助中心

    查看更多 →

  • 如何使用云存储?

    如何使用存储? 如果您使用控制台界面创建,请参见存储概述。 您还可以使用kubectl创建存储,具体请参见使用PersistentVolumeClaim申请持久化存储。 父主题: 存储管理类

    来自:帮助中心

    查看更多 →

  • 删除云存储挂载

    删除存储挂载 当您不需要挂载存储时,可删除存储挂载配置。 删除存储挂载配置后,文件系统中存放的数据不会删除。如需重新挂载,请配置存储挂载路径。 操作步骤 登录CAE控制台。 在左侧导航栏中选择“组件配置”。 在“组件配置”页面上方的下拉框中选择待操作的组件。 图1 选择组件

    来自:帮助中心

    查看更多 →

  • 编辑云存储挂载

    编辑存储挂载 已配置存储挂载后,您如需更新挂载路径、读写权限、文件掩码等,可参考以下步骤进行操作。 操作步骤 登录CAE控制台。 在左侧导航栏中选择“组件配置”。 在“组件配置”页面上方的下拉框中选择待操作的组件。 图1 选择组件 单击“存储配置”模块中的“编辑”,进入存储配置页面。

    来自:帮助中心

    查看更多 →

  • 解绑云存储

    组件名称。 请求示例 解绑存储。 DELETE https://{endpoint}/v1/{project_id}/cae/volumes/{id} 响应示例 状态码: 200 返回{}表示成功,返回组件信息,表明这些组件挂载了当前存储,当前存储不能解绑。 { "api_version"

    来自:帮助中心

    查看更多 →

  • 开发环境

    开发环境 环境配置故障 实例故障 代码运行故障 JupyterLab插件故障 VS Code连接开发环境失败故障处理 自定义镜像 故障 其他故障

    来自:帮助中心

    查看更多 →

  • 手工搭建Hadoop环境(Linux)

    为了更好的获取和更新系统和软件,建议您更新镜像源为华为镜像源,详细操作,请参见如何使用自动化工具配置华为镜像源(x86_64和ARM)?。 操作流程 Linux实例手工搭建Hadoop环境的具体操作步骤如下: 安装JDK 安装Hadoop 配置Hadoop 配置SSH免密登录 启动Hadoop 实施步骤 安装JDK

    来自:帮助中心

    查看更多 →

  • 开发环境

    开发环境 操作系统: Windows 10 Unity开发环境: Unity版本:2020.1.17 Android SDK版本:API Level 31 Android JDK版本:JDK 1.8 Android NDK版本:NDK-r19 Android Gradle版本:gradle-6

    来自:帮助中心

    查看更多 →

  • 配置Hadoop数据传输加密

    缺省值为“3des”,表示采用3DES算法进行加密。此处的值还可以设置为“rc4”,避免出现安全隐患,不推荐设置为该值。 3des HDFS hadoop.rpc.protection 设置Hadoop中各模块的RPC通道是否加密。包括: 客户端访问HDFS的RPC通道。 HDFS中各模块间的RPC通道,如Da

    来自:帮助中心

    查看更多 →

  • 配置Hadoop数据传输加密

    ,需要使用安全加密通道,配置如下参数。安全Hadoop RPC相关信息请参考: MRS 3.2.0之前版本:https://hadoop.apache.org/docs/r3.1.1/hadoop-project-dist/hadoop-common/SecureMode.htm

    来自:帮助中心

    查看更多 →

  • 环境准备

    ation实例。 创建LakeFormation接入客户端,并与Hive在相同的虚拟私有、子网下,详细操作请参考管理接入客户端。 准备开发环境,详细操作请参考准备开发程序环境中“准备开发环境”部分,其中“安装和配置IntelliJ IDEA”为可选。 准备LakeFormation客户端。

    来自:帮助中心

    查看更多 →

  • CREATE FOREIGN TABLE (SQL on OBS or Hadoop)

    请根据实际替换。 ACCESS_KEY和SECRET_ACCESS_KEY是账号体系访问OBS服务的密钥。请根据实际替换。 DLI _ACCESS_KEY和DLI_SECRET_ACCESS_KEY是账号体系访问DLI服务的密钥。请根据实际替换。 TYPE表示创建的Server为DLI

    来自:帮助中心

    查看更多 →

共105条
看了本文的人还看了