Alluxio应用开发流程介绍 开发流程中各阶段的说明如图1和表1所示。 图1 Alluxio应用程序开发流程 表1 Alluxio应用开发的流程说明 阶段 说明 参考文档 了解基本概念 在开始开发应用前，需要了解Alluxio的基本概念。 Alluxio常用概念 准备开发和运行环境

查看更多 →

8或以上、Maven 3.3.9或以上 安装和配置Eclipse或IntelliJ IDEA 用于开发Alluxio应用程序的工具。 网络 确保客户端与Alluxio服务主机在网络上互通。 父主题： 准备Alluxio应用开发环境

查看更多 →

下述命令定义了各种数据来源： var alluxio = spark.read.textFile("alluxio://alluxio-master:19998/sample-1g") var obs = spark.read.textFile("obs://gene-container-gtest/sample-1g")

查看更多 →

华为云 MRS 对接OBS 对接步骤 配置存算分离集群。 详细操作，请参见使用委托方式配置存算分离集群。 使用存算分离集群。 详细操作，请参见使用存算分离集群。 父主题： 对接大数据平台

查看更多 →

华为云OBS之间迁移教程 背景信息 准备工作 创建迁移任务 创建迁移任务组 父主题： 各云服务商迁移教程

查看更多 →

SecurityUtil.buildDTServiceName不支持在uri中填写多个alluxiomaster的地址。 处理步骤 使用alluxio:///或者alluxio://<主AlluxioMaster的ip或hostname>:19998/进行访问。 父主题： 使用Alluixo

查看更多 →

用户对这些组件的访问权限 。 商用 Ranger简介 2 MRS支持Alluxio组件 Alluxio是一个面向基于云的数据分析和人工智能的数据编排技术。在MRS的大数据生态系统中，Alluxio 位于计算和存储之间，为包括 Apache Spark、Presto、Mapreduce

查看更多 →

导入并配置Alluxio样例工程 在获取MRS样例工程，下载样例工程到本地。 导入样例工程到Eclipse开发环境。 打开Eclipse，选择“File > Import”。显示“Import”窗口，选择Existing Maven Projects，单击“next”按钮。 在“Import

查看更多 →

OBS 对象存储服务 （Object Storage Service，OBS）是一个基于对象的海量存储服务，为客户提供海量、安全、高可靠、低成本的数据存储能力。详情参考帮助文档。本次实践，使用OBS来存储xxxx服务平台上传的图片、文件或者通过接口调用生成的json文件。 登录华为云OBS管理控制台

查看更多 →

组件介绍 Alluxio CarbonData ClickHouse CDL DBService Apache Doris Flink Flume HBase HDFS HetuEngine Hive Hudi Hue Impala IoTDB Kafka KafkaManager

查看更多 →

青云QingStor迁移至华为云OBS教程 背景信息 准备工作 创建迁移任务 创建迁移任务组 父主题： 各云服务商迁移教程

查看更多 →

访问OBS 操作场景 虚拟专用网络 、云专线线下节点通过终端节点高速访问OBS。 仅“拉美-墨西哥城一”、“拉美-圣保罗一”和“拉美-圣地亚哥”区域支持通过控制台直接选择“网关”类型的OBS终端节点服务，因此本场景仅适用于这些区域。 其他区域的“网关”类型的OBS终端节点服务目前需

查看更多 →

linkConfig.obsBucketType 否 String OBS桶类型。 对象桶：OB。 并行文件系统：PFS。 说明： 桶类型分为对象桶和并行文件系统，对象桶过滤文件会比较慢，建议客户使用并行文件桶。 linkConfig.server 是 String OBS 服务器 的终端节点（Endpoint）。

查看更多 →

OBS资源 资源是服务中存在的对象。在OBS中，资源包括桶和对象。您可以在创建自定义策略时，通过指定资源路径来选择特定资源。 表1 OBS的指定资源与对应路径 资源类型 资源名称 资源路径 bucket 桶 【格式】 obs:*:*:bucket:桶名称 【说明】 对于桶资源，I

查看更多 →

供的样例工程汇总参见表1。 表1 各组件样例工程汇总（2.x版本） 组件 样例工程位置 描述 Alluxio alluxio-examples 使用Alluxio通过公共接口连接到存储系统示例程序。可实现写文件、读文件等功能。 Flink flink-examples 该样例工程提供以下样例程序：

查看更多 →

连接OBS 介绍 DIS可以向对象存储服务（Object Storage Service，简称OBS）上传数据。 前提条件 已参考自动创建委托创建IAM委托，授权DIS服务去访问用户的OBS。 数据转储 用户在新增转储任务时可设置”数据转储地址”。当“数据转储”设置为“OBS”时，DIS会将通道数据周期性导入OBS。

查看更多 →

OBS授权 注：V2版本，用户可以通过请求BODY直接传BASE64文件，OBS授权及使用不是必选项。 OBS授权流程： 1. 用户需要进入华为云统一身份认证，点击创建委托。 图1 进入统一认证身份服务 图2 创建委托 2. 配置用户信息，点击下一步；在委托名称框内填入“oroas_admin_trust”

查看更多 →

linkConfig.obsBucketType 否 String OBS桶类型。 对象桶：OB。 并行文件系统：PFS。 说明： 桶类型分为对象桶和并行文件系统，对象桶过滤文件会比较慢，建议客户使用并行文件桶。 linkConfig.server 是 String OBS服务器的终端节点（Endpoint）。

查看更多 →

Delete OBS 约束限制 该功能依赖于OBS服务。 功能 通过Delete OBS节点在OBS服务中删除桶和目录。 参数 用户可参考表1和表2配置Delete OBS节点的参数。 表1 属性参数 参数 是否必选 说明 节点名称 是 节点名称，可以包含中文、英文字母、数字、“

查看更多 →

OBS简介 对象存储服务（Object Storage Service，OBS）是一个基于对象的海量存储服务，为客户提供海量、安全、高可靠、低成本的数据存储能力，包括：创建、修改、删除桶，上传、下载、删除对象等。 OBS为用户提供了超大存储容量的能力，适合存放任意类型的文件，适合

查看更多 →

连接OBS 介绍 DIS可以向对象存储服务（Object Storage Service，简称OBS）上传数据。 前提条件 已参考自动创建委托创建IAM委托，授权DIS服务去访问用户的OBS。 数据转储 用户在新增转储任务时可设置”数据转储地址”。当“数据转储”设置为“OBS”时，DIS会将通道数据周期性导入OBS。

查看更多 →