为什么OBS存储的数据丢失了？ 请检查桶中是否设置了生命周期过期删除规则，符合规则的对象会被删除。 请检查桶是否授权了其他用户桶的写权限，被授权的用户都可以删除对象。如果您开启了日志记录功能，可以通过日志记录查询到删除对象的用户。 父主题： 产品咨询

查看更多 →

，需要使用安全加密通道，配置如下参数。安全Hadoop RPC相关信息请参考： MRS 3.2.0之前版本：https://hadoop.apache.org/docs/r3.1.1/hadoop-project-dist/hadoop-common/SecureMode.htm

查看更多 →

org/repos/dist/release/hadoop/common/中下载Hadoop的样例程序。 例如，选择hadoop-x.x.x版本，下载“hadoop-x.x.x.tar.gz”，解压后在“hadoop-x.x.x\share\hadoop\mapreduce”路径下获取“hadoop-mapreduce-examples-x

查看更多 →

SQL on Hadoop DWS支持直接读取存储在Hadoop HDFS文件系统上的结构化数据，对外提供标准SQL语言查询接口，通过向量化引擎完成Hadoop原生数据的复杂分析查询工作。 技术架构 DWS将HDFS上存储的结构化数据映射为外部表，从而重用已有的成熟数据库SQL编译

查看更多 →

固定目录 存放Hadoop相关的文件 否 导致Yarn启动失败 /user/hive 固定目录 Hive相关数据存储的默认路径，包含依赖的spark lib包和用户默认表数据存储位置等 否 用户数据丢失 /user/omm-bulkload 临时目录 HBase批量导入工具临时目录

查看更多 →

/user/mapred/hadoop-mapreduce-xxx.tar.gz 固定文件 MR分布式缓存功能使用的各jar包 否 MR分布式缓存功能无法使用 /user/hive 固定目录 Hive相关数据存储的默认路径，包含依赖的spark lib包和用户默认表数据存储位置等 否 用户数据丢失 /user/omm-bulkload

查看更多 →

数据存储 如何对OBS的文件重命名？ Notebook停止或者重启后，“/cache”下的文件还存在么？如何避免重启？ 如何使用pandas库处理OBS桶中的数据？ 在Notebook中，如何访问其他账号的OBS桶？ JupyterLab默认工作路径是什么？ 父主题： Notebook

查看更多 →

为什么存储小文件过程中缓存中的数据会丢失 问题 在存储小文件过程中，系统断电，缓存中的数据丢失。 回答 由于断电，当写操作完成之后，缓存中的block不会立即被写入磁盘，如果要同步地将缓存的block写入磁盘，用户需要将“客户端安装路径/HDFS/hadoop/etc/hadoop/hdfs-site

查看更多 →

为什么存储小文件过程中，缓存中的数据会丢失 问题 在存储小文件过程中，系统断电，缓存中的数据丢失。 回答 由于断电，当写操作完成之后，缓存中的block不会立即被写入磁盘，如果要同步地将缓存的block写入磁盘，用户需要将“客户端安装路径/HDFS/hadoop/etc/hadoop/hdfs-site

查看更多 →

_HOME}/hadoop/data3/dn”。 例如：原有的数据存储目录为“/srv/BigData/hadoop/data1”，“/srv/BigData/hadoop/data2”，如需将data1目录的数据迁移至新建的“/srv/BigData/hadoop/data3”

查看更多 →

业的操作指导。 Hadoop集群完全使用开源Hadoop生态，采用YARN管理集群资源，提供Hive、Spark离线大规模分布式数据存储和计算，进行海量数据分析与查询。 本指导的基本内容如下所示： 购买集群 安装MRS集群客户端 准备Hadoop应用程序运行数据 提交作业并查看执行结果

查看更多 →

卸载磁盘时数据会丢失吗 不会。 为了保证您的数据不丢失，建议按照以下流程卸载磁盘： 关闭待卸载磁盘所挂载的 云服务器 。 待云 服务器 关机后，卸载磁盘。

查看更多 →

_HOME}/hadoop/data3/dn”。 例如：原有的数据存储目录为“/srv/BigData/hadoop/data1”，“/srv/BigData/hadoop/data2”，如需将data1目录的数据迁移至新建的“/srv/BigData/hadoop/data3”

查看更多 →

Kafka Consumer消费数据丢失 问题背景与现象 用户将消费完的数据存入数据库，发现数据与生产数据不一致，怀疑Kafka消费丢数据。 可能原因 业务代码原因 Kafka生产数据写入异常 Kafka消费数据异常 解决办法 Kafka排查： 通过consumer-groups

查看更多 →

自定义密钥可用。 对于自定义密钥可用的加密云硬盘，卸载云硬盘时，数据不会丢失，也可以正常重新挂载。 为了保证您的数据不丢失，建议按照卸载云硬盘流程操作。 非加密云硬盘 卸载云硬盘时，数据不会丢失，也可以正常重新挂载。 为了保证您的数据不丢失，建议按照卸载云硬盘流程操作。 如果卸载正在备份的云硬盘，备份会失败。

查看更多 →

Hadoop对接OBS 概述 Hadoop系统提供了分布式存储、计算和资源调度引擎，用于大规模数据处理和分析。OBS服务实现了Hadoop的HDFS协议，在大数据场景中可以替代Hadoop系统中的HDFS服务，实现Spark、MapReduce、Hive等大数据生态与OBS服务的对接，为大数据计算提供“ 数据湖 ”存储。

查看更多 →

org/repos/dist/release/hadoop/common/中下载Hadoop的样例程序。 例如，选择hadoop-x.x.x版本，下载“hadoop-x.x.x.tar.gz”，解压后在“hadoop-x.x.x\share\hadoop\mapreduce”路径下获取“hadoop-mapreduce-examples-x

查看更多 →

部署安全集群时，需要使用安全加密通道，配置如下参数。安全Hadoop RPC相关信息请参考： https://hadoop.apache.org/docs/r3.1.1/hadoop-project-dist/hadoop-common/SecureMode.html#Data_Encryption_on_RPC

查看更多 →

表4 对象存储 参数 说明 云存储类型 选择“对象存储”。 对象存储有标准存储和低频访问存储两个存储类型，主要适用于大数据分析、原生云应用程序数据、静态网站托管、备份/活跃归档等场景。 分配方式 使用已有存储 选择已创建的对象存储卷。您需要提前创建对象存储卷，请参考对象存储（OBS）。

查看更多 →

64}$ 数据存储： 配置项英文名：dataStore 说明： 数据存储，如果需要把管道输出数据保存，则需要指定存储。如果没有指定存储，管道输出数据则不保存。 必选： 是 子配置项： 数据存储配置包含如下子配置项： 存储组ID、存储组名称、数据存储ID、数据存储名称、数据存储属性。 存储组ID：

查看更多 →

选择待查看的云服务资源所在行的“配置数据存储”，进入“配置数据存储”页面。 或单击页面左侧的“主机监控”，选择待查看的E CS 资源所在行的“操作 > 配置数据存储”，进入“配置数据存储”页面。 （可选）批量配置数据存储。 在“云服务监控”页面，勾选需要“配置数据存储”的云服务资源，单击“批量配置数据存储”，进入“批量配置数据存储”页面。

查看更多 →