加解密大量数据 场景说明 当有大量数据（例如：照片、视频或者数据库文件等）需要加解密时，用户可采用信封加密方式加解密数据，无需通过网络传输大量数据即可完成数据加解密。 加密和解密原理 大量数据加密 图1 加密本地文件 说明如下： 用户需要在KMS中创建一个用户主密钥。 用户调用K

查看更多 →

示例2：加解密大量数据 场景描述 在大量数据加解密的场景，您的程序会经常使用到对数据密钥的加解密。 大量数据加密的流程如下： 在KMS中创建一个用户主密钥。 调用KMS的“create-datakey”接口创建数据加密密钥。用户得到一个明文的数据加密密钥和一个密文的数据加密密钥。其

查看更多 →

数据转发至OBS长期储存（联通用户专用） 非联通用户请查看 设备接入服务 。 场景说明 对于设备上报的数据，即使创建应用时开启了存储数据能力，设备管理服务也只保存7天的历史数据。 若您希望长期保存数据，可以选择让平台将设备上报数据推送给应用 服务器 ，由应用服务器进行保存；还可以选择让平

查看更多 →

大量数据文件，训练过程中读取数据效率低？ 当数据集存在较多数据文件（即海量小文件），数据存储在OBS中，训练过程需反复从OBS中读取文件，导致训练过程一直在等待文件读取，效率低。 解决方法 建议将海量小文件，在本地压缩打包。例如打包成.zip格式。 将此压缩后的文件上传至OBS。

查看更多 →

Loader作业导入大量数据至HDFS时报错 问题 大量数据写入HDFS时偶现“NotReplicatedYet Exception: Not replicated yet”错误。 图1 报错信息 回答 以下原因可能造成该报错： HDFS客户端向NameNode发送新Block申

查看更多 →

如何从第三方云厂商将日志搬迁到华为云LTS? 若用户是在第三方云厂商使用日志服务，有大量数据在第三方云厂商对象存储上，希望将日志搬迁到华为云，对于不同的日志类型，请参考如下方法： 热日志（用于搜索分析）：典型保存7-14天，用于应用运维，该日志不需要搬迁到华为云。用户在华为云直接

查看更多 →

DLI 校验任务出现大量失败表 问题描述 创建并执行DLI校验任务时，出现大量失败表，查看Edge日志报错信息如下： 问题分析 出现该问题可能是因为请求已达到接口流控上限。 解决方法 请联系技术支持，提高接口流控的阈值。 父主题： 大数据校验

查看更多 →

集群启动Yarn后产生大量作业占用资源 问题现象 MRS 2.x及之前版本集群，用户的MRS集群启动Yarn后产生大量作业，占用集群计算资源。 原因分析 集群安全组入口方向的Any协议源地址配置为0.0.0.0/0，导致集群可能遭受了外部网络攻击。 处理步骤 登录MRS集群页面，

查看更多 →

删除大量文件后重启NameNode耗时长 问题 删除大量文件之后立刻重启NameNode（例如删除100万个文件），NameNode启动慢。 回答 由于在删除了大量文件之后，DataNode需要时间去删除对应的Block。当立刻重启NameNode时，NameNode会去检查所有

查看更多 →

开通数据库代理后有大量select请求分发到主节点 原因分析： 延时阈值参数 只读实例同步主实例数据时允许的最长延迟时间。延时阈值仅在存在只读实例时生效。为避免只读实例读取的数据长时间和主实例不一致，当一个只读实例的延迟时间超过设置的延迟阈值，则不论该只读实例的读权重是多少，读请求都不会转发至该只读实例。

查看更多 →

大量回滚事务拖慢Undo空间回收 问题现象 使用gs_async_rollback_xact_status视图查看有大量的待回滚事务，且待回滚的事务数量维持不变或者持续增高。 select * from gs_async_rollback_xact_status()； 处理方法

查看更多 →

大量回滚事务拖慢Undo空间回收 问题现象 使用gs_async_rollback_xact_status视图查看有大量的待回滚事务，且待回滚的事务数量维持不变或者持续增高。 select * from gs_async_rollback_xact_status()； 处理方法

查看更多 →

运行Spark任务发现大量shuffle结果丢失 问题现象 Spark任务运行失败，查看任务日志发现大量打印shuffle文件丢失。 原因分析 Spark运行的时候会将临时产生的shuffle文件放在executor的临时目录中，方便后面获取。 而当某个executor异常退出时

查看更多 →

大量回滚事务拖慢Undo空间回收 问题现象 使用gs_async_rollback_xact_status视图查看有大量的待回滚事务，且待回滚的事务数量维持不变或者持续增高。 SELECT * FROM gs_async_rollback_xact_status()； 处理方法

查看更多 →

开通数据库代理后，还是有大量select请求分发到主节点 原因分析： 读权重参数 设置主节点和只读节点的读权重分配，可以控制读请求的分发配比，仅在存在只读节点时生效。 例如：一主两只读，设置的读权重为1(主):2(只读1):3(只读2)，那么会按照1:2:3将读请求分发到主和只读

查看更多 →

TaurusDB标准版实例迁移中，大量Binlog文件导致数据盘空间不足 TaurusDB标准版实例迁移中，短时间内产生大量Binlog文件，导致数据盘空间不足（91%），影响业务正常运行 。 解决方案 请及时清理过期数据。 随着业务数据的增加，原来申请的数据库磁盘容量可能会不足，建议用户扩容磁盘空间，确保磁盘空间足够。

查看更多 →

for MySQ L实例 迁移中，大量binlog文件导致数据盘空间不足 RDS for MySQL实例迁移中，短时间内产生大量binlog文件，导致数据盘空间不足（91%），影响业务正常运行 。 解决方案 请及时清理过期数据。 随着业务数据的增加，原来申请的数据库磁盘容量可能会不足，建议用户扩容磁盘空间，确保磁盘空间足够。

查看更多 →

ntpdate修改时间导致HDFS出现大量丢块 问题背景与现象 用ntpdate修改了集群时间，修改时未停止集群，修改后HDFS进入安全模式，无法启动。 退出安全模式后启动，hfck检查丢了大概1 TB数据。 原因分析 查看NameNode原生页面发现有大量的块丢失。 图1 块丢失 查看原生页面Datanode

查看更多 →

大量回滚事务拖慢Undo空间回收 问题现象 使用gs_async_rollback_xact_status视图查看有大量的待回滚事务，且待回滚的事务数量维持不变或者持续增高。 SELECT * FROM gs_async_rollback_xact_status()； 处理方法

查看更多 →

删除大量文件后重启NameNode耗时长 问题 删除大量文件之后立刻重启NameNode（例如删除100万个文件），NameNode启动慢。 回答 由于在删除了大量文件之后，DataNode需要时间去删除对应的Block。当立刻重启NameNode时，NameNode会去检查所有

查看更多 →