更新时间:2024-08-13 GMT+08:00
分享

MRS 3.1.2-LTS补丁说明

MRS 3.1.2-LTS.0.3补丁基本信息

表1 补丁基本信息

补丁号

MRS 3.1.2-LTS.0.3

发布时间

2022-12-08

安装前处理

如果MRS集群节点故障或者网络不通,需要先隔离该节点,否则补丁会安装失败。

解决的问题

MRS 3.1.2-LTS.0.3 修复问题列表:

  • 修复log4j漏洞(CVE-2021-44228),log4j升级到2.17.2版本
  • 包含MRS 3.1.2-LTS.0.2修复问题

补丁兼容关系

MRS 3.1.2-LTS.0.3补丁包中包含所有MRS 3.1.2-LTS版本单点问题修复补丁。

安装补丁的影响

请参考安装补丁的影响

MRS 3.1.2-LTS.0.2补丁基本信息

表2 补丁基本信息

补丁号

MRS 3.1.2-LTS.0.2

发布时间

2022-10-31

解决的问题

MRS 3.1.2-LTS.0.2 修复问题列表:

  • 解决异常导致Map数量和Reduce数量都为0时,中断任务问题
  • 解决Hive向量化if语句中Output column number expected to be 0 when isRepeating报错问题
  • 解决Hive向量化if语句中由于数据被覆盖导致数据错误和NPE问题
  • 解决开启向量化时,str_to_map函数执行长时间异常问题
  • 解决Hive开启向量化参数后使用split函数执行MR任务效率很低问题
  • 解决Hive开启向量化后查询包含nvl函数和decimal(10,5)字段类型的表报错问题
  • 解决Tez分区空目录报错,报目录不存在问题
  • 解决MR任务提交慢问题
  • 解决Spark2x创建UDF的jar包放到OBS路径上会查询UDF报错
  • 解决Alluxio jar包冲突问题
  • 解决Executor日志滚动不释放问题
  • 解决Hive元数据库查询网络阻塞问题
  • 解决MRS对接DCS做缓存,缓存键一天多次被清空问题
  • 解决CBG访问OBS概率性无权限问题
  • 解决长时间使用客户端出现死锁问题
  • 解决Yarn运行偶现RM主备切换问题
  • 解决Spark SQL外表动态分区执行insert overwrite报错问题
  • 解决周期清理任务清理.hive-staging时,查询数据库失败问题
  • 解决NameNode在大量删除操作的时候会出现RPC请求处理慢的问题
  • 解决Hive配置Redis缓存频繁访问表key导致Redis热键问题
  • 解决磁盘写速率和磁盘读速率两个指标无法正常上报问题
  • 解决查看指定时间段内的资源概况,监控数据部分缺失问题
  • 解决NameNode退服缓存残留问题
  • 解决Metastore监控指标缺失问题
  • 解决认证krb_test_user失败问题
  • 解决Yarn所有业务中断,报错Timer already cancelled问题
  • 解决实例配置页面无单位转换问题
  • 解决相同AZ下,扩容的节点返回的AZ有误问题
  • 解决[YARN-10854]问题
  • 添加自定义的超时推测机制
  • 使hive.mapreduce.per.task.max.splits适用于Tez
  • GetSplit的listStatus优化
  • 适配hive submit job阶段的内存限制
  • Superior调度性能提升
  • 物理资源感知特性
  • ORC合并文件时从文件中读取ORC列压缩属性
  • Hiveserver堆内存监控限制
  • 大数据量场景,Hive分批加载元数据,提升Hiveserver容错能力
  • Hive支持Redis缓存连接失败重试
  • 支持OBSA客户端数据监控上报
  • 支持OBS流控重试机制
  • pms性能优化
  • mrs-obs-provider的缓存过期优化
  • 优化删除分区的逻辑
  • Yarn的refresh node速度优化
  • 删除无效告警

补丁兼容关系

MRS 3.1.2-LTS.0.2补丁包中包含所有MRS 3.1.2-LTS版本单点问题修复补丁。

安装补丁的影响

请参考安装补丁的影响

安装补丁的影响

  • MRS 3.1.2-LTS.0.3补丁安装后,目录“/srv/BigData/data1/nm/localdir/filecache/”下的log4j旧版本的包,需要重新提交相关的yarn作业,才会加载新的log4j的包。
  • MRS 3.1.2-LTS版本的补丁安装过程中会自动重启OMS,安装过程中将影响作业提交以及集群扩缩容等管控面集群控制功能,请选择适当的时间进行补丁安装。
  • MRS 3.1.2-LTS版本的补丁安装完成后需要在FusionInsight Manager Web界面重启Flink、Hadoop、HBase、HDFS、Hive、MapReduce、Meta、Spark2x、Ranger和Yarn服务,以使补丁功能生效。组件重启期间,部分业务可能短暂不可用。请选择适当的时间进行重启,以降低对业务持续性的影响。

相关文档