计算
弹性云服务器 ECS
Flexus云服务
裸金属服务器 BMS
弹性伸缩 AS
镜像服务 IMS
专属主机 DeH
函数工作流 FunctionGraph
云手机服务器 CPH
Huawei Cloud EulerOS
网络
虚拟私有云 VPC
弹性公网IP EIP
虚拟专用网络 VPN
弹性负载均衡 ELB
NAT网关 NAT
云专线 DC
VPC终端节点 VPCEP
云连接 CC
企业路由器 ER
企业交换机 ESW
全球加速 GA
安全与合规
安全技术与应用
Web应用防火墙 WAF
企业主机安全 HSS
云防火墙 CFW
安全云脑 SecMaster
DDoS防护 AAD
数据加密服务 DEW
数据库安全服务 DBSS
云堡垒机 CBH
数据安全中心 DSC
云证书管理服务 CCM
边缘安全 EdgeSec
威胁检测服务 MTD
CDN与智能边缘
内容分发网络 CDN
CloudPond云服务
智能边缘云 IEC
迁移
主机迁移服务 SMS
对象存储迁移服务 OMS
云数据迁移 CDM
迁移中心 MGC
大数据
MapReduce服务 MRS
数据湖探索 DLI
表格存储服务 CloudTable
云搜索服务 CSS
数据接入服务 DIS
数据仓库服务 GaussDB(DWS)
数据治理中心 DataArts Studio
数据可视化 DLV
数据湖工厂 DLF
湖仓构建 LakeFormation
企业应用
云桌面 Workspace
应用与数据集成平台 ROMA Connect
云解析服务 DNS
专属云
专属计算集群 DCC
IoT物联网
IoT物联网
设备接入 IoTDA
智能边缘平台 IEF
用户服务
账号中心
费用中心
成本中心
资源中心
企业管理
工单管理
国际站常见问题
ICP备案
我的凭证
支持计划
客户运营能力
合作伙伴支持计划
专业服务
区块链
区块链服务 BCS
Web3节点引擎服务 NES
解决方案
SAP
高性能计算 HPC
视频
视频直播 Live
视频点播 VOD
媒体处理 MPC
实时音视频 SparkRTC
数字内容生产线 MetaStudio
存储
对象存储服务 OBS
云硬盘 EVS
云备份 CBR
存储容灾服务 SDRS
高性能弹性文件服务 SFS Turbo
弹性文件服务 SFS
云硬盘备份 VBS
云服务器备份 CSBS
数据快递服务 DES
专属分布式存储服务 DSS
容器
云容器引擎 CCE
容器镜像服务 SWR
应用服务网格 ASM
华为云UCS
云容器实例 CCI
管理与监管
云监控服务 CES
统一身份认证服务 IAM
资源编排服务 RFS
云审计服务 CTS
标签管理服务 TMS
云日志服务 LTS
配置审计 Config
资源访问管理 RAM
消息通知服务 SMN
应用运维管理 AOM
应用性能管理 APM
组织 Organizations
优化顾问 OA
IAM 身份中心
云运维中心 COC
资源治理中心 RGC
应用身份管理服务 OneAccess
数据库
云数据库 RDS
文档数据库服务 DDS
数据管理服务 DAS
数据复制服务 DRS
云数据库 GeminiDB
云数据库 GaussDB
分布式数据库中间件 DDM
数据库和应用迁移 UGO
云数据库 TaurusDB
人工智能
人脸识别服务 FRS
图引擎服务 GES
图像识别 Image
内容审核 Moderation
文字识别 OCR
AI开发平台ModelArts
图像搜索 ImageSearch
对话机器人服务 CBS
华为HiLens
视频智能分析服务 VIAS
语音交互服务 SIS
应用中间件
分布式缓存服务 DCS
API网关 APIG
微服务引擎 CSE
分布式消息服务Kafka版
分布式消息服务RabbitMQ版
分布式消息服务RocketMQ版
多活高可用服务 MAS
事件网格 EG
企业协同
华为云会议 Meeting
云通信
消息&短信 MSGSMS
云生态
合作伙伴中心
云商店
开发者工具
SDK开发指南
API签名指南
Terraform
华为云命令行工具服务 KooCLI
其他
产品价格详情
系统权限
管理控制台
客户关联华为云合作伙伴须知
消息中心
公共问题
开发与运维
应用管理与运维平台 ServiceStage
软件开发生产线 CodeArts
需求管理 CodeArts Req
部署 CodeArts Deploy
性能测试 CodeArts PerfTest
编译构建 CodeArts Build
流水线 CodeArts Pipeline
制品仓库 CodeArts Artifact
测试计划 CodeArts TestPlan
代码检查 CodeArts Check
代码托管 CodeArts Repo
云应用引擎 CAE
开天aPaaS
云消息服务 KooMessage
云手机服务 KooPhone
云空间服务 KooDrive

9.1.0.x版本说明

更新时间:2025-02-26 GMT+08:00
说明:

以下描述的Beta特性,表示该功能受限商用,使用时请联系技术支持。

9.1.0.213补丁(2025年2月)

该版本为补丁版本,主要修复以下问题:

表1 9.1.0.213补丁新增功能/解决问题列表

类别

功能或问题描述

问题原因

问题出现版本

修复建议

新增功能

Hive数据迁移到DWS后,在MySQL兼容模式下,支持配置空串是否自动转换为数字0。

-

-

-

解决问题

JDBC连接时,INSERT OVERWRITE INTO涉及external外表时,出现临时表残留。

JDBC连接时,访问过程中有多个阶段(parser、bind、exec),在parser阶段对SQL进行rewrite,rewrite过程中会创建INSERT OVERWRITE临时表;如果涉及external外表在exec阶段会重新rewrite,即重新创建临时表,且未将parser生成的临时表删除,即临时表创建两次,仅删除后创建的临时表,导致临时表残留。

9.1.0.211

升级到9.1.0.213及以上版本

业务收到100%倾斜告警,倾斜内容为OVERWRITE临时表倾斜。

INSERT OVERWRITE和修改分布键时,会建立一张临时普通表,将源表数据插入到临时表中,如果出现了倾斜,会告警一张临时表的表名,导致无法分析。

9.1.0.211

Turbo引擎下,由于数据精度对齐导致的结果集问题。

当部分DN scan基表数据0行时,其向CN返回的结果集为NULL(默认小数点位数为0),其与有数据DN返回的sum结果进行合并时,误判断对齐数据精度,导致使用int64类型存储最终sum结果,出现结果集非预期问题。

9.1.0.212

使用external外表检查分区路径时,没有判断分区路径是否为空的问题。

hdfs server external外表检查分区路径是否与分区字段定义对应时,没有判断分区路径是否为空。

9.1.0.211

使用external外表从Hive MetaStore获取分区信息时,未对空指针返回值进行异常处理的问题

从Hive MetaStore获取的分区信息partition values为空指针。

9.1.0.212

convert_tz函数在某种场景下时区转换结果不符合预期。

convert_tz函数处理MySQL兼容性时,未考虑特殊时区写法导致结果非预期。

9.1.0.210

打开LLVM场景下,substr结果集错误问题。

ascll编码库可以导入gbk数据,走LLVM后,LLVM底层进行substr计算时,未判断gbk数据列substr(a, start_index, len)调用时,gbk为双字节字符,判断字符宽度时,复用了utf-8的字符宽度逻辑,导致gbk字符宽度计算为4(实际上应该为2),子串的长度计算错误。

8.1.3.x

Turbo引擎下,inlist转hash特性时对字符串类型处理不当导致的结果集问题。

uniq hash表在Turbo引擎下内部进行字符串attlen16->attlen-1时,获取字符串长度错误的使用了strlen接口;hstoreopt delta表中出现attlen从-1变至定长场景需要提前进行batch转换。

9.1.0.212

9.1.0.212补丁(2025年1月)

该版本为补丁版本,主要修复已知问题。

【实时数仓】

  1. 修复date类型查询下推在MySQL兼容模式下的结果集问题。
  2. 修复limit为null或者all时,结果集错误问题。
  3. 修复统计信息错误重置,导致auto vacuum无法触发,影响空间无法及时回收的问题。
  4. 修复物化视图刷新和DDL并发的死锁问题。
  5. 修复冷热表扩容重分布异常后,手工删除临时表导致误清理原表数据的问题。
  6. 修复冷热表扩容的本地磁盘空间上涨问题。

【湖仓一体】

  1. 外表访问OBS,支持路径中带有特殊字符';'
  2. 优化parquet外表查询的任务分配,提升磁盘缓存命中率。

【备份恢复】

  1. 修复备份恢复可能残留中间状态文件,占用磁盘空间的问题。
  2. 修复弹性VW存在的情况下,备份失败问题。
  3. 备份恢复支持冷热表,备份恢复时间会变长。

【生态兼容】

  1. 修复PostGIS插件可能存在的创建失败问题。

【运维提升】

  1. 修复SQL监控指标采集不完整问题。
  2. 修复从备内存泄露问题。
  3. 修复智能运维未按时启动的问题。
  4. 修复drop database失败残留,导致调度器无法正常调度的问题。
  5. 修复高并发下,通信内存占用过高的问题。
  6. 修复异常情况下,GTM上残留sequence导致的性能问题。

【行为变更】

  1. 为避免复杂SQL执行可能报错,升级/新装会关闭谓词列analyze特性。
  2. 表定义包含sequence列的场景下,执行drop table操作时,如果与GTM的网络连接有问题,上一个版本会报warning,drop table可执行成功,但可能会导致GTM上sequence残留。新版本drop table会报错,需再次重试。由于DWS支持在事务块中支持drop table,如果drop table语句执行成功,但事务后续回滚,会存在sequence在GTM已经删除,表在CN上仍然存在的问题,需再次主动drop table,否则该表在后续使用时,会报sequence不存在的错误。
  3. truncate和select如果有加锁冲突时,支持truncate主动终止select操作,该特性默认关闭。在打开的情况下,上一个版本被终止的执行select的session会话会报错,但是连接不会关闭,新版本下,执行select的session会话会主动关闭,需业务主动重连。

9.1.0.211补丁(2024年12月13日)

该版本为补丁版本,主要修复已知问题。

9.1.0.210版本(2024年11月25日)

【存算分离】

  1. 支持通过使用explain warmup进行缓存预热,可以把数据预热到本地磁盘缓存的冷端或者热端。
  2. 弹性VW功能增强:更灵活的业务分流方式,支持以CN粒度配置业务分流到主VW或者弹性VW。
  3. 存算分离表支持insert并行,提升数据加载性能。
  4. 存算分离表支持回收站,可以对drop table/partition, truncate table/partition等误操作进行快速闪回。
  5. 冷热表支持使用磁盘缓存、异步IO进行性能加速。

【实时数仓】

  1. limit…offset翻页场景性能大幅提升;inlist场景性能大幅提升。
  2. 正式商用Binlog特性。
  3. 自动分区支持整型和变长类型的时间列。

【湖仓一体】

  1. parquet/orc读写新增对zstd压缩格式的支持。
  2. Create table like支持使用external schema中的表作为like源表。
  3. 外表支持并行导出。

【高可用】

  1. 存算分离表和冷热表支持增量备份恢复。
  2. 通过并行拷贝优化存算分离场景的备份性能。

【生态兼容】

  1. 兼容MySQL的replace into语法,interval时间类型。
  2. pg_get_tabledef导出支持字段展示comment。

【运维&稳定性提升】

  1. 磁盘使用率高时,支持配置从备数据转储到OBS。
  2. 当数据库即将发生只读时,拦截一些发生下盘的语句和产生新表和新物理文件的语句,以此快速回收磁盘空间,保证其它语句执行。
  3. 支持审计日志转储到OBS。
  4. 新增轻量级锁视图pgxc_lwlocks
  5. 常规锁视图新增锁获取和等待时间戳。
  6. 全局死锁检测功能默认打开。
  7. 新增vacuum full与select之间的让锁功能。
  8. gs_view_invalid增加失效时间,辅助运维人员清理无效对象

【规格&约束】

  1. 最大支持256个VW,每个VW 最大支持1024个DN。建议VW不超过32个,每个VW不超过128个DN。
  2. OBS存算分离表不支持容灾,不支持细粒度备份恢复。

【行为变更】

  1. 升级开启max_process_memory自适应功能,主备均衡模式下,增加DN可用内存。
  2. 扩容数据重分布默认开启数据一致性校验,扩容时间会增加10%。
  3. 新建Hstore_opt表,默认打开turbo引擎,压缩级别默认为middle。
  4. 存算分离表OBS路径默认显示为相对路径。
  5. 使用磁盘缓存(diskcache)必须同时打开异步IO参数。
  6. 列存表的索引清理时间间隔从1小时调小为10分钟,可以更快速地清理占用的索引空间。
  7. CREATE TABLE和ALTER TABLE不支持将有on update表达式的列设置为分布列。
  8. Parquet数据查询,读取INT96格式保存的Timestamp数据时不再做8小时修正。
  9. max_stream_pool用于控制stream线程池缓存的线程数量,默认值由65525调整至1024,避免空闲线程内存占用过大。
  10. track_activity_query_size参数从动态生效调整为重启生效。
  11. 不再支持逻辑复制功能,相关接口调用会报错。

9.1.0.105补丁(2024年10月23日)

该版本为补丁版本,主要修复已知问题。

9.1.0.102补丁(2024年9月25日)

该版本为补丁版本,主要修复已知问题。

【升级收编】

  1. 支持9.0.3版本升级到9.1.0系列。

【修复已知问题】

  1. 存算分离版本支持alter database xxx rename to yyy。
  2. 修复存算分离表 \d+ 空间size显示错误问题。
  3. 修复备份恢复之后,异步排序未运行的问题。
  4. 修复bitmap index列删除后,无法使用Create Table Like语法的问题。
  5. 修复Turbo引擎在Group By场景下,hash算法冲突导致的性能回退问题。
  6. 调度器对于失败任务的处理行为和8.3.0版本保持一致。
  7. 修复故障场景下,pg_stat_object空间膨胀问题。
  8. 修复8.3.0升级到9.1.0,DataArts Studio下发的Vacuum Full作业报错问题。
  9. 修复JSON字段计算CPU和内存消耗高问题。

【功能增强】

  1. ORC外表支持zstd压缩格式。
  2. GIS新增支持st_asmvtgeom/st_asmvt/st_squaregrid函数。

9.1.0.100版本(2024年8月12日)

【弹性架构

  1. 架构升级:基于华为云对象存储服务OBS,推出存算分离架构3.0,计算、存储分层弹性,存储按需收费,降本增效;计算支持多VW(Virtual Warehouse,逻辑集群,以下简称VW)部署,业务隔离性更好,解决业务间的资源争抢问题。
  2. 推出弹性VW特性,弹性VW完全无状态,支持读写加速,灵活应对并发处理能力不足、业务波峰波谷不均衡、数据加载和数据分析资源争抢等问题,详情参见弹性增删逻辑集群
  3. 增删DN节点,支持弹性扩容和经典扩容,弹性扩容不会对OBS上的数据进行重分布,经典扩容会重分布所有数据,系统会根据bucket总数和DN数目,自动决定采用何种扩容方式。
  4. 存算分离架构(DWS 3.0)通过磁盘缓存和IO异步读写提升性能,在磁盘缓存全命中时,持平存算一体架构(DWS 2.0)。
图1 存算分离架构

【实时处理

  1. 推出向量化Turbo加速引擎,tpch 1000x性能翻倍。
  2. 推出hstore升级版本hstore_opt,压缩比更高,配合Turbo引擎,空间比列存节省40%。
  3. 支持Flink直连DN入库,批量入库场景,性能线性提升,详情参见Flink实时消费Binlog
  4. 支持Binlog(Beta特性),配合Flink可实现增量计算,详情参见订阅实时数仓Binlog
  5. 全列更新性能显著提升,资源消耗显著下降。
  6. 支持物化视图(Beta特性),详情参见CREATE MATERIALIZED VIEW
  7. Varchar/text列支持bitmap index,bloom filter,提升粗过滤效果,需建表时显式指定,详情参见CREATE TABLE
  8. 支持runtime filter特性,提升topK和join场景性能,详情参见GUC参数runtime_filter_type、runtime_filter_ratiox
  9. 支持异步排序,提升PCK列的min-max粗过滤效果。
  10. 大幅提升IN场景的性能。
  11. Analyze支持分区统计信息增量合并(分区表只收集变化分区的统计信息,复用历史分区统计信息),支持只采集谓词列的统计信息,提升Analyze执行效率,详情参见:
  12. 支持大宽表,最大支持5000列。
  13. Create index/reindex支持并行。
  14. 新增函数pgxc_get_cstore_dirty_ratio,用于获取目标表的CU、Delta以及CUDesc的脏页率(仅支持hstore_opt)

【融合统一

  1. 一键湖仓:通过create external schema直接对接HiveMetaStore元数据,避免复杂的create foreign table操作,降低维护代价,详情参见跨集群访问HiveMetaStore元数据
  2. 支持parquet/orc格式读写,支持覆盖写、追加写,支持多级分区读写。
  3. 支持hudi格式读。
  4. 外表Analyze支持并行执行,显著提升统计信息收集的精度和速度;外表不具备AutoAnalyze能力,建议导入数据之后手动做Analyze收集统计信息。
  5. 外表支持使用本地disk cache进行读加速。
  6. 外表支持in/not in等谓词下推,增强分区剪枝能力。
  7. 外表支持复杂类型map/struct/array,支持bytea/blob类型。
  8. 外表支持数据脱敏和行级访问控制功能。
  9. GDS导出外表支持容错参数compatible_illegal_char
  10. 新增orc/parquet文件解析函数read_foreign_table_file,便于问题定界。

【高可用

  1. 极大提升unlogged table故障恢复速度。
  2. 备份集支持跨版本恢复,细粒度表级恢复支持恢复低版本集群(8.1.3及以后版本)生成的备份集。
  3. 细粒度表级恢复支持恢复至异构集群(节点数、DN数、CN数均可不一致)。
  4. 细粒度恢复支持权限、注释:集群级物理细粒度备份,schema级物理细粒度备份新增支持备份权限与注释,表级恢复以及schema级灾难恢复支持恢复权限与注释。

【空间优化

  1. 列存支持jsonb/json类型,历史版本Json类型只能创建为行存表,新版本可以创建为列存表。
  2. 冷热表支持分区级index unusable,对于冷分区通过该特性节省本地索引空间。
  3. 推出hstore升级版本hstore_opt,压缩比更高,配合Turbo引擎,空间比列存节省40%。

【运维&稳定性提升

  1. 查询过滤器增强,支持按SQL特征、类型、来源、处理数据量进行拦截,详情参见:CREATE BLOCK RULE
  2. 空闲连接自动回收,及时释放内存资源,详情参见GUC参数syscache_clean_policy用于设置DN空闲连接内存及数量清理策略
  3. 新增函数gs_switch_respool,支持动态切换queryid/threadid使用的资源池,可以动态调整SQL使用的资源,详情参见gs_switch_respool
  4. 新增视图pg_sequences显示当前用户具有访问权限的序列的属性信息。
  5. 新增函数查询指定共享内存下内存申请的所有chunk信息详情参见:
  6. 新增函数pgxc_query_resource_info显示指定query_id对应的SQL语句在所有DN上的资源使用信息详情参见pgxc_query_resource_info
  7. 新增函数pgxc_stat_get_last_data_access_timestamp返回目标表最近一次的访问时间,方便业务清理长期不访问的表,详情参见pgxc_stat_get_last_data_access_timestamp
  8. SQL Hint支持更多的Hint设置可以更准确的控制执行计划的生成详情参见配置参数的hint
  9. TopSQL增加语法解析和磁盘缓存相关的性能字段方便定位性能问题详情参见实时TopSQL
  10. 预置数据脱敏管理员,具有创建、修改、删除脱敏策略的权限。
  11. 审计日志支持记录级联删除的对象
  12. 审计日志支持转储到OBS对象存储。

【生态兼容

  1. create schema/create index/create sequence 支持 if not exists。
  2. Merge into支持指定分区详情见MERGE INTO
  3. TD兼容模式下支持比较字符串忽略尾部空格
  4. 支持通过GUC参数配置控制varchar(n)的n是否自动转换为nvarchar2
  5. PostGIS 升级到3.2.2版本

【规格&约束

  1. 最大支持256个VW,每个VW 1024 DN,建议VW不超过32个,每个VW不超过128 DN。
  2. OBS存算分离表不支持容灾,只支持全量备份恢复。

【行为变更】

  1. 不支持全库vacuum full/analyze/cluster,语法不会报错,但实际不会执行,只支持单表vacuum full/analyze/cluster。
  2. OBS存算分离表,不支持delta表,enable_delta=on不会报错,但是delta表不生效。如果有delta表诉求,可以使用hstore-opt表替代。
  3. 默认开启numa绑核,可动态关闭(enable_numa_bind)。
  4. 8.3.0 Turbo表中的numeric(38)升级到910版本会修改为numeric(39),显示宽度不受影响,版本回退也不会回滚。
  5. 由于支持存算分离,DWS 3.0默认EVS存储空间比DWS 2.0少一半(客户买1T EVS存储,3.0是主备各500G,2.0是主备各1T),如果是DWS 2.0迁移到DWS 3.0,对EVS存储仍然有强诉求,那么DWS 3.0买EVS存储时要买DWS 2.0 2倍的空间。

我们使用cookie来确保您的高速浏览体验。继续浏览本站,即表示您同意我们使用cookie。 详情

文档反馈

文档反馈

意见反馈

0/500

标记内容

同时提交标记内容