中软国际数据治理专业服务解决方案实践

）则只保留最后一行。 WHERE rownum = 1: Flink 需要 rownum = 1 以确定该查询是否为去重查询。 注意事项 无 示例 根据order_id对数据进行去重，其中proctime为事件时间属性列 SELECT order_id, user, product, number

查看更多 →

）则只保留最后一行。 WHERE rownum = 1: Flink 需要 rownum = 1 以确定该查询是否为去重查询。 注意事项 无 示例 根据order_id对数据进行去重，其中proctime为事件时间属性列 SELECT order_id, user, product, number

查看更多 →

）则指保留最后一行。 WHERE rownum = 1: Flink 需要 rownum = 1 以确定该查询是否为去重查询。 注意事项 无 示例 根据order_id对数据进行去重，其中proctime为事件时间属性列 SELECT order_id, user, product, number

查看更多 →

）则指保留最后一行。 WHERE rownum = 1: Flink 需要 rownum = 1 以确定该查询是否为去重查询。 注意事项 无 示例 根据order_id对数据进行去重，其中proctime为事件时间属性列 SELECT order_id, user, product, number

查看更多 →

）则只保留最后一行。 WHERE rownum = 1: Flink 需要 rownum = 1 以确定该查询是否为去重查询。 注意事项 无 示例 根据order_id对数据进行去重，其中proctime为事件时间属性列 SELECT order_id, user, product, number

查看更多 →

）则指保留最后一行。 WHERE rownum = 1: Flink 需要 rownum = 1 以确定该查询是否为去重查询。 注意事项 无。 示例 根据order_id对数据进行去重，其中proctime为事件时间属性列。 SELECT order_id, user, product, number

查看更多 →

窗口去重 功能描述 窗口去重是一种特殊的去重，它根据指定的多个列来删除重复的行，保留每个窗口和分区键的第一个或最后一个数据。 对于流式查询，与普通去重不同，窗口去重只在窗口的最后返回结果数据，不会产生中间结果。它会清除不需要的中间状态。 因此，窗口去重查询在用户不需要更新结果时，

查看更多 →

消费者根据messageID对消息进行幂等处理，示例代码如下： //创建一个以messageID为主键的数据库表，利用数据库主键去重的方式来处理RabbitMQ幂等。 //在消费者消费前先去数据库查询这条消息是否存在，如果存在表示消息已被消费，无需处理；如果不存在表示消息未被消费，执行消费操作

查看更多 →

通过语种识别模型得到图文对的文本语种类型，“待保留语种”之外的图文对数据将被过滤。 图文去重 基于结构化图片去重 判断相同文本对应不同的图片数据是否超过阈值，如果超过则去重。 数据转换 图文异常字符过滤 将文本数据中携带的异常字符替换为空值，数据条目不变。 不可见字符，比如U+0000-U+001F

查看更多 →

重保护 操作场景 启动故障切换的同时，数据同步停止。故障切换完成后，保护组处于停止保护状态，如需重新开始数据同步，可参考本章节执行重保护操作。 前提条件 重保护前保护组中必须包含复制对。 保护组状态为“故障切换”或者“重保护失败”。 容灾站点 服务器 关机。 操作步骤 登录管理控制台。

查看更多 →

容时关闭自动重分布功能，在扩容成功之后再手动使用重分布功能执行重分布任务，在这种分段模式下，扩容和重分布都可以做到失败重试。 当前重分布支持离线重分布和在线重分布两种模式，默认情况下，提交重分布任务时将选择离线重分布模式。 在重分布开始前或重分布暂停过程中，支持对未重分布的表按照schema、表维度设置重分布优先级。

查看更多 →

。 进入重保护页面，勾选待重保护的保护实例，单击“提交”开始重保护。 保护实例状态变为“重保护中”，等待操作完成。 操作完成后，保护实例状态更改为“同步中”，并显示剩余待同步数据量以及预估剩余时间。 切回成功后，原容灾站点服务器将自动删除。 父主题： 管理保护组

查看更多 →

0及之后版本支持自动配置容灾网关功能，切回后需要等待1-2分钟，重保护功能才可用。 进入重保护页面，单击“提交”开始重保护。 保护实例状态变为“重保护中”，等待操作完成。 操作完成后，保护实例状态更改为“同步中”，并显示剩余待同步数据量以及预估剩余时间。 切回成功后，原容灾站点服务器将自动删除。 父主题：

查看更多 →

导入筛重 本节显示所有导入客户的重复数据，管理员可以通过查看导入的重复数据，对重复数据进行分析处理。 单击菜单“客户—导入筛重”，操作区显示所有客户导入的重复数据，如下图所示： 图1 导入筛重 查询重复数据 管理员可以根据系统提供的查询字段进行查询。 操作步骤：输入客户名称或客户

查看更多 →

只有在扩容之后，集群任务信息为“待重分布”状态时才能手动使用“重分布”功能，其他时段该功能不可使用。 在扩容阶段也可以选择重分布模式等高级配置。 重分布队列的排序依据表的relpage大小进行，为确保relpage大小正确，建议在重分布之前对需要重分布的表执行analyze操作。 调用方法 请参见如何调用API。

查看更多 →

失效重编译 失效重编译提供一次性入库、失效重编译和级联失效功能。 一次性入库：新建存储过程、函数和PACKAGE使用未定义的对象。例如表、函数或类型不存在，可新建成功，打印告警。系统表pg_object对应的valid字段为false。 失效重编译功能：当未定义的对象都存在时，运行失效重编译高级包pkg_util

查看更多 →

分钟，反向重保护功能才可用。 进入反向重保护页面。 单击“提交”开始反向重保护，实例状态变为“反向重保护中”。 当实例状态变为“保护中”时，说明反向重保护执行成功，此时进入全量数据一致性比对增量传输。 等待1-2分钟，保护实例状态更改为“同步中”，并显示剩余待同步数据量以及预估剩余时间。

查看更多 →

在“异步复制”页面，单击待反向重保护的保护组所在站点复制对的保护组数。 进入对应站点复制对的保护组页面。 在左侧导航选择相应的保护组。 进入保护组详情页面。 在基本信息区域右上角，单击“更多 > 反向重保护”。 进入反向重保护页面。 勾选待反向重保护的保护实例。 单击“提交”开始反向重保护，实例状态变为“反向重保护中”。

查看更多 →

依据实际情况输入重定义的告警信息，单击“确定”。 说明： 保存重定义告警信息之后，重定义告警状态由“未设置”更新为“已启用”。 清除重定义规则 说明： 在配置重定义告警之后，可以清除告警重定义规则。 可以通过以下三种方法清除重定义规则： 单击需要清除的指标所在行的。 勾选需要清除重定义目标数据，单击界面上方的“清除”。

查看更多 →

key或order by字段作为去重唯一键。如果未指定主键，只指定了order by建表属性，去重键以order by字段为准。 数据去重的key需要提前在应用中进行sharding计算，保证相同的key会sharding到同一个shard，才能保证后续相同的key字段数据sharding到同一个shard进行数据的精确去重。

查看更多 →

作空间下的数据。 如果需要查询其他工作空间的数据，需要带上该消息头。 表3 参数说明 参数名 是否必选 类型 描述 retry_location 否 String 作业重跑的位置。error_node （从错误节点开始重跑） first_node （从第一个节点开始重跑）、 specified_node

查看更多 →