更新时间:2024-11-29 GMT+08:00

MOTService数据老化配置

场景描述

当业务量很大时,MOTService所要存储数据会以极快的速度增长,对老化数据有效的管理将是MOTService等服务长期稳定运转的核心关键。对MOTService中存储的数据实现表级别的数据周期管理和老化配置,可以保证MOTService数据量处于健康稳定的状态,从而确保了MOTService健康稳定。根据数据表中是否含有时间字段,用于判断数据是否已经老化过期,可通过如下方式管理MOTService数据:

  • 数据表中含有时间字段

    通过RTD WebUI界面,在事件源创建时,对其各维度的数据入库表自动创建对应的数据周期管理,可自定义数据最大保存时长、清理周期、删除数据量。详情可参考添加事件源章节。

  • 数据表中无时间字段

    通过“mot-clean-data.sh”脚本批量删除老化数据,可自定义调用周期和数据删除条件等。

本章节介绍如何通过“mot-clean-data.sh”脚本删除MOTService数据。

操作步骤

  1. omm用户登录MOTService主节点,执行如下命令启动环境变量。

    source ${MOTSERVER_HOME}/.motservice_profile

  2. 执行以下命令进入tools/handleTools目录。

    cd ${MOTSERVER_HOME}/tools/handleTools

  3. 执行以下命令配置“dbConf.properties”文件,添加如下内容并保存:

    vi dbConf.properties
    g_rtdDbName=待删除数据的数据库名称
    g_rtdDbUser=连接数据库用户名
    g_batchSize=一次删除数据的最大数据量,如:10000
    g_delIntervalTime=数据删除时间间隔,单位秒,如:5

  4. 执行以下命令运行“mot-clean-data.sh”脚本删除MOTService数据。

    sh mot-clean-data.sh -n "t_payment_vt3" -c "pid>'123456'" -f "./dbConf.properties"

    根据提示输入连接数据库用户密码,显示如下表示数据删除成功

    Close the preparedStatement(pst) succeed.
    A total of (78671) data records are deleted.
    Close connection succeed!

    参数说明:

    • -n:数据库表名,待被清理数据的表。
    • -c:删除数据的条件。表中不含有时间字段时可根据指定的条件删除数据。
    • -f:数据库参数配置文件。