文档首页> 数据仓库服务 GaussDB(DWS)> 开发指南（吉隆坡地区）> 资源监控> 历史TopSQL
更新时间：2022-08-16 GMT+08:00
查看PDF

历史TopSQL

系统提供了资源监控历史视图用例查询历史TopSQL。资源监控历史视图记录了查询作业运行结束时的资源使用情况(包括内存、下盘、CPU时间、IO等)和运行状态信息(包括报错、终止、异常等)以及性能告警信息。但对于由于FATAL、PANIC错误导致查询异常结束时，状态信息列只显示aborted，无法记录详细异常信息。特别的，对于查询解析，优化阶段的状态信息则无法监控。

历史视图具体的对外接口如下表所示：

视图级别

节点范围

查询视图

query级别/perf级别

当前CN

历史（Database Manager接口）

GS_WLM_SESSION_HISTORY

历史（内部转储接口）

GS_WLM_SESSION_INFO

所有CN

历史（Database Manager接口）

PGXC_WLM_SESSION_HISTORY

历史（内部转储接口）

PGXC_WLM_SESSION_INFO

算子级别

当前CN

历史（Database Manager接口）

GS_WLM_OPERATOR_HISTORY

历史（内部转储接口）

GS_WLM_OPERAROR_INFO

所有CN

历史（Database Manager接口）

PGXC_WLM_OPERATOR_HISTORY

历史（内部转储接口）

PGXC_WLM_OPERATOR_INFO
  • 视图级别取决于资源监控的等级，即参数resource_track_level的配置。
  • perf和operator级别会影响GS_WLM_SESSION_STATISTICS/PGXC_WLM_SESSION_INFO中的query_plan和warning字段的取值，详细内容参见SQL自诊断。
  • 对外接口通过不同的前缀(gs与pgxc)来区分单CN查询视图以及集群级别查询视图。普通用户仅支持登录到集群的某个CN查询以gs为前缀的视图。
  • 对于gs_wlm_session_info，gs_wlm_operator_info，pgxc_wlm_session_info以及pgxc_wlm_operator_info视图只支持在连接gaussdb数据库时查询。
  • 实例故障时，历史TopSQL视图有可能记录不全。
  • 在某些异常的情况下，历史TopSQL中的状态信息列可能会显示为unknown，其记录的监控信息会导致不准确。
  • 历史TopSQL能够记录的SQL语句的规格与实时TopSQL能够记录的SQL语句的规格一致。请参考实时TopSQL中能够记录的SQL语句的规格。

前提条件

  • GUC参数enable_resource_track为on （默认为on）。
  • GUC参数resource_track_level为query、perf或operator（默认为query）。设置方法详见表2。
  • GUC参数enable_resource_record为on（默认为off）。
  • GUC参数resource_track_duration小于作业执行时间（默认为60s）。
  • 监控作业类型为：
  • Cgroups功能正常加载，可通过gs_cgroup -P查看控制组信息。
  • 该功能会引起存储空间膨胀及轻微性能影响，不建议生成系统默认使用。

操作步骤

  1. 通过视图gs_wlm_session_history查询当前CN最近执行作业结束后的负载记录。

    1
    		 
    SELECT * FROM gs_wlm_session_history;

  2. 通过视图pgxc_wlm_session_history查询所有CN最近执行作业结束后的负载记录。

    1
    		 
     SELECT * FROM pgxc_wlm_session_history;

  3. 通过数据表gs_wlm_session_info查询当前CN作业执行结束后的负载记录。要查到历史记录，必须保证enable_resource_record为on。

    1
    		 
    SELECT * FROM gs_wlm_session_info;
    • 消耗内存最多的10个Query（可指定查询时间段）
    1
    		 
    SELECT * FROM gs_wlm_session_info order by max_peak_memory desc limit 10; 

    1
    		 
    SELECT * FROM gs_wlm_session_info WHERE start_time >= '2022-05-15 21:00:00' and finish_time <='2022-05-15 23:30:00'order by max_peak_memory desc limit 10;
    • 消耗CPU最多的10个Query（可指定查询时间段）
    1
    		 
    SELECT * FROM gs_wlm_session_info order by total_cpu_time desc limit 10;

    1
    		 
    SELECT * FROM gs_wlm_session_info WHERE start_time >= '2022-05-15 21:00:00' and finish_time <='2022-05-15 23:30:00'order by total_cpu_time desc limit 10;

  4. 通过视图pgxc_wlm_session_info查询所有CN的作业执行结束后的负载记录。要查到历史记录，必须保证enable_resource_record为on。

    1
    		 
    SELECT * FROM pgxc_wlm_session_info;
    • 查询所有CN消耗时间最多的10个query（可指定查询时间段）
    1
    		 
    SELECT * FROM pgxc_wlm_session_info order by duration desc limit 10;

    1
    		 
    SELECT * FROM pgxc_wlm_session_info WHERE start_time >= '2022-05-15 21:00:00' and finish_time <='2022-05-15 23:30:00'order by nodename,max_peak_memory desc limit 10;

  5. 通过函数pgxc_get_wlm_session_info_bytime对视图pgxc_wlm_session_info进行筛选查询，要查到历史记录，必须保证enable_resource_record为on。在统计数据量很大的场景中，建议使用该函数进行查询。

    GaussDB(DWS)集群默认使用时区为UTC时间，与系统时间存在8h时差，请确保数据库时间与系统时间一致后进行以下查询。

    • 查询所有CN上开始时间介于“2019-09-10 15:30:00”和“2019-09-10 15:35:00”之间的query，每个CN最多返回10条记录
    1
    		 
    SELECT * FROM pgxc_get_wlm_session_info_bytime('start_time', '2019-09-10 15:30:00', '2019-09-10 15:35:00', 10);
    • 查询所有CN上结束时间介于“2019-09-10 15:30:00”和“2019-09-10 15:35:00”之间的query，每个CN最多返回10条记录
    1
    		 
    SELECT * FROM pgxc_get_wlm_session_info_bytime('finish_time', '2019-09-10 15:30:00', '2019-09-10 15:35:00', 10);

  6. 通过视图gs_wlm_operator_history查询当前CN作业算子最近执行资源信息。要查到记录，必须保证resource_track_level为operator。

    1
    		 
    SELECT * FROM gs_wlm_operator_history;

  7. 通过视图pgxc_wlm_operator_history查询所有CN作业算子最近执行资源信息。要查到记录，必须保证resource_track_level为operator。

    1
    		 
    SELECT * FROM pgxc_wlm_operator_history;

  8. 通过数据表gs_wlm_operator_info查询当前CN作业算子历史执行资源信息。要查到记录，必须保证resource_track_level为operator和enable_resource_record为on。

    1
    		 
    SELECT * FROM gs_wlm_operator_info;

  9. 通过视图pgxc_wlm_operator_info查询所有CN作业算子历史执行资源信息。要查到记录，必须保证resource_track_level为operator和enable_resource_record为on。

    1
    		 
    SELECT * FROM pgxc_wlm_operator_info;

  • 对于上述的视图信息，由于预设内存的限制，内存中能够保留的数据记录数量是有限的。实时的查询在结束后会导入到历史相关的视图中，历史的视图信息当其在内存hash表中记录的时间超过3分钟时进行自动清理。关于记录上限，对于query级别视图，当新的需要记录的查询超过内存约束记录数上限时，则当前查询无法记录，下条查询重新进行规则判断；在每个CN上，记query级别实时查询视图在内存（默认5MB）中可记录的最大数为max_session_realt_num(当前系统值为12850)，历史视图在内存（默认100MB）中可记录的最大数为max_session_hist_num(当前系统值为137970)；业务系统单条查询的平均执行时间为run_time(s)以上，则在每个CN上，实时视图允许客户执行的最大并发数：num_realt_active = max_session_realt_num；历史视图允许客户执行的最大并发数：num_hist_active = max_session_hist_num/(180/run_time)。
  • 对于算子级别视图，当需要记录的查询的plan_node数量加上当前内存中已有的记录数量超过内存约束记录数上限时，则当前查询的所有算子节点不记录，下条查询重新按照算子规则判定。在每个CN上，记算子级别视图在内存中可记录的最大实时和历史记录数分别为max_oper_realt_num(当前系统值为56987)，max_oper_hist_num(113975)；记当前用户业务系统的平均每个查询的节点数为num_plan_node，则在每个CN上，实时视图允许客户执行的最大并发数: num_realt_active = max_oper_realt_num/num_plan_node；历史视图允许客户执行的最大并发数：num_hist_active = max_oper_hist_num/(180/run_time)/num_plan_node。
  • 如果并发过高，避免需要记录的查询数量超过query级别视图和算子级别视图的值，可以通过参数session_statistics_memory修改实时查询视图的内存，通过参数session_history_memory修改历史查询视图的内存，内存增大和查询数量成正比。
父主题： 资源监控