更新时间:2024-05-23 GMT+08:00
分享

ClickHouse数据管理

ClickHouse数据管理,需要创建表用来保存并管理数据。

前提条件

已获取服务运维岗位权限,权限申请操作请参见申请权限

新建表

  1. 进入运维中心工作台。
  2. 在顶部导航栏选择自有服务。
  1. 单击,选择“运维 > 监控服务(ServiceInsight)”。
  1. 选择左侧导航栏的运维数据开发 > 数据开发,进入“数据开发”页面。
  2. 单击“数据管理 > ClickHouse”,进入ClickHouse页面。
  3. 单击“新建表”,进入New CH Table页面。
  4. 配置ClickHouse表参数,参数说明如表1所示。配置完成后,单击“保存”。

    表1 新建ClickHouse表参数说明

    参数名称

    参数说明

    表名

    设置ClickHouse表名,只能包含字母、数字、下划线。

    一级主题

    选择一级主题,如果没有可选主题,可以单击“新建主题”,新建后刷新并选择。

    二级主题

    选择二级主题,如果没有可选主题,可以单击“新建主题”,新建后刷新并选择。

    层次

    选择层次。

    描述

    输入表描述。

    Tags

    选择Tags,如果没有可选的Tags,可以单击“编辑Tags”,新建后选择。

    Cluster Label

    用于筛选绑定label的集群,若集群没有绑定任何label,则任意label都可以选到此集群。

    集群

    选择集群。

    数据库

    选择数据库。

    存储策略

    -

    TTL(D)

    TTL即为生命周期,决定了大盘上实时监控可以查过去多少天的数据。默认是7天,可以适当减少,不建议超过该值。若要长期存储,建议汇聚到DWS中。

    是否GDPR

    -

    从Topic获取数据结构

    -

    表结构定义

    -

    排序字段列表

    -

    二级分区字段

    -

创建聚合表

  1. 进入运维中心工作台。
  2. 在顶部导航栏选择自有服务。
  1. 单击,选择“运维 > 监控服务(ServiceInsight)”。
  1. 选择左侧导航栏的运维数据开发 > 数据开发,进入“数据开发”页面。
  2. 单击“数据管理 > ClickHouse”,进入ClickHouse页面。
  1. 找到与日志接入时系统自动创建的检索空间同名的ClickHouse表,检索空间可在“日志空间”页面查看,如图1所示。单击该表所在行“操作”列的“创建聚合表”。

    图1 查看Topic

  2. 配置聚合表参数,配置完成后,单击“确定”。

创建导流任务

  1. 进入运维中心工作台。
  2. 在顶部导航栏选择自有服务。
  1. 单击,选择“运维 > 监控服务(ServiceInsight)”。
  1. 选择左侧导航栏的“运维数据开发 > 数据开发”,进入“数据开发”页面。
  2. 单击“数据管理 > ClickHouse”,进入ClickHouse页面。
  3. 找到与日志接入时系统自动创建的检索空间同名的ClickHouse表,检索空间可在“日志空间”页面查看,如图2所示。单击该表所在行“操作”列的“编辑任务”。

    图2 查看检索空间

  4. 单击“创建导流任务”。
  5. 在“导流任务配置”页面配置导流任务及字段,如图4所示。

    • 执行集群:选择Topic所在的Kafka集群。
    • Kafka Topic:选择日志接入时选择或系统自动创建的Topic,即“日志空间”页面的存储空间,如图3所示。
      图3 查看存储空间
    • 是否从头消费:选择“是”,系统将会读取Topic中的历史数据;选择“否”,从当前创建任务时间点的数据开始读取。
    • Kafka字段名:Kafka Topic选择后,自动生成导流数据,部分数据列与Kafka Topic未联系起来,即“Kafka字段名”为空,需要单击“操作”列的“编辑”,在下拉列表中选择对应的字段,然后单击“保存”。
    图4 配置导流任务

  6. 导流任务及为空的Kafka字段名配置完成后,单击“确认创建”。
  7. 在任务列表中单击已创建的导流任务后的“启动”。

共享ClickHouse数据

  1. 在ClickHouse页面列表中,单击待共享数据的ClickHouse表所在行的“共享”,进入“表共享”页面。
  2. 单击“添加表共享”,进入“共享配置”页面。
  3. 配置共享参数,配置完成后,单击“确定”。

更多操作

您还可以对ClickHouse进行以下操作。

表2 ClickHouse管理

操作名称

操作步骤

导入

  1. 在ClickHouse页面单击“导入”。
  2. 上传文件。

查看导入进度

在ClickHouse页面单击“查看导入进度”。

导出

  1. 在ClickHouse页面列表中,勾选需要导出的ClickHouse表。
  2. 单击列表上方的“导出”。

编辑Tags

  1. 在ClickHouse页面单击“编辑Tags”。
  2. 在“编辑Tags”页面单击“新建Tags”。
  3. 输入Tags并单击“保存”。
  4. 单击“确定”。

关联Tags

  1. 在ClickHouse页面列表中,单击待关联Tags表所在行的“关联Tags”。
  2. 选择已新建的Tags。
  3. 单击“确定”。
    说明:

    关联Tags之前须先编辑并新建Tags。

创建Bitmap表

  1. 在ClickHouse页面列表中,单击待创建Bitmap表的ClickHouse所在行的“创建Bitmap表”。
  2. 配置Bitmap表参数,配置完成后单击“保存”。

编辑表

在ClickHouse页面列表中,单击待编辑ClickHouse表所在行的“编辑”。

删除表

在ClickHouse页面列表中,单击待删除ClickHouse表所在行的“删除”。

查看操作历史

在ClickHouse页面列表中,单击待查看操作历史的ClickHouse表所在行的“操作历史”。

查看历史版本信息

  1. 在ClickHouse页面列表中,单击待查看历史版本信息的ClickHouse表所在行的“历史版本信息”。
  2. (可选)可单击历史版本所在行的“对比当前版本”,查看版本差异。

分享:

    相关文档

    相关产品