ClickHouse数据管理
ClickHouse数据管理,需要创建表用来保存并管理数据。
前提条件
已获取服务运维岗位权限,权限申请操作请参见申请权限。
新建表
- 进入运维中心工作台。
- 在顶部导航栏选择自有服务。
- 单击,选择“运维 > 监控服务(ServiceInsight)”。
- 选择左侧导航栏的 ,进入“数据开发”页面。
- 单击“数据管理 > ClickHouse”,进入ClickHouse页面。
- 单击“新建表”,进入New CH Table页面。
- 配置ClickHouse表参数,参数说明如表1所示。配置完成后,单击“保存”。
表1 新建ClickHouse表参数说明 参数名称
参数说明
表名
设置ClickHouse表名,只能包含字母、数字、下划线。
一级主题
选择一级主题,如果没有可选主题,可以单击“新建主题”,新建后刷新并选择。
二级主题
选择二级主题,如果没有可选主题,可以单击“新建主题”,新建后刷新并选择。
层次
选择层次。
描述
输入表描述。
Tags
选择Tags,如果没有可选的Tags,可以单击“编辑Tags”,新建后选择。
Cluster Label
用于筛选绑定label的集群,若集群没有绑定任何label,则任意label都可以选到此集群。
集群
选择集群。
数据库
选择数据库。
存储策略
-
TTL(D)
TTL即为生命周期,决定了大盘上实时监控可以查过去多少天的数据。默认是7天,可以适当减少,不建议超过该值。若要长期存储,建议汇聚到DWS中。
是否GDPR
-
从Topic获取数据结构
-
表结构定义
-
排序字段列表
-
二级分区字段
-
创建聚合表
- 进入运维中心工作台。
- 在顶部导航栏选择自有服务。
- 单击,选择“运维 > 监控服务(ServiceInsight)”。
- 选择左侧导航栏的 ,进入“数据开发”页面。
- 单击“数据管理 > ClickHouse”,进入ClickHouse页面。
- 找到与日志接入时系统自动创建的检索空间同名的ClickHouse表,检索空间可在“日志空间”页面查看,如图1所示。单击该表所在行“操作”列的“创建聚合表”。
- 配置聚合表参数,配置完成后,单击“确定”。
创建导流任务
- 进入运维中心工作台。
- 在顶部导航栏选择自有服务。
- 单击,选择“运维 > 监控服务(ServiceInsight)”。
- 选择左侧导航栏的“运维数据开发 > 数据开发”,进入“数据开发”页面。
- 单击“数据管理 > ClickHouse”,进入ClickHouse页面。
- 找到与日志接入时系统自动创建的检索空间同名的ClickHouse表,检索空间可在“日志空间”页面查看,如图2所示。单击该表所在行“操作”列的“编辑任务”。
- 单击“创建导流任务”。
- 在“导流任务配置”页面配置导流任务及字段,如图4所示。
- 执行集群:选择Topic所在的Kafka集群。
- Kafka Topic:选择日志接入时选择或系统自动创建的Topic,即“日志空间”页面的存储空间,如图3所示。
- 是否从头消费:选择“是”,系统将会读取Topic中的历史数据;选择“否”,从当前创建任务时间点的数据开始读取。
- Kafka字段名:Kafka Topic选择后,自动生成导流数据,部分数据列与Kafka Topic未联系起来,即“Kafka字段名”为空,需要单击“操作”列的“编辑”,在下拉列表中选择对应的字段,然后单击“保存”。
- 导流任务及为空的Kafka字段名配置完成后,单击“确认创建”。
- 在任务列表中单击已创建的导流任务后的“启动”。
共享ClickHouse数据
- 在ClickHouse页面列表中,单击待共享数据的ClickHouse表所在行的“共享”,进入“表共享”页面。
- 单击“添加表共享”,进入“共享配置”页面。
- 配置共享参数,配置完成后,单击“确定”。
更多操作
您还可以对ClickHouse进行以下操作。
操作名称 |
操作步骤 |
---|---|
导入 |
|
查看导入进度 |
在ClickHouse页面单击“查看导入进度”。 |
导出 |
|
编辑Tags |
|
关联Tags |
|
创建Bitmap表 |
|
编辑表 |
在ClickHouse页面列表中,单击待编辑ClickHouse表所在行的“编辑”。 |
删除表 |
在ClickHouse页面列表中,单击待删除ClickHouse表所在行的“删除”。 |
查看操作历史 |
在ClickHouse页面列表中,单击待查看操作历史的ClickHouse表所在行的“操作历史”。 |
查看历史版本信息 |
|