ElasticSearch Exporter接入
操作场景
使用ElasticSearch过程中需要对ElasticSearch运行状态进行监控,例如集群及索引状态等。Prometheus监控服务提供了CCE容器场景下基于Exporter的方式来监控ElasticSearch运行状态。本文介绍如何部署ElasticSearch Exporter以及实现ElasticSearch Exporter告警接入等操作。
为了方便安装管理Exporter,推荐使用CCE进行统一管理。
前提条件
- CCE服务已拥有CCE集群,已安装ElasticSearch。
- 服务已接入可观测Prometheus监控并接入CCE集群,具体请参见Prometheus实例 for CCE。
- 已将elasticsearch_exporter镜像上传到SWR,具体操作请参见使用容器引擎客户端上传镜像。
ElasticSearch Exporter部署
- 登录CCE控制台。
- 单击已接入的CCE集群名称,进入该集群的管理页面。
- 执行以下操作完成Exporter部署。
- 配置密钥。
在左侧导航栏中选择“配置与密钥”,单击页面右上角“YAML创建”,YAML配置示例如下:
apiVersion: v1 kind: Secret metadata: name: es-secret-test namespace: default type: Opaque stringData: esURI: http://124.70.14.51:30920 #对应 ElasticSearch 的 URI,IP为集群IP或集群任意节点IP
- ElasticSearch连接串的格式为 <proto>://<user>:<password>@<host>:<port>,例如 http://admin:pass@localhost:9200。也可以不设置密码,例如设置为:http://10.247.43.50:9200。
- 密码已按照Opaque加密。
- 配置密钥的详细操作参见创建密钥。
- 部署ElasticSearch Exporter。
在左侧导航栏中选择“工作负载”,在右上角单击“创建负载”,选择“负载类型”为无状态工作负载Deployment,选择需要的命名空间部署ElasticSearch Exporter。如果以YAML的方式部署Exporter,YAML配置示例如下:
apiVersion: apps/v1 kind: Deployment metadata: labels: k8s-app: es-exporter # 根据业务需要调整 name: es-exporter # 根据业务需要调整 namespace: default # 选择一个适合的 namespace 来部署 Exporter,如果没有需要新建一个 spec: replicas: 1 selector: matchLabels: k8s-app: es-exporter # 根据业务需要调整 template: metadata: labels: k8s-app: es-exporter # 根据业务需要调整 spec: containers: - env: - name: ES_URI valueFrom: secretKeyRef: name: es-secret-test # 对应上一步中的 Secret 的名称 key: esURI # 对应上一步中的 Secret Key - name: ES_ALL value: "true" image: swr.cn-north-4.myhuaweicloud.com/mall-swarm-demo/es-exporter:1.1.0 imagePullPolicy: IfNotPresent name: es-exporter ports: - containerPort: 9114 name: metric-port securityContext: privileged: false terminationMessagePath: /dev/termination-log terminationMessagePolicy: File dnsPolicy: ClusterFirst imagePullSecrets: - name: default-secret restartPolicy: Always schedulerName: default-scheduler securityContext: {} terminationGracePeriodSeconds: 30 --- apiVersion: v1 kind: Service metadata: name: es-exporter name-space: default # 与Exporter部署的namespace相同 spec: type: NodePort selector: k8s-app: es-exporter ports: - protocol: TCP nodePort: 30921 port: 9114 targetPort: 9114
上述示例通过ES_ALL采集了所有ElasticSearch的监控项,可以通过对应的参数进行调整,Exporter更多详细的参数请参见 elasticsearch_exporter。
- 验证ElasticSearch Exporter是否部署成功。
- 在工作负载列表中“无状态负载”页签下,单击3.b创建的无状态工作负载的名称,在实例列表中单击操作列下的“更多 > 日志”,可以查看到Exporter成功启动并暴露访问地址。
图1 查看日志
- 验证。有以下三种方法进行验证:
- 登录集群节点执行如下任意一种命令:
curl http://{集群IP}:9114/metrics
curl http://{集群任意节点私有IP}:30921/metrics
- 访问地址:http://{集群任意节点的公网IP}:30921/metrics。
图2 访问地址
- 在实例列表中单击操作列下的“更多 > 远程登录”,执行如下命令。
curl http://localhost:9114/metric
- 登录集群节点执行如下任意一种命令:
- 在工作负载列表中“无状态负载”页签下,单击3.b创建的无状态工作负载的名称,在实例列表中单击操作列下的“更多 > 日志”,可以查看到Exporter成功启动并暴露访问地址。
- 配置密钥。
采集CCE集群的业务数据
通过新增PodMonitor方式为应用配置可观测监控Prometheus版的采集规则,监控部署在CCE集群内的应用的业务数据。
如下示例中指标采集的周期是30秒,所以等待大概30秒后才能在AOM的界面上查看到上报的指标。
apiVersion: monitoring.coreos.com/v1 kind: PodMonitor metadata: name: elasticSearch-exporter namespace: default spec: namespaceSelector: # 选择监控Exporter部署所在的namespace matchNames: - default # exporter所在的命名空间 podMetricsEndpoints: - interval: 30s # 设置指标采集周期 path: /metrics # 填写Prometheus Exporter对应的Path的值,默认/metrics port: metric-port # 填写Prometheus Exporter对应YAML的ports的name selector: # 填写要监控Exporter Pod的Label标签,以定位目标Exporter matchLabels: k8s-app: elasticSearch-exporter
验证指标上报到AOM
- 登录AOM 2.0控制台。
- 在左侧菜单栏中选择“Prometheus监控 > 实例列表”。
- 单击接入了该CCE集群的“prometheus for CCE”实例名称,进入实例详情页面。
- 在“指标管理”页面的“指标”页签下,选择集群。
- 选择Job:{namespace}/elasticsearch-exporter,可以查询到elasticsearch开头的自定义指标。