ElasticSearch Exporter接入

操作场景

使用ElasticSearch过程中需要对ElasticSearch运行状态进行监控，例如集群及索引状态等。Prometheus监控服务提供了CCE容器场景下基于Exporter的方式来监控ElasticSearch运行状态。本文介绍如何部署ElasticSearch Exporter以及实现ElasticSearch Exporter告警接入等操作。

为了方便安装管理Exporter，推荐使用CCE进行统一管理。

前提条件

• CCE服务已拥有CCE集群，已安装ElasticSearch。
• 服务已接入可观测Prometheus监控并接入CCE集群，具体请参见Prometheus实例 for CCE。
• 已将elasticsearch_exporter镜像上传到SWR，具体操作请参见使用容器引擎客户端上传镜像。

ElasticSearch Exporter部署

1. 登录CCE控制台。
2. 单击已接入的CCE集群名称，进入该集群的管理页面。
3. 执行以下操作完成Exporter部署。
   1. 配置密钥。

      在左侧导航栏中选择“配置与密钥”，单击页面右上角“YAML创建”，YAML配置示例如下：

      apiVersion: v1
      kind: Secret
      metadata:
        name: es-secret-test
        namespace: default 
      type: Opaque
      stringData:
        esURI: http://124.70.14.51:30920  #对应 ElasticSearch 的 URI，IP为集群IP或集群任意节点IP

      

      • ElasticSearch连接串的格式为 <proto>://<user>:<password>@<host>:<port>，例如 http://admin:pass@localhost:9200。也可以不设置密码，例如设置为：http://10.247.43.50:9200。
      • 密码已按照Opaque加密。
      • 配置密钥的详细操作参见创建密钥。
   2. 部署ElasticSearch Exporter。
      在左侧导航栏中选择“工作负载”，在右上角单击“创建负载”，选择“负载类型”为无状态工作负载Deployment，选择需要的命名空间部署ElasticSearch Exporter。如果以YAML的方式部署Exporter，YAML配置示例如下：

      apiVersion: apps/v1
      kind: Deployment
      metadata:
        labels:
          k8s-app: es-exporter # 根据业务需要调整
        name: es-exporter # 根据业务需要调整
        namespace: default # 选择一个适合的 namespace 来部署 Exporter，如果没有需要新建一个
      spec:
        replicas: 1
        selector:
          matchLabels:
            k8s-app: es-exporter # 根据业务需要调整
        template:
          metadata:
            labels:
              k8s-app: es-exporter # 根据业务需要调整
          spec:
            containers:
            - env:
                - name: ES_URI
                  valueFrom:
                    secretKeyRef:
                      name: es-secret-test # 对应上一步中的 Secret 的名称
                      key: esURI # 对应上一步中的 Secret Key
                - name: ES_ALL
                  value: "true"
              image: swr.cn-north-4.myhuaweicloud.com/mall-swarm-demo/es-exporter:1.1.0
              imagePullPolicy: IfNotPresent
              name: es-exporter
              ports:
              - containerPort: 9114
                name: metric-port
              securityContext:
                privileged: false
              terminationMessagePath: /dev/termination-log
              terminationMessagePolicy: File
            dnsPolicy: ClusterFirst
            imagePullSecrets:
            - name: default-secret
            restartPolicy: Always
            schedulerName: default-scheduler
            securityContext: {}
            terminationGracePeriodSeconds: 30
      ---
      apiVersion: v1
      kind: Service
      metadata:
        name: es-exporter
        name-space: default # 与Exporter部署的namespace相同
      spec:
        type: NodePort
        selector:
          k8s-app: es-exporter
        ports:
          - protocol: TCP
            nodePort: 30921
            port: 9114
            targetPort: 9114

      

      上述示例通过ES_ALL采集了所有ElasticSearch的监控项，可以通过对应的参数进行调整，Exporter更多详细的参数请参见 elasticsearch_exporter。

   3. 验证ElasticSearch Exporter是否部署成功。
      1. 在工作负载列表中“无状态负载”页签下，单击3.b创建的无状态工作负载的名称，在实例列表中单击操作列下的“更多 > 日志”，可以查看到Exporter成功启动并暴露访问地址，如下图所示：
         图1 查看日志
         
      2. 验证。有以下三种方法进行验证：
         • 登录集群节点执行如下任意一种命令：

           curl http://{集群IP}:9114/metrics

           curl http://{集群任意节点私有IP}:30921/metrics 

         • 访问地址：http://{集群任意节点的公网IP}:30921/metrics。
           图2 访问地址
           
         • 在实例列表中单击操作列下的“更多 > 远程登录”，执行如下命令。

           curl http://localhost:9114/metric

采集CCE集群的业务数据

通过新增PodMonitor方式为应用配置可观测监控Prometheus版的采集规则，监控部署在CCE集群内的应用的业务数据。

如下示例中指标采集的周期是30秒，所以等待大概30秒后才能在AOM的界面上查看到上报的指标。

apiVersion: monitoring.coreos.com/v1
kind: PodMonitor
metadata:
  name: elasticSearch-exporter
  namespace: default
spec:
  namespaceSelector: # 选择监控Exporter部署所在的namespace
    matchNames:
      - default # exporter所在的命名空间
  podMetricsEndpoints:
  - interval: 30s # 设置指标采集周期
    path: /metrics # 填写Prometheus Exporter对应的Path的值，默认/metrics
    port: metric-port # 填写Prometheus Exporter对应YAML的ports的name
  selector: # 填写要监控Exporter Pod的Label标签，以定位目标Exporter
    matchLabels:
      k8s-app: elasticSearch-exporter

验证指标上报到AOM

1. 登录AOM 2.0控制台。
2. 在左侧菜单栏中选择“Prometheus监控 > 实例列表”。
3. 单击接入了该CCE集群的“prometheus for CCE”实例名称，进入实例详情页面。
4. 在“服务发现”页面的“指标”页签下，选择集群。
5. 选择Job：{namespace}/elasticsearch-exporter,可以查询到elasticsearch开头的自定义指标。

在AOM上配置仪表盘和告警

通过仪表盘功能可视化监控CCE集群数据，通过告警规则功能，在集群发生故障时能够及时发现并预警。

• 配置仪表盘图表
  1. 登录AOM 2.0控制台。
  2. 在左侧菜单栏中选择“仪表盘”，单击“创建仪表盘”新建一个仪表盘，详情可参见创建仪表盘。
  3. 在仪表盘页面选择实例类型为“Prometheus for CCE”的实例并单击“添加图表”，详情请参见添加图表至仪表盘。
• 配置告警
  1. 登录AOM 2.0控制台。
  2. 在左侧菜单栏中选择“告警管理 > 告警规则”。
  3. 单击“创建告警规则”配置告警，详情请参见创建指标告警规则。