# 收集数据面日志 #### 费用说明 LTS创建日志组免费，并每月赠送每个账号一定量免费日志采集额度，超过免费额度部分将产生费用。 #### 集群数据面组件说明 当前支持收集以下两种类型的数据面日志，每个日志流对应一个Kubernetes数据层面组件。关于这些组件的更多信息，请参见[Kubernetes组件](https://kubernetes.io/zh-cn/docs/concepts/overview/components/)。 表1集群数据面组件说明 | 类别 | 组件 | 日志流 | 说明 | |:---|:---|:---|:---| | 数据面组件日志 | default-stdout | stdout-{clusterID} | 采集标准输出。默认日志组：k8s-logs-{集群ID}。 | | 数据面组件日志 | default-event | event-{clusterID} | 采集Kubernetes事件。默认日志组：k8s-logs-{集群ID}。 | #### 使用云原生日志采集插件采集日志 1. 查看并配置日志采集策略。 1. 登录[UCS控制台](https://console.huaweicloud.com/ucs/?#/aether/dashboard)，进入容器舰队页面，单击集群名称进入集群，选择左侧导航栏的"日志中心"。 2. 右上角单击"日志采集策略"，将显示当前集群所有上报LTS的日志策略。 图1查看日志策略 ![](https://support.huaweicloud.com/usermanual-ucs/zh-cn_image_0000001751889149.png "点击放大") 若安装插件时勾选了采集标准输出和采集Kubernetes事件，将创建两个日志策略，并对接默认的LTS日志组、日志流。 3. 创建日志策略：单击上方"创建日志策略"，输入要采集的配置信息。 策略模板：若安装插件时未勾选需要采集的日志策略，或者删除了对应的日志策略，可通过该方式重新创建默认日志策略。 图2使用策略模板 ![](https://support.huaweicloud.com/usermanual-ucs/zh-cn_image_0000001751889125.png "点击放大") 自定义策略：用于配置自定义日志策略。 图3自定义策略 ![](https://support.huaweicloud.com/usermanual-ucs/zh-cn_image_0000001723153938.png "点击放大") 表2自定义策略参数说明 | 参数 | 说明 | |:---|:---| | 日志类型 | 指定采集哪类日志。 - 容器标准输出：用于采集容器标准输出，可以按命名空间、工作负载名称、实例标签配置采集策略。 - 容器文件路径：用于采集容器内的日志，可以按工作负载和实例标签配置采集策略。 - 节点文件路径：用于采集节点上的日志文件，一条日志策略只能配置一个文件路径。 | | 日志源 | 采集哪些容器的日志。 - 所有容器：可以指定采集某个命名空间的所有容器，如不指定则采集所有命名空间的容器。 - 指定工作负载：指定采集哪些工作负载容器的日志，可以指定采集工作负载中具体容器的日志，如不指定则采集所有容器的日志。 - 指定实例标签：根据标签指定采集哪些工作负载容器的日志，可以指定采集工作负载中具体容器的日志，如不指定则采集所有容器的日志。 | | 路径配置 | 用于配置需要采集的日志路径。 文件路径必须以/ 开头，只能包含大写字母、小写字母、数字或特殊字符-_/\*?，且长度不能超过512个字符。 文件名称只能包含大写字母、小写字母、数字或特殊字符-_\*?.。 日志文件夹：请填写绝对路径。日志文件名：不支持.gz、.tar、.zip后缀类型。 最多有三级目录采用通配符匹配，且第一级目录不能使用通配符。 目录名和文件名支持完整名称和通配符模式，通配符只支持星号（\*）和半角问号（?）。 星号（\*）表示匹配多个任意字符。半角问号（?）表示匹配单个任意字符。例如： - 日志路径为/var/logs/\* 文件名\*.log，表示/var/logs下所有目录中后缀名为.log的文件。 - 日志路径为 /var/logs/app_\* 文件名\*.log，表示/var/logs目录下所有符合app_\*格式的目录中后缀名为.log的文件。 如果业务容器的数据目录是通过数据卷（Volume）挂载的，插件不支持采集它的父目录，需设置采集目录为完整的数据目录。例如/var/log/service目录是数据卷挂载的路径，则设置采集目录为/var/log或/var/log/\*将采集不到该目录下的日志，需设置采集目录为/var/log/service。 | | 日志格式 | - 单行文本 每条日志仅包含一行文本，以换行符 \\n 作为各条日志的分界线。 - 多行文本 有些程序打印的日志存在一条完整的日志数据跨占多行（例如 Java 程序日志）情况，日志采集系统默认是按行采集。如果您想在日志采集系统中按整条显示日志，可以开启多行文本，采用首行正则的方式进行匹配，当选择多行文本时，需填写日志匹配格式。 例如： 需采集的日志格式如下，则需填写时间的正则匹配，在日志匹配格式处填写：\\d{4}-\\d{2}-\\d{2} \\d{2}\\:\\d{2}\\:\\d{2}.\* 则下面以日期开头三行日志会作为一条完整日志。 2022-01-01 00:00:00 Exception in thread "main" java.lang.RuntimeException: Something has gone wrong, aborting! at com.myproject.module.MyProject.badMethod(MyProject.java:22) at com.myproject.module.MyProject.oneMoreMethod(MyProject.java:18) | | 上报到云日志服务(LTS) | 用于配置日志上报的日志组和日志流。 - 使用默认日志组/日志流：将为您自动选择默认日志组（k8s-log-{集群ID}）和默认的日志流（stdout-{集群ID}）。 - 自定义日志组/日志流：可在下拉框选择任意日志组和日志流。 | | 日志组 | 日志组是云日志服务进行日志管理的基本单位。如果您未创建日志组，CCE会提示您进行创建，默认名称为k8s-log-{集群ID}，如 k8s-log-bb7eaa87-07dd-11ed-ab6c-0255ac1001b3。 | | 日志流 | 日志流（LogStream）：日志流是日志读写的基本单位，日志组中可以创建日志流，将不同类型的日志分类存储，方便对日志进一步分类管理。在安装插件或者根据模板创建日志策略时，会自动创建以下日志流： - 容器日志：默认名称为stdout-{集群ID}，如 stdout-bb7eaa87-07dd-11ed-ab6c-0255ac1001b3 - k8s事件：默认名称为event-{集群ID}，如 event-bb7eaa87-07dd-11ed-ab6c-0255ac1001b3 | 4. 编辑日志策略：单击"编辑"按钮，可对已经存在的日志策略进行修改。 5. 删除日志策略：单击"删除"按钮，可对已经存在的日志策略进行删除。 2. 查看日志。 1. 登录[UCS控制台](https://console.huaweicloud.com/ucs/?#/aether/dashboard)，进入容器舰队页面，单击集群名称进入集群，选择左侧导航栏的"日志中心"。 2. 日志中心下有5个页签，支持不同类型日志查看。 - 容器日志：显示默认日志组（k8s-log-{集群ID}）下默认日志流（stdout-{集群ID}）中的所有日志数据，华为云集群支持通过工作负载搜索。 图4容器日志查询 ![](https://support.huaweicloud.com/usermanual-ucs/zh-cn_image_0000001752008937.png "点击放大") - Kubernetes事件：显示默认日志组（k8s-log-{集群ID}）下默认日志流（event-{集群ID}）中的所有日志数据，用于查询集群产生的Kubernetes事件。 - 控制面组件日志：显示默认日志组（k8s-log-{集群ID}）下默认日志流（{组件名}-{集群ID}）中的所有日志数据，用于查看集群控制面重要组件的日志信息。 - Kubernetes审计日志：显示默认日志组（k8s-log-{集群ID}）下默认日志流audit-{集群ID}）中的所有日志数据，用于查看集群Kubernetes审计日志信息。 - 全局日志查询：支持查看所有日志组日志流下的日志信息。可通过选择日志流查看所选日志流中的日志信息，默认会选择集群默认日志组（k8s-log-{集群ID}），可通过单击切换日志组右侧的图标切换其他日志组。 图5全局日志查询 ![](https://support.huaweicloud.com/usermanual-ucs/zh-cn_image_0000001751889153.png "点击放大") 3. 单击右上角"日志采集策略"，单击"查看日志"，可以直接跳转至对应日志策略的日志列表。 图6查看日志 ![](https://support.huaweicloud.com/usermanual-ucs/zh-cn_image_0000001752008917.png "点击放大") #### 常见问题处理 1. **log-operator标准输出报错：Failed to create log group, the number of log groups exceeds the quota** 示例： ``` 2023/05/05 12:17:20.799 [E] call 3 times failed, reason: create group failed, projectID: xxx, groupName: k8s-log-xxx, err: create groups status code: 400, response: {"error_code":"LTS.0104","error_msg":"Failed to create log group, the number of log groups exceeds the quota"}, url: https://lts.cn-north-4.myhuaweicloud.com/v2/xxx/groups, process will retry after 45s ``` **解决方案** ：LTS日志组有配额限制，如果出现该报错，请前往LTS下删除部分无用的日志组。限制详情请参见：[日志组](https://support.huaweicloud.com/usermanual-lts/lts_04_0003.html)。 2. **配置了容器文件路径采集，采集的目录不是挂载到容器内的，且节点引擎为docker，采集不到日志。** **解决方案**： 请检查工作负载所在节点的容器存储模式是否为deviceMapper，deviceMapper不支持采集容器内日志（创建日志策略时已提示此限制，如[图7]所示）。检查方法如下： 1. 进入业务工作负载所在节点。 2. 执行**docker info \| grep "Storage Driver"**。 3. 若返回的Storage Driver值为devicemapper，则该日志无法采集。 图7创建日志策略 ![](https://support.huaweicloud.com/usermanual-ucs/zh-cn_image_0000001929011653.png "点击放大") 3. **日志无法上报，otel组件标准输出报错：log's quota has full** ![](https://support.huaweicloud.com/usermanual-ucs/zh-cn_image_0000001704049722.png "点击放大") **解决方案**： 云日志服务（LTS）有免费赠送的额度，超出后将收费，报错说明免费额度已用完，如果需要继续使用，请前往云日志服务控制台"配置中心\>配额设置"，打开"超额继续采集日志"开关。 4. 采集容器内日志，且采集目录配置了通配符，日志无法采集。 **排查方法：**请检查工作负载配置中Volume挂载情况，如果业务容器的数据目录是通过数据卷（Volume）挂载的，插件不支持采集它的父目录，需设置采集目录为完整的数据目录。例如/var/log/service目录是数据卷挂载的路径，则设置采集目录为/var/log或/var/log/\*将采集不到该目录下的日志，需设置采集目录为/var/log/service。 **解决方案：**若日志生成目录为/application/logs/{应用名}/\*.log，建议工作负载挂载Volume时，直接挂载/application/logs，日志策略中配置采集路径为/application/logs/\*/\*.log