虚拟机日志接入

前提条件

• 已设置执行机。
• 待接入日志的虚拟机已执行如下命令，为虚拟机创建filebeat监控插件目录，并为虚拟机已规划的业务账号授权。

  mkdir -p /opt/huawei;

  chown 账号:账号 /opt/huawei #命令执行后，确认规划的业务账号已拥有业务日志和日志目录的读取权限（目录rx权限，日志r权限）。

步骤一：创建日志项目

1. 进入运维中心工作台。
2. 在顶部导航栏选择自有服务。

3. 单击，选择“运维 > 监控服务（ServiceInsight）”。

4. 选择左侧导航栏的“日志 > 日志接入”。
5. 接入方式选择“虚拟机日志接入”。
6. 在“虚拟机日志接入”页面，选择左侧导航栏的“日志项目”。
7. 单击“创建日志项目”。
8. 配置日志项目参数，参数说明如表1所示，配置完成后，单击“创建”。

   表1 日志项目参数说明

   参数名称	参数说明
   日志项目	自定义日志项目名称。 日志项目是一个包含多个日志服务配置的整体，可以看作是一个微服务实例。 同一个微服务实例下的日志服务配置应当包含在一个日志项目中。 不同微服务实例使用完全相同的日志服务配置时，也可以共用同一个日志项目。
   描述	输入日志项目描述，非必填项。

步骤二：创建日志空间

1. 在“虚拟机日志接入”页面，选择左侧导航栏的“日志空间”。
2. 单击“申请实时日志空间”。
3. 根据界面提示填写日志空间参数。
   1. 配置实时日志空间信息，参数说明如表2所示，配置完成后，单击“下一步”。

      表2 实时日志空间信息参数说明

      参数名称	参数说明
      空间名称	自定义日志空间名称，建议包含日志类型语义。
      空间描述	输入日志空间描述，非必填项。
      日志类型	选择需接入的日志类型。
      日志大小	预计一天的日志量，默认为1GB。
      开启日志检索	如果需要使用日志检索功能，可以打开该开关。
      检索空间类型	选择ClickHouse。
      原索引名称(ClickHouse)	可选择现有的ClickHouse，如果不填会自动生成。
      TTL	日志索引的生命周期，即可以检索的日志时间范围。

   2. 配置实时日志字段信息，参数说明如表3所示，配置完成后，单击“下一步”。

      表3 实时日志字段信息参数说明

      参数名称	参数说明
      自定义字段	勾选需要接入的日志字段，包括通用字段、容器字段和虚机字段。
      新增自定义环境变量	如需添加自定义环境变量，请选择环境变量名，然后单击“添加”。虚机暂无可选自定义环境变量。
      清洗规则	选择日志清洗规则。 请优先使用算子清洗模式采样，原始日志采样清洗只适用于单纯采样，不需要清洗的场景。
      日志样例	输入日志样例。
      解析脚本	配置解析脚本，将日志样例清洗为字段显示。 说明： 配置解析脚本时字段命名不支持使用中划线“-”，支持使用下划线“_”。
      清洗字段	配置解析脚本后单击“配置解析脚本”，自动生成清洗字段，查看字段是否符合预期。
      开启汇聚	选择是否开启日志汇集，如果日志量较大且不需要关注原始日志时可以进行日志汇集。 开启后需要配置汇集相关参数。
      汇聚粒度	开启汇聚后，需要设置汇集粒度。支持分钟级和秒级数据汇聚。选择分钟级，每一分钟会生成一个统计点，选择秒级，每一秒会生成一个统计点。
      汇聚时间戳	仅支持时间戳格式字段timestamp，获取当前计算的日志的时间。
      时间戳格式	选择时间戳格式。支持秒、毫秒、纳秒级时间戳，获取当前计算的日志的时间格式。
      汇聚维度	结合业务场景需要，选择日志是以哪些日志字段进行日志汇聚，支持多选。
      汇聚度量	设置对日志字段以COUNT、SUM、MAX、MIN进行度量。 原始字段是日志中的字段，用来获取原始值；度量字段是用户自定义字段名，计算后，度量的值会赋值给该字段。
      输出原始日志	选择是否需要输出原始日志。如果打开输出原始日志，原始日志也会上报。

   3. 日志字段确认，确认日志字段配置是否达到预期，达到预期后可单击单击“下一步”。

      其中字段来源COMMON表示通用字段、CONTAINER表示容器字段、VM表示虚机字段。

   4. 申请日志空间共享，如果需要其他自有服务共用这个空间进行日志下发和日志检索，可以添加共享服务。配置完成后，单击“保存”。

步骤三：创建日志采集配置

1. 在“虚拟机日志接入”页面，选择左侧导航栏的“日志采集配置”。
2. 单击“创建日志采集配置”。
3. 配置日志采集参数，配置完成后，单击“确定”。
   新创建的采集配置默认为草稿状态，展示在“草稿”页签下，当配置被微服务使用后，状态会更新为“已下发”，并展示到“已下发”页签下。

   表4 日志采集配置参数说明

   参数名称	参数说明
   日志项目	选择已创建的日志项目，相同服务的不同日志使用同一个日志项目
   日志空间	选择已创建的日志空间。选择日志空间时日志提取规则会展示日志空间定义的日志格式，采集的日志须满足对应格式。
   配置名称	自定义日志采集配置名称。
   配置类型	选择日志采集配置类型，建议选择“FILEBEAT”。
   日志类型	输入采集日志类型。
   日志路径	填写实际日志路径，可使用通配符进行匹配。 说明： 接入容器日志需要根据通配符匹配完成。 注意避免同一台主机上下发的多个采集任务重复采集相同的日志文件，会导致filebeat进程异常。
   日志TPS	TPS表示单实例每秒日志条数，请准确填写，用于推荐资源自动计算。 如果采集路径是单个日志，则按照单个日志单台机器（pod）的TPS值填写，且按照高峰期计算。 如果采集路径配置了通配符，则将采集的日志TPS累加，累加计算高峰期单台机器（pod）的TPS，建议按近期业务增长预期填写。
   日志模式	选择日志采集模式，是单行模式还是多行模式。
   首行正则表达式	日志模式选择多行模式时，需要输入首行正则表达式。
   日志提取规则	根据填写的配置参数会自动生成提取规则。

步骤四：创建日志配置下发任务

1. 在“虚拟机日志接入”页面，选择左侧导航栏的“任务管理”。
2. 单击页面右上角的“新建任务”。
3. 配置任务参数，参数说明如表5所示，配置完成后，单击“确定”。

   表5 日志配置下发任务参数说明

   参数名称	参数说明
   日志项目	选择已创建的日志项目。
   任务名称	自定义任务名称。
   任务类型	选择任务类型。
   配置类型	选择日志采集配置类型。
   配置列表	选择需要下发的配置。
   用户名称	选择已规划并拥有日志读取权限的业务账号。
   选择主机	选择需要下发配置的主机。
   已选主机	显示已选主机。

4. 在任务列表中查看已创建的任务，单击任务所在行“操作”列的“执行”。

   执行完成后，状态为成功即表示日志配置内容已下发成功，即会按照配置将日志接入AppStage。