本地集群接入失败如何解决？

问题描述

本文为集群接入的异常排查思路以及解决方案。集群接入UCS可能出现的异常情况如下：

• 在UCS控制台中注册集群后，已在集群中部署proxy-agent，但界面一直提示“等待接入”，或在接入超时后提示“注册失败”。
  

  如集群已处于“注册失败”状态，请单击右上角按钮重新注册集群，然后根据排查思路进行问题定位。

• 已接入的集群状态显示为“不可用”，请参考本文档中的排查思路解决。

排查思路

集群处于异常状态的排查思路大致可根据报错信息进行定位，如表1所示。

排查项一：proxy-agent的运行状态

集群从UCS注销后，原有proxy-agent配置文件中包含的认证信息将会失效，请同时删除集群中已部署的proxy-agent实例。如需再次接入UCS，必须重新从UCS控制台下载proxy-agent配置文件进行部署。

1. 登录目标集群Master节点。
2. 查看集群代理部署状态。

   kubectl -n kube-system get pod | grep proxy-agent

   如果部署成功，预期输出如下：

   proxy-agent-*** 1/1 Running 0 9s

   说明proxy-agent部署正常，如proxy-agent没有处于正常Running状态，可以使用kubectl -n kube-system describe pod proxy-agent-***查看Pod的告警信息，详细排查思路可参考proxy-agent部署失败如何解决？。

   

   proxy-agent默认部署两个Pod实例，存在一个Pod正常Running即可使用基本功能，但是高可用性无法保证。

3. 打印proxy-agent的Pod日志，查看代理程序是否可以连接到UCS。

   kubectl -n kube-system logs proxy-agent-*** | grep "Start serving"

   如没有“Start serving”的日志打印但是proxy-agent实例状态正常，则需要继续检查其他排查项。

排查项二：集群与UCS网络连接状态

公网接入：

1. 检查集群是否绑定公网IP或配置公网NAT网关。
2. 检查集群安全组的出方向是否放通。如需对出方向做访问控制，请联系技术支持获取目的地址和端口号。
3. 解决网络问题后，删掉已有的proxy-agent Pod使其重新生成Pod资源，查看新建Pod的日志中是否存在“Start serving”的日志打印。

   kubectl -n kube-system logs proxy-agent-*** | grep "Start serving"

4. 日志正常打印后，刷新UCS控制台页面，查看集群是否正常连接。

私网接入：

1. 检查集群安全组的出方向是否放通。如需对出方向做访问控制，请联系技术支持获取目的地址和端口号。
2. 排除集群与UCS和IDC之间的网络连接故障。
   根据网络连接方式不同，请参考以下文档进行故障排除。

   • 云专线（DC）：请参考故障排除。
   • 虚拟专用网络（VPN）：请参考故障排除。

3. 排除集群私网接入的VPCEP故障，VPCEP状态需为“已接受”。如VPCEP被误删除，则需重新创建，请参见私网接入的集群误删除VPCEP后如何恢复？。
   图1 VPCEP状态
   

4. 解决网络问题后，删掉已有的proxy-agent Pod使其重新生成Pod资源，查看新建Pod的日志中是否存在“Start serving”的日志打印。

   kubectl -n kube-system logs proxy-agent-*** | grep "Start serving"

5. 日志正常打印后，刷新UCS控制台页面，查看集群是否正常连接。

排查项三：集群kube-apiserver状态

集群接入UCS时，可能出现如图2所示的异常信息，错误显示“please check the health status of kube apiserver: ...”。

图2 kube-apiserver状态异常

如出现以上信息，说明proxy-agent无法和集群apiserver进行正常通信，由于不同用户待接入集群的网络环境配置不同，这里无法提供统一的解决方案，需要您自行解决集群网络问题后进行重试。

1. 登录UCS控制台，在左侧导航栏选择“容器舰队”页面。
2. 登录目标集群Master节点，检查proxy-agent的Pod是否可以访问待接入集群的apiserver。

   参考命令：

   kubectl exec -ti proxy-agent-*** -n kube-system /bin/bash
   # 访问集群的kube-apiserver
   curl -kv https://kubernetes.default.svc.cluster.local/readyz

   如无法正常访问，请解决集群网络问题后，在UCS控制台重新注册集群，并重新部署proxy-agent。

排查项四：集群认证信息变化

如错误显示“cluster responded with non-successful status: [401][Unauthorized]”，通过观察集群三个Master节点“/var/paas/sys/log/kubernetes/auth-server.log”日志，可能是IAM网络连通故障。请确认IAM域名解析能力，及IAM服务连通性正常。

常见问题日志如下：

• Failed to authenticate token: *******: dial tcp: lookup iam.myhuaweicloud.com on *.*.*.*:53: no such host

  此类日志说明，节点缺少对iam.myhuaweicloud.com解析能力，请参考安装前准备，配置对应的域名解析。

• Failed to authenticate token: Get *******: dial tcp *.*.*.*:443: i/o timeout

  此类日志说明，节点访问IAM服务超时，请确保节点与华为云IAM服务能正常通信。

• currently only supports Agency token

  此类日志说明请求不是从UCS服务发起，目前本地集群只支持UCS服务IAM Token访问。

• IAM assumed user has no authorization/iam assumed user should allowed by TEAdmin

  此类日志说明UCS服务访问集群故障，请联系华为技术人员进行排障。

• Failed to authenticate token: token expired, please acquire a new token

  此类日志说明Token存在过期现象，请使用date命令确定时间是否差距过大，如果节点时间与标准时间差距过大，请同步时间后，查看集群是否恢复。如果长时间未恢复，可能需要重装集群，请联系华为技术人员进行排障。

解决上述问题后，请使用crictl ps | grep auth | awk '{print $1}' | xargs crictl stop命令重启auth-server容器。