导入 k8s 集群更新 CA 证书后 Rancher 端的配置操作-CSDN博客

本文链接：https://blog.csdn.net/hongxiaolu/article/details/113711758

本文永久链接: https://www.xtplayer.cn/rancher/import-k8s-cluster-update-ca/

在早期的 rancher 版本中，如果导入的业务 K8S 集群因为证书到期重新生成了证书(包括 kube-ca 证书)，这个时候在 Rancher UI shell 终端中执行命令时会报 x509 错误，UI 的一些操作也会报 x509 相关的错误，即使重启集群所有节点也没有效果。

问题分析

根据 rancher 的运行逻辑，在第一次导入 rancher 的时候，cluster agent 和 node agent 会上报导入集群的所有配置信息到 rancher ，比如主机 IP，主机配置资源，kube-ca 证书等。

但是有的资源是只上传一次，比如 kube-ca 证书，上传后会写入 CRD 资源中保存，后期 agent 不管是重启还是重建均不会再上传 kube-ca 证书。所以如果是更新了集群 kube-ca 证书，那需要手动去更新 CRD 资源中的旧 kube-ca 证书。

解决步骤

Rancher 相关操作

Rancher 单容器部署备份

如果在 docker run 部署 Rancher 时，有通过 -v 把容器中 /var/lib/rancher 目录映射到主机上，那么此步骤可以跳过；如果没有映射目录，那么需要执行以下步骤进行备份：

RANCHER_CONTAINER_ID=
docker exec -ti ${RANCHER_CONTAINER_ID} tar zcvf /tmp/rancher-data-backup-<RANCHER_VERSION>-<DATE>.tar.gz /var/lib/rancher
docker cp ${RANCHER_CONTAINER_ID}:/tmp/rancher-data-backup-<RANCHER_VERSION>-<DATE>.tar.gz .

Rancher HA 部署备份

指定 rke 配置文件进行 local 集群备份：

./rke_linux-amd64 etcd snapshot-save --name SNAPSHOT-201903xx.db --config cluster.yml

RKE 会获取每个节点的 etcd 快照，并保存到每个节点的 /opt/rke/etcd-snapshots 目录下。

k8s 相关操作

文件准备

kubeconfig: 更新证书后的 kubeconfig 配置文件

删除业务集群 `cattle-system` 命名空间中的 `cattle-token-xxx`

通过以下命令删除 cattle-token-xxx，它会基于最新的 CA 证书重新生成 cattle-token-xxx。

kubeconfig=xxx.yaml
cattle_token=$( kubectl --kubeconfig=${kubeconfig} -n cattle-system get secret | grep 'cattle-token-' | awk '{print $1}' )
kubectl --kubeconfig=${kubeconfig} -n cattle-system delete secret ${cattle_token}

重建 Agent Pod

因为 Agent Pod 绑定了 SA，而 SA 绑定了 secrets，所以当删除 cattle-token-xxx 后需重建 Pod 以加载新的 secrets。

执行以下命令批量删除 Agent Pod：

kubeconfig=xxx.yaml
kubectl --kubeconfig=${kubeconfig} -n cattle-system get pod | grep -v 'NAME' | awk '{print $1}' | xargs kubectl --kubeconfig=${kubeconfig} -n cattle-system delete pod

获取 `token`

重新生成 cattle-token-xxx 之后，取值 token 并 base64 -d 解密后备用。

kubeconfig=xxx.yaml
cattle_token=$( kubectl --kubeconfig=${kubeconfig} -n cattle-system get secret | grep 'cattle-token-' | awk '{print $1}' )
kubectl --kubeconfig=${kubeconfig} -n cattle-system get secret ${cattle_token} -o jsonpath={.data.token} | base64 -d

获取新的 CA 证书

kubeconfig=xxx.yaml
cattle_token=$( kubectl --kubeconfig=${kubeconfig} -n cattle-system get secret | grep 'cattle-token-' | awk '{print $1}' )
kubectl --kubeconfig=${kubeconfig} -n cattle-system get secret ${cattle_token} -o jsonpath={.data.'ca\.crt'}

在 local 集群中检查业务集群的 clusters crd 资源是否有更新

在重建 Agent Pod 后，cluster agent 运行起来后会自动获取新 cattle-token-xxx 中的 ca 和 token 并上报给 rancher，并保存在 clusters crd 资源中。

在 local 集群中执行以下命令查看对应集群的 CRD 配置 YAML 文件中 serviceAccountToken 和 caCert 是否有更新。

local_kubeconfig=xxx.yaml
Cluster_ID=     # 浏览器地址栏查看集群 ID
kubectl --kubeconfig=${local_kubeconfig} get clusters ${Cluster_ID} -o yaml

serviceAccountToken 对应上面步骤获取的 token，caCert 对应 CA 证书，可以通过对比工具对比一下。

已知问题：在相对老的 rancher 版本中，非 rke 集群可能出现 ca 或者 token 未自动上报的问题，如果出现资源未更新需按照以下步骤手动修改。

备份 crd clusters 资源

local_kubeconfig=xxx.yaml
Cluster_ID=     #浏览器地址栏查看集群 ID
kubectl --kubeconfig=${local_kubeconfig} get clusters ${Cluster_ID} -o yaml > ${Cluster_ID}.yaml

修改 crd clusters 资源
- serviceAccountToken 字段参数：使用上面步骤中获取的 token 替换；
- caCert 字段参数: 使用上面步骤获取的新 CA 证书替换；

已知问题

业务集群升级证书并按照以上步骤操作后，可以正常进入 Rancher UI，也可以正常的部署应用，但是无法查看日志和执行 web shell 终端。

这是在 Rancher 2.1.x 版本中已知问题，因为在内存中保存着一份 CRD 资源副本，Rancher 运行时使用的内存中的 CRD 资源。在更新了 CRD 资源后，Rancher 没有感知到 CRD 资源变化，会一直使用内存中的 CRD 副本。旧 CRD 副本保存着旧的 CA 证书和 token，从而导致 Agent 无法连接 K8S 集群。