Kubeadm 初始化集群超时失败问题解决

最新推荐文章于 2024-12-13 10:53:29 发布
原创 最新推荐文章于 2024-12-13 10:53:29 发布 · 1.6k 阅读 · 23 ·
CC 4.0 BY-SA版权
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
文章标签：

#kubernetes #linux #运维

Kubeadm 初始化集群超时失败问题解决

文章目录

问题复现

先贴自己的初始化命令

kubeadm init \
--apiserver-advertise-address=192.168.15.128 \
--control-plane-endpoint=192.168.15.199:26443 \
--image-repository registry.cn-hangzhou.aliyuncs.com/lfy_k8s_images \
--kubernetes-version v1.20.9 \
--service-cidr=10.96.0.0/16 \
--pod-network-cidr=192.168.0.0/16

执行后

在 take up to 4m0s 后长时间等待出现失败：

在这里插入图片描述

问题排查

我个人的情况是上述命令去掉 --control-plane-endpoint 参数即可执行成功；

各位可以试试 kubeadm reset 重置后去掉上面参数试试，如果还不成功则与本文所说问题不同。

--control-plane-endpoint 这个参数是官方推荐加上的，在后续如果配置集群 control 节点，没有该参数是无法加入到集群的；所以这个参数是必须的。为什么有这个参数就会超时失败？输出详细日志观察：

# 带上 -v=9 参数，输出详细日志
kubeadm init \
--apiserver-advertise-address=192.168.15.128 \
--control-plane-endpoint=192.168.15.199:26443 \
--image-repository registry.cn-hangzhou.aliyuncs.com/lfy_k8s_images \
--kubernetes-version v1.20.9 \
--service-cidr=10.96.0.0/16 \
--pod-network-cidr=192.168.0.0/16 \
-v=9

发现在之前的超时过程，会一直发送 curl -k -v -XGET -H "Accept: application/json, */*" -H "User-Agent: kubeadm/v1.20.9 (linux/amd64) kubernetes/7a576bc" 'https://192.168.15.199:26443/healthz?timeout=10s' 请求

I0724 22:56:14.619727   12308 waitcontrolplane.go:87] [wait-control-plane] Waiting for the API server to be healthy
I0724 22:56:14.620667   12308 loader.go:379] Config loaded from file:  /etc/kubernetes/admin.conf
[wait-control-plane] Waiting for the kubelet to boot up the control plane as static Pods from directory "/etc/kubernetes/manifests". This can take up to 4m0s
I0724 22:56:14.621917   12308 round_trippers.go:425] curl -k -v -XGET  -H "Accept: application/json, */*" -H "User-Agent: kubeadm/v1.20.9 (linux/amd64) kubernetes/7a576bc" 'https://192.168.15.199:26443/healthz?timeout=10s'
I0724 22:56:14.622247   12308 round_trippers.go:445] GET https://192.168.15.199:26443/healthz?timeout=10s  in 0 milliseconds
I0724 22:56:14.622261   12308 round_trippers.go:451] Response Headers:
I0724 22:56:15.122724   12308 round_trippers.go:425] curl -k -v -XGET  -H "Accept: application/json, */*" -H "User-Agent: kubeadm/v1.20.9 (linux/amd64) kubernetes/7a576bc" 'https://192.168.15.199:26443/healthz?timeout=10s'
I0724 22:56:15.122976   12308 round_trippers.go:445] GET https://192.168.15.199:26443/healthz?timeout=10s  in 0 milliseconds
I0724 22:56:15.122995   12308 round_trippers.go:451] Response Headers:
I0724 22:56:15.622684   12308 round_trippers.go:425] curl -k -v -XGET  -H "Accept: application/json, */*" -H "User-Agent: kubeadm/v1.20.9 (linux/amd64) kubernetes/7a576bc" 'https://192.168.15.199:26443/healthz?timeout=10s'
I0724 22:56:15.622870   12308 round_trippers.go:445] GET https://192.168.15.199:26443/healthz?timeout=10s  in 0 milliseconds
I0724 22:56:15.622882   12308 round_trippers.go:451] Response Headers:
I0724 22:56:16.122564   12308 round_trippers.go:425] curl -k -v -XGET  -H "Accept: application/json, */*" -H "User-Agent: kubeadm/v1.20.9 (linux/amd64) kubernetes/7a576bc" 'https://192.168.15.199:26443/healthz?timeout=10s'
I0724 22:56:16.122766   12308 round_trippers.go:445] GET https://192.168.15.199:26443/healthz?timeout=10s  in 0 milliseconds
I0724 22:56:16.122778   12308 round_trippers.go:451] Response Headers:
I0724 22:56:16.622672   12308 round_trippers.go:425] curl -k -v -XGET  -H "Accept: application/json, */*" -H "User-Agent: kubeadm/v1.20.9 (linux/amd64) kubernetes/7a576bc" 'https://192.168.15.199:26443/healthz?timeout=10s'
I0724 22:56:16.622807   12308 round_trippers.go:445] GET https://192.168.15.199:26443/healthz?timeout=10s  in 0 milliseconds
I0724 22:56:16.622813   12308 round_trippers.go:451] Response Headers:
I0724 22:56:17.122860   12308 round_trippers.go:425] curl -k -v -XGET  -H "Accept: application/json, */*" -H "User-Agent: kubeadm/v1.20.9 (linux/amd64) kubernetes/7a576bc" 'https://192.168.15.199:26443/healthz?timeout=10s'
I0724 22:56:17.123074   12308 round_trippers.go:445] GET https://192.168.15.199:26443/healthz?timeout=10s  in 0 milliseconds
I0724 22:56:17.123080   12308 round_trippers.go:451] Response Headers:
I0724 22:56:17.623017   12308 round_trippers.go:425] curl -k -v -XGET  -H "Accept: application/json, */*" -H "User-Agent: kubeadm/v1.20.9 (linux/amd64) kubernetes/7a576bc" 'https://192.168.15.199:26443/healthz?timeout=10s'
I0724 22:56:17.623226   12308 round_trippers.go:445] GET https://192.168.15.199:26443/healthz?timeout=10s  in 0 milliseconds
I0724 22:56:17.623237   12308 round_trippers.go:451] Response Headers:
I0724 22:56:18.122627   12308 round_trippers.go:425] curl -k -v -XGET  -H "Accept: application/json, */*" -H "User-Agent: kubeadm/v1.20.9 (linux/amd64) kubernetes/7a576bc" 'https://192.168.15.199:26443/healthz?timeout=10s'
I0724 22:56:18.122817   12308 round_trippers.go:445] GET https://192.168.15.199:26443/healthz?timeout=10s  in 0 milliseconds
I0724 22:56:18.122827   12308 round_trippers.go:451] Response Headers:
I0724 22:56:18.622644   12308 round_trippers.go:425] curl -k -v -XGET  -H "Accept: application/json, */*" -H "User-Agent: kubeadm/v1.20.9 (linux/amd64) kubernetes/7a576bc" 'https://192.168.15.199:26443/healthz?timeout=10s'
I0724 22:56:18.622823   12308 round_trippers.go:445] GET https://192.168.15.199:26443/healthz?timeout=10s  in 0 milliseconds
I0724 22:56:18.622847   12308 round_trippers.go:451] Response Headers:
I0724 22:56:19.122576   12308 round_trippers.go:425] curl -k -v -XGET  -H "Accept: application/json, */*" -H "User-Agent: kubeadm/v1.20.9 (linux/amd64) kubernetes/7a576bc" 'https://192.168.15.199:26443/healthz?timeout=10s'
I0724 22:56:19.123435   12308 round_trippers.go:445] GET https://192.168.15.199:26443/healthz?timeout=10s  in 0 milliseconds
I0724 22:56:19.123447   12308 round_trippers.go:451] Response Headers:
I0724 22:56:19.622659   12308 round_trippers.go:425] curl -k -v -XGET  -H "Accept: application/json, */*" -H "User-Agent: kubeadm/v1.20.9 (linux/amd64) kubernetes/7a576bc" 'https://192.168.15.199:26443/healthz?timeout=10s'
I0724 22:56:19.622860   12308 round_trippers.go:445] GET https://192.168.15.199:26443/healthz?timeout=10s  in 0 milliseconds

而在不添加 --control-plane-endpoint 参数，成功后会输出控制节点地址，也就是本机的 6443 地址。所以推断出现该问题是因为 k8s 一直在请求控制节点的回复，而配置的控制节点地址不对（或者网络不通）导致一直无法建立连接。

为什么会使用 192.168.15.199:26443 这个地址，这是因为我搭建了 keepalived，虚拟了 192.168.15.199 这个 ip，并用 nginx 监听了这个 26443 的端口。而 telnet 192.168.15.199:26443 是正常的，观察上面的日志发现 k8s 请求的时候使用的是 https 请求，而我 nginx 并没有引入 ssl 模块，那么在 http 块中定义的代理转发应该就无法生效。

所以往这个方向尝试，让 ngixn 可以处理 https 的该请求，将它代理转发到我真实的控制节点（本机 192.168.15:6443）上即可。

问题解决

引入 nginx stream 模块

nginx 的 stream 模块能够让 nginx 代理 upd / tcp 的流量，而 https 也是基于 tcp 的，那么也同样适用。

进入 nginx 安装目录（./configuare 所在目录）

# 将 stream 模块编译进 nginx
./configure --with-stream

编译（不安装）

这样会在当前目录产生一个 objs 文件夹，将该文件夹中的 nginx 移动替换原来的 nginx

# 编译
make

# 备份原来的
mv /usr/local/nginx/sbin/nginx /usr/local/nginx/sbin/nginx.bak

# 拷贝
cp /root/nginx/objs/nginx /usr/local/nginx/sbin/

修改配置文件

user nginx;
worker_processes auto;
error_log /var/log/nginx/error.log;
pid /run/nginx.pid;
include /usr/share/nginx/modules/\*.conf;

events {
    worker_connections 1024;
}

# stream 模块代理
stream {

    log_format main '$remote_addr $upstream_addr - [$time_local] $status 
$upstream_bytes_sent';

    access_log /var/log/nginx/k8s-access.log main;

    upstream k8s-apiserver {
        server 192.168.15.128:6443; # Master1 APISERVER IP:PORT 
        server 192.168.15.136:6443; # Master2 APISERVER IP:PORT 
    }

    server {
        listen 26443;
		# 不同于 http 块中需要对代理的地址前添加 http://
        proxy_pass k8s-apiserver;
    }

}

http {
    log_format main '$remote_addr - $remote_user [$time_local] "$request" '
        '$status $body_bytes_sent "$http_referer" '
        '"$http_user_agent" "$http_x_forwarded_for"';

    access_log /var/log/nginx/access.log main;

    sendfile on;
    tcp_nopush on;
    tcp_nodelay on;
    keepalive_timeout 65;
    types_hash_max_size 2048;

    include /etc/nginx/mime.types;
    default_type application/octet-stream;

    server {
        listen 80 default_server;
    }
}

重启启动

nginx -c <配置文件地址>

kubeadm 重新初始化

# 重置
kubeadm reset

# 重新初始化
kubeadm init \
--apiserver-advertise-address=192.168.15.128 \
--control-plane-endpoint=192.168.15.199:26443 \
--image-repository registry.cn-hangzhou.aliyuncs.com/lfy_k8s_images \
--kubernetes-version v1.20.9 \
--service-cidr=10.96.0.0/16 \
--pod-network-cidr=192.168.0.0/16

初始化成功

I0724 22:59:02.144188   14848 loader.go:379] Config loaded from file:  /etc/kubernetes/admin.conf
I0724 22:59:02.144530   14848 loader.go:379] Config loaded from file:  /etc/kubernetes/admin.conf

Your Kubernetes control-plane has initialized successfully!

To start using your cluster, you need to run the following as a regular user:

  mkdir -p $HOME/.kube
  sudo cp -i /etc/kubernetes/admin.conf $HOME/.kube/config
  sudo chown $(id -u):$(id -g) $HOME/.kube/config

Alternatively, if you are the root user, you can run:

  export KUBECONFIG=/etc/kubernetes/admin.conf

You should now deploy a pod network to the cluster.
Run "kubectl apply -f [podnetwork].yaml" with one of the options listed at:
  https://kubernetes.io/docs/concepts/cluster-administration/addons/

You can now join any number of control-plane nodes by copying certificate authorities
and service account keys on each node and then running the following as root:

  kubeadm join 192.168.15.199:26443 --token lnp2w6.2bzbufere9hx99zj \
    --discovery-token-ca-cert-hash sha256:50ae6896539bfb1a2127c5cdabd8d0641f34189b1a882e5f0c5dc2290c10f629 \
    --control-plane 

Then you can join any number of worker nodes by running the following on each as root:

kubeadm join 192.168.15.199:26443 --token lnp2w6.2bzbufere9hx99zj \
    --discovery-token-ca-cert-hash sha256:50ae6896539bfb1a2127c5cdabd8d0641f34189b1a882e5f0c5dc2290c10f629

其他节点加入

# 加入成功
kubeadm join 192.168.15.199:26443 --token lnp2w6.2bzbufere9hx99zj \
    --discovery-token-ca-cert-hash sha256:50ae6896539bfb1a2127c5cdabd8d0641f34189b1a882e5f0c5dc2290c10f629 

# get nodes 正常
[root@k8s-master ~]# kubectl get nodes
NAME         STATUS     ROLES                  AGE   VERSION
k8s-master   NotReady   control-plane,master   20m   v1.20.9
k8s-node1    NotReady   <none>                 20s   v1.20.9

其他问题

中间查过很多文章，都不适用我的情况。这里也贴出个别解决方案供大家尝试：

  1. --control-plane-endpoint 和 --apiserver-advertise-address 参数必须是内网地址
  2. --image-repository 参数需要配置国内镜像源，不然可能在镜像拉取过程就超时。或者提前下载整合镜像包，docker load 加载后在这里配置好镜像的对应地址
  3. 其他节点加入成功但是在控制节点 kubectl get nodes 不显示：
    这可能是因为每台机器的 hostname 是一样的， kubectl get nodes 对于一样的名称只会展示一条，所以需要为每台机器设置自己的 hostname（sudo hostnamectl set-hostname <名称>）
K8s集群在Mater端kubeadm init初始化失败的原因
wilson7800的博客
06-17 1682
偿试了网上说的很多方法均不行。试了1.17.17和1.17.4版本都出现这样的问题，也不知道是啥原因？请大神帮忙。
kubeadm init初始化k8s集群时报错，[kubelet-check] Initial timeout of 40s passed.
热门推荐
WinterPirates的博客
07-25 5万+
在使用kubeadm init初始化k8s集群中的master主节点时，总是出错。这个地方卡了我很长时间，遇到了好几个不一样的错误，有的问题在网上也没有找到什么有效的解决方案，所以特此记录一下。以下错误均是在使用kubeadm init语句初始化k8s集群过程中出现的问题。 第一次初始化集群时，我的初始化master节点kubeadm init语句为： kubeadm init --kubernetes-version=v1.10.0 \ --apiserver-advertise-address=50.
Kubeadm v1.28 国内 kubeadm init 失败的问题
zhkmxx930的专栏
02-13 1473
部署kubeadm 1.28版本时，遇到以下问题，处理containerd，换源等方法都不行，最后发现是containerd配置文件中的源有问题。接着编辑/etc/containerd/config.toml文件，把。
【Kubernetes】Kubeadm init失败：container runtime is not running
mkr67n的博客
10-27 3493
在使用containerd作为容器运行时部署Kubeadm时报错：[ERROR CRI]: container runtime is not running. 原因其实是containerd在安装时配置默认禁用了容器运行时插件，将其打开即可解决。
Kubeadm初始化一直失败，kubelet显示无法成功启动的解决办法
llllllllpc的博客
05-14 1554
本人前几天学习过程中也碰到了初始化失败的问题，尝试了无数种方法皆失败了，并且出现装特定版本成功（v1.28），其他版本不成功的情况（v1.29，v1.30），百思不得其解，苦苦钻研四天，最终放弃。当kubeadm init时出现kubelet启动不了的错误，在排除了kubelet版本不对等问题后，有可能就是k8s其他组件有问题导致初始化失败（而不是kubelet导致的），再次按流程尝试部署k8s时，竟非常顺利的一遍成功。所以特来提醒大家不要钻牛角尖，
kubeadmn初始化失败
sx796的博客
07-06 564
是因为 Kubernetes cgroup驱动程序设置为systems，但docker设置为systemd。问题出在 cgroup 驱动程序上。
kubernetes初始化集群kubeadm init问题及解决方案
weixin_42051538的博客
02-20 3927
最近，重新部署K8s集群时，遇到之前部署未遇到的问题，下面是问题及解决方案： 具体部署过程请参考B站尚硅谷教程：【尚硅谷】Kubernetes（k8s）入门到实战教程丨全新升级完整版 这次部署遇到的问题：在执行kubeadm init时显示如下 [wait-control-plane] Waiting for the kubelet to boot up the control plane as static Pods from directory “/etc/kubernetes/manifests
kubeadm初始化高可用k8s1.20.4集群-etcd集群独立在k8s集群外-kubernetes安装包和详细文档笔记整理
05-29
在本主题中，我们将深入探讨如何使用`kubeadm`工具来初始化一个高可用性的Kubernetes（k8s）1.20.4集群，其中etcd集群独立于k8s集群之外运行。这对于确保数据存储的稳定性和可扩展性至关重要。etcd是Kubernetes的...
kubeadm初始化失败
最新发布
06-15
kubeadm 初始化失败可能由多种原因引起，以下是一些常见问题及其对应的解决方案： #### 1. **网络问题** 如果节点之间的网络不通或无法访问外部镜像仓库，可能导致初始化失败。例如，flannel 网络插件的镜像拉取...
Kubeadm初始化多Master集群常见故障，90%运维都踩过的8个坑及修复指南
# Kubeadm多Master集群：从原理到高可用的实战跃迁 在智能边缘计算与云原生架构深度融合的今天，Kubernetes 已不再是“要不要用”的问题，而是“如何用得稳、管得住、扩得开”的核心挑战。尤其是当业务迈向生产级 ...
k8s-集群初始化kubeadm init踩的坑和经验
qq_43566826的博客
10-23 2万+
刚开始学是按照这篇文章搭建： 使用vmware搭建k8s集群（keubernetes集群） 后来在初始化集群的时候遇到了问题 参考文章： kubeadm init初始化k8s集群时报错，[kubelet-check] Initial timeout of 40s passed. 对于此文章的第三点，如果你报错是这个： 说明它默认从k8s.gcr.io拉取镜像。而这个在国内你是访问不了的，所以要指定国内镜像 $ kubeadm init \ --apiserver-advertise-address=19
kubeadm init 失败: failed to pull image k8s.gcr.io/etcd:3.4.13-0
张伯毅的专栏
08-25 1435
因为k8s.gcr.io镜像库在国内需要翻墙，所以普通下载无法成功完成，可以更改一下下载的镜像库地址为国内地址，下载后将标签打回和kubeadm config一致的方法解决。
【解决】k8s使用kubeadm初始化集群失败问题整理
weixin_52418790的博客
12-13 2317
错误：running with swap on is no；错误：failed to get sandbox image；错误：hostname "node" could not be reached；错误：xxx.yaml already exists、Port xxxx is in use 错误：Attempting to register node" node="node
踩坑系列 ubuntu上初始化kubernetes(k8s)失败、重新初始化
qq_46352005的博客
10-11 1401
安装成功后，复制如下配置并执行。
kubeadm init 初始化运行到 Initial timeout of 40s passed 后报错
chenkewen2007的博客
02-08 5732
kubeadm init 初始化报错
kubeadm重新初始化报错
qq_45654671的博客
12-10 1110
kubeadm重新初始化
安装 Kubeadm报错失败
merlon学习笔记
03-28 384
ubuntu22.04安装kubeadm失败
kubeadm init初始化报错
Didier__的博客
06-10 6040
kubeadm init 初始化异常报错处理
记一次不典型的 kubeadm init 失败（kubelet 启动失败）
beijihukk的博客
03-04 8689
记录一次不典型的 kubeadm init 失败 背景 原有kubernetes 环境，版本较老v1.19.8，需要用新版的，于是直接重装 操作及问题 #1. 安装新版本组件 yum install -y kubeadm-1.23.0-0 kubelet-1.23.0-0 kubectl-1.23.0-0 --disableexcludes=kubernetes #2. 使用kubeadm重新部署 kubeadm reset kubeadm init --image-repository=regist
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值