【Kubernetes】二进制部署k8s集群（中）之cni网络插件flannel和calico

原始数据包从源主机的Pod容器发出到cni0网桥接口，再由cni0转发到flannel0虚拟接口
flanneld服务会监听flannel0接口收到的数据，并会将原始数据包封装到UDP报文里
flanneld服务会根据在etcd中维护的路由表查到目标Pod所在的nodeIP，并在UDP报文外封装nodeIP头部、MAC头部等，再通过物理网卡发送到目标node节点
UDP报文通过8285端口送达到目标node节点的flanneld服务进程解封装获取原始数据包，数据报文再根据本地路由规则通过flannel0接口发送到cni0网桥，再由cni0发送到目标Pod容器

etcd 之 Flanneld 提供说明

存储管理 Flannel 可分配的IP地址段资源

监控 etcd 中每个 Pod 的实际地址，并在内存中建立维护 Pod 节点路由表

由于在 UDP 模式下 flanneld 进行网络的封包和解包工作，而 VXLAN 模式下封包解包的工作由内

核完成，因此性能上 UDP 模式会比在内核态做转发的 VXLAN 模式差

2.VXLAN 模式

VXLAN 模式是 Flannel 默认和推荐的模式，flannel 会为每个节点分配一个 24 位子网，并在每个

节点上创建两张虚机网卡：cni0 和 flannel.1 。 cni0 是一个网桥设备，类似于 docker0 ，节点上所

有的 Pod 都通过 veth pair 的形式与 cni0 相连。 flannel.1 则是一个 VXLAN 类型的设备，充当

VTEP 设备（VXLAN Tunnel Endpoint）的角色，实现对 VXLAN 报文的封包解包。

在 VXLAN 模式下，flanneld 启动时先确保 VXLAN 设备已存在，如果不存在则创建，存在则跳

过。并将 VTEP 设备的信息上报到 etcd 中，当 flannel 网络有新节点加入集群时并向 etcd 注册，

各节点上的 flanneld 会从 etcd 得到通知。

Flannel VXLAN 模式跨主机的工作原理

原始数据帧从源主机的Pod容器发出到cni0网桥接口，再由cni0转发到flannel.1虚拟接口
flannel.1接口收到数据帧后添加VXLAN头部，再由内核将原始数据帧封装到UDP报文里
根据在etcd中维护的路由表查到目标Pod所在的nodeIP，并在UDP报文外封装nodeIP头部、MAC头部等，再通过物理网卡发送到目标node节点
UDP报文通过8472端口送达到目标node节点的flannel.1接口并由内核解封装获取原始数据帧，数据报文再根据本地路由规则发送到cni0网桥，再由cni0发送到目标Pod容器

四.VLAN 和 VXLAN 区别（拓展）

1.使用场景不同

VLAN主要用于在交换机上逻辑划分广播域，还可以配合STP生成树协议阻塞路径接口，从而避免产生环路和广播风暴
VXLAN用作于叠加网络，可以将数据帧封装成UDP报文，再通过网络层传输到其它网络，从而实现虚拟大二层网络的通信

2.数量不同

VXLAN支持更多的二层网络：VXLAN最多可支持 2^24 个；
VLAN最多支持 2^12 个（4096-2）

3.mac表中的记录不同

VXLAN可以防止物理交换机MAC表耗尽：
VLAN需要在交换机的MAC表中记录MAC地址；
VXLAN采用隧道机制，MAC地址不记录在交换机的MAC表中

五.部署 flannel

1.在 master01 节点上操作

1.1.上传文件并解压

unzip flannel-v0.21.5.zip

1.2.复制到2个node节点

scp flannel*.tar 192.168.80.102:/opt/k8s
scp flannel*.tar 192.168.80.103:/opt/k8s
scp cni-plugins-linux-amd64-v1.3.0.tgz 192.168.80.102:/opt/k8s/
scp cni-plugins-linux-amd64-v1.3.0.tgz 192.168.80.103:/opt/k8s/

1.3.部署 CNI 网络

kubectl apply -f kube-flannel.yml 

kubectl get pods -n kube-flannel

kubectl get pods -A

kubectl get pods -A -owide

kubectl get nodes

ip -d a show flannel.1   #在node上查看flannel.1的端口

2.在 node01 节点上操作

2.1.查看并导入镜像

docker load -i flannel.tar
docker load -i flannel-cni-plugin.tar

2.2.创建目录并解压

mkdir -p /opt/cni/bin
tar zxvf cni-plugins-linux-amd64-v1.3.0.tgz -C /opt/cni/bin

2.3.检查端口

3.在 node02 节点上操作

3.1.查看并导入镜像

docker load -i flannel.tar
docker load -i flannel-cni-plugin.tar

3.2.创建目录并解压

mkdir -p /opt/cni/bin
tar zxvf cni-plugins-linux-amd64-v1.3.0.tgz -C /opt/cni/bin

3.3.检查端口

注意

有几个文件中的网段设置需要一致

kube-flannel.yml中的网段设置

与controller manager以及kube-proxy脚本中设置的网段需要保持一致

kube-flannel.yml

controller manager脚本

kube-proxy脚本

六.Calico 网络插件

1.k8s 组网方案对比

flannel方案

需要在每个节点上把发向容器的数据包进行封装后，再用隧道将封装后的数据包发送到运行着目标

Pod的node节点上。目标node节点再负责去掉封装，将去除封装的数据包发送到目标Pod上。数据

通信性能则大受影响

calico方案

Calico不使用隧道或NAT来实现转发，而是把每个操作系统的协议栈认为是一个路由器，然后把所

有的容器认为是连在这个路由器上的网络终端，在路由器之间跑标准的路由协议——BGP的协议，

然后让它们自己去学习这个网络拓扑该如何转发

它不使用 cni0 网桥，而是通过路由规则把数据包直接发送到目标节点的网卡，所以性能高

2.Calico 的模式

IPIP 模式：在原有 IP 报文中封装一个新的 IP 报文，新的 IP 报文中将源地址 IP 和目的地址 IP 都修改为对端宿主机 IP。Calico 默认使用 IPIP 的模式
BGP 模式：将节点做为虚拟路由器通过 BGP 路由协议来实现集群内容器之间的网络访问。
cross-subnet（ipip-bgp混合模式）：IPIP 模式和 BGP 模式都有对应的局限性，对于一些主机跨子网而又无法使网络设备使用 BGP 的场景可以使用 cross-subnet 模式，实现同子网机器使用 BGP 模式，跨子网机器使用 IPIP 模式

3.Calico 主要由以下几个部分组成

Calico CNI插件：主要负责与kubernetes对接，供kubelet调用使用
Felix：运行在每一台 Host 的 agent 进程，主要负责在宿主机上维护路由规则、网络接口管理等
BIRD：BGP客户端，负责监听 Host 上由 Felix 注入的路由信息，然后通过 BGP 协议广播在集群里分发路由规则信息，从而实现网络互通
etcd：分布式键值存储，主要负责网络元数据一致性，确保 Calico 网络状态的准确性

4.Calico 工作原理：

IPIP 模式

原始数据包从源主机的Pod容器发出，经过 veth pair 设备送达到tunl0接口
tunl0接口收到数据包后，由内核将原始数据包封装到node节点网络的IP报文里，再根据Felix维护的路由规则通过物理网卡发送到目标node节点
IP数据包到达目标节点的tunl0接口后，由内核解封装获取原始数据包，数据报文再根据本地路由规则经过 veth pair 设备发送到目标Pod容器

BGP 模式

本质就是通过路由规则来实现Pod之间的通信

每个Pod都有一个 veth pair 设置，一端接入Pod，另一端接入宿主机网络空间，并设置了一条路由规则
这些路由规则都是 Felix 维护的，由 BIRD(BGP Client) 基于 BGP 动态路由协议分发给其它节点

原始数据包从源主机的Pod容器发出，经过 veth pair 设备送达到宿主机网络空间，再根据Felix维护的路由规则通过物理网卡发送到目标node节点
目标node节点收到数据包后，会根据本地路由规则经过 veth pair 设备送达到目标 Pod 容器

七.Flannel 和 Calico 对比

1.flannel

模式： UDP VXLAN HOST-GW
默认网段：10.244.0.0/16
通常会采用VXLAN模式，由于用的是叠加网络、IP隧道方式传输数据，传输过程中需要额外的封包和解包，对性能有一点的影响
flannel简单易用
不具备复杂的网络策略配置能力，性能方面表现一般

2.calico

模式：IPIP VXLAN BGP CrossSubnet(混合模式)
默认网段：192.168.0.0/16
使用IPIP或VXLAN模式可以实现跨网段通信，但是传输过程中需要额外的封包和解包，对性能有一点的影响
使用BGP模式会把每个节点看作成路由器，通过Felix、BIRD组件来维护和分发路由规则，可实现直接通过路由规则直接发送数据包到目标主机，传输中不需要额外的封包和解包，因此性能较好。但是不能跨网段通信。
calico性能较高，具有丰富的网络