容器网络问题排查常用命令

由于对网络的了解不够深入,本篇逻辑不清楚,只是放了几个关联的命令,至于更详细的原因,留待以后研究。

容器跨主机网络

一个正常的 3 节点容器网络网卡和路由信息如下。

节点一 192.168.200.204

网卡信息:

flannel.1: flags=4163<UP,BROADCAST,RUNNING,MULTICAST>  mtu 1450
        inet 10.42.0.0  netmask 255.255.255.255  broadcast 0.0.0.0
        inet6 fe80::ec2c:5ff:fed1:2900  prefixlen 64  scopeid 0x20<link>
        ether ee:2c:05:d1:29:00  txqueuelen 0  (Ethernet)
        RX packets 8019  bytes 1873186 (1.7 MiB)
        RX errors 0  dropped 0  overruns 0  frame 0
        TX packets 8213  bytes 789044 (770.5 KiB)
        TX errors 0  dropped 8 overruns 0  carrier 0  collisions 0

路由信息:

Destination     Gateway         Genmask         Flags Metric Ref    Use Iface
default         gateway         0.0.0.0         UG    100    0        0 ens33
10.42.0.10      0.0.0.0         255.255.255.255 UH    0      0        0 cali72476272766
10.42.0.11      0.0.0.0         255.255.255.255 UH    0      0        0 cali53fb75e9ddc
10.42.0.12      0.0.0.0         255.255.255.255 UH    0      0        0 cali9238d4857d8
10.42.0.13      0.0.0.0         255.255.255.255 UH    0      0        0 cali93e550b9ebf
10.42.1.0       10.42.1.0       255.255.255.0   UG    0      0        0 flannel.1
10.42.2.0       10.42.2.0       255.255.255.0   UG    0      0        0 flannel.1
172.17.0.0      0.0.0.0         255.255.0.0     U     0      0        0 docker0
192.168.200.0   0.0.0.0         255.255.255.0   U     100    0        0 ens33

节点二 192.168.200.205

网卡信息:

flannel.1: flags=4163<UP,BROADCAST,RUNNING,MULTICAST>  mtu 1450
        inet 10.42.2.0  netmask 255.255.255.255  broadcast 0.0.0.0
        inet6 fe80::9c71:24ff:fe0e:7787  prefixlen 64  scopeid 0x20<link>
        ether 9e:71:24:0e:77:87  txqueuelen 0  (Ethernet)
        RX packets 9483  bytes 839101 (819.4 KiB)
        RX errors 0  dropped 0  overruns 0  frame 0
        TX packets 11321  bytes 1165150 (1.1 MiB)
        TX errors 0  dropped 8 overruns 0  carrier 0  collisions 0

路由信息:

Destination     Gateway         Genmask         Flags Metric Ref    Use Iface
default         gateway         0.0.0.0         UG    100    0        0 ens33
10.42.0.0       10.42.0.0       255.255.255.0   UG    0      0        0 flannel.1
10.42.1.0       10.42.1.0       255.255.255.0   UG    0      0        0 flannel.1
10.42.2.18      0.0.0.0         255.255.255.255 UH    0      0        0 calia386a0ae7e9
10.42.2.19      0.0.0.0         255.255.255.255 UH    0      0        0 calid8146ec96f0
10.42.2.20      0.0.0.0         255.255.255.255 UH    0      0        0 calid96aa26afb9
10.42.2.21      0.0.0.0         255.255.255.255 UH    0      0        0 cali125284d5716
10.42.2.22      0.0.0.0         255.255.255.255 UH    0      0        0 cali92f020e8f12
10.42.2.23      0.0.0.0         255.255.255.255 UH    0      0        0 cali6ffdb16a4e8
172.17.0.0      0.0.0.0         255.255.0.0     U     0      0        0 docker0
192.168.200.0   0.0.0.0         255.255.255.0   U     100    0        0 ens33

节点三 192.168.200.206

网卡信息:

flannel.1: flags=4163<UP,BROADCAST,RUNNING,MULTICAST>  mtu 1450
        inet 10.42.1.0  netmask 255.255.255.255  broadcast 0.0.0.0
        inet6 fe80::80ce:7cff:fe3e:9136  prefixlen 64  scopeid 0x20<link>
        ether 82:ce:7c:3e:91:36  txqueuelen 0  (Ethernet)
        RX packets 12756  bytes 1068523 (1.0 MiB)
        RX errors 0  dropped 0  overruns 0  frame 0
        TX packets 10074  bytes 1792199 (1.7 MiB)
        TX errors 0  dropped 8 overruns 0  carrier 0  collisions 0

路由信息:

Destination     Gateway         Genmask         Flags Metric Ref    Use Iface
default         gateway         0.0.0.0         UG    100    0        0 ens33
10.42.0.0       10.42.0.0       255.255.255.0   UG    0      0        0 flannel.1
10.42.1.17      0.0.0.0         255.255.255.255 UH    0      0        0 cali013edd0c23e
10.42.1.18      0.0.0.0         255.255.255.255 UH    0      0        0 cali6cf9397d176
10.42.1.19      0.0.0.0         255.255.255.255 UH    0      0        0 calid4e960f5b99
10.42.1.20      0.0.0.0         255.255.255.255 UH    0      0        0 cali121e24acd4f
10.42.1.21      0.0.0.0         255.255.255.255 UH    0      0        0 cali8fb356abfba
10.42.1.22      0.0.0.0         255.255.255.255 UH    0      0        0 cali8097f1d812c
10.42.2.0       10.42.2.0       255.255.255.0   UG    0      0        0 flannel.1
172.17.0.0      0.0.0.0         255.255.0.0     U     0      0        0 docker0
192.168.200.0   0.0.0.0         255.255.255.0   U     100    0        0 ens33

简单分析

以 192.168.200.204 为例,当前 flannel.1 的 IP 为 10.42.0.0,和另外两个节点有如下的路由:

Destination     Gateway         Genmask         Flags Metric Ref    Use Iface
10.42.1.0       10.42.1.0       255.255.255.0   UG    0      0        0 flannel.1
10.42.2.0       10.42.2.0       255.255.255.0   UG    0      0        0 flannel.1

查看 ARP 记录:

[root@localhost ~]# ip neigh show dev flannel.1
10.42.2.0 lladdr 9e:71:24:0e:77:87 PERMANENT
10.42.1.0 lladdr 82:ce:7c:3e:91:36 PERMANENT

查看对于 MAC 地址的网桥信息:

[root@localhost ~]# bridge fdb show flannel.1
82:ce:7c:3e:91:36 dev flannel.1 dst 192.168.200.206 self permanent
9e:71:24:0e:77:87 dev flannel.1 dst 192.168.200.205 self permanent

容器 Veth Pair 关系查看

当单个宿主机内容器网络不通的时候,可以通过本节的命令排查问题。

文中引用信息来自张磊深入剖析Kubernetes

张磊: Veth Pair 设备的特点是:它被创建出来后,总是以两张虚拟网卡(Veth Peer)的形式成对出现的。并且,从其中一个“网卡”发出的数据包,可以直接出现在与它对应的另一张“网卡”上,哪怕这两个“网卡”在不同的 Network Namespace 里。

运行下面命令启动一个容器:

docker run --name busybox --rm -it busybox /bin/sh

容器内查看网络信息:

/ # ifconfig
eth0      Link encap:Ethernet  HWaddr 02:42:AC:11:00:02  
          inet addr:172.17.0.2  Bcast:172.17.255.255  Mask:255.255.0.0
          UP BROADCAST RUNNING MULTICAST  MTU:1500  Metric:1
          RX packets:9 errors:0 dropped:0 overruns:0 frame:0
          TX packets:2 errors:0 dropped:0 overruns:0 carrier:0
          collisions:0 txqueuelen:0 
          RX bytes:788 (788.0 B)  TX bytes:125 (125.0 B)

lo        Link encap:Local Loopback  
          inet addr:127.0.0.1  Mask:255.0.0.0
          UP LOOPBACK RUNNING  MTU:65536  Metric:1
          RX packets:0 errors:0 dropped:0 overruns:0 frame:0
          TX packets:0 errors:0 dropped:0 overruns:0 carrier:0
          collisions:0 txqueuelen:1000 
          RX bytes:0 (0.0 B)  TX bytes:0 (0.0 B)

打开另一个宿主机的 SSH 连接,通过下面脚本查看和当前容器匹配的 Veth Pair 设备:

[root@localhost ~]# curl -Ssl https://raw.githubusercontent.com/micahculpepper/dockerveth/master/dockerveth.sh | sh
CONTAINER ID	VETH       	NAMES
2c54348455eb	vethd030a3f	busybox

在宿主机查看该网卡信息:

vethd030a3f: flags=4163<UP,BROADCAST,RUNNING,MULTICAST>  mtu 1500
        inet6 fe80::8c6c:c9ff:fefb:56aa  prefixlen 64  scopeid 0x20<link>
        ether 8e:6c:c9:fb:56:aa  txqueuelen 0  (Ethernet)
        RX packets 3  bytes 167 (167.0 B)
        RX errors 0  dropped 0  overruns 0  frame 0
        TX packets 11  bytes 900 (900.0 B)
        TX errors 0  dropped 0 overruns 0  carrier 0  collisions 0

通过 brctl 查看网桥信息:

[root@localhost ~]# brctl show
bridge name	bridge id		STP enabled	interfaces
docker0		8000.02422990970c	no		vethd030a3f

如果系统没有 brctl 可以安装 yum install bridge-utils

可以看到该设备插在了 docker0 上。

张磊: 一旦一张虚拟网卡被“插”在网桥上,它就会变成该网桥的“从设备”。从设备会被“剥夺”调用网络协议栈处理数据包的资格,从而“降级”成为网桥上的一个端口。而这个端口唯一的作用,就是接收流入的数据包,然后把这些数据包的“生杀大权”(比如转发或者丢弃),全部交给对应的网桥。

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 打赏
    打赏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

isea533

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值