目录
pod通信和服务发现
在没有k8s的世界里,系统管理员要在用户端配置文件中明确服务的精确的ip地址或主机名来配置客户端的应用,但是在k8s中并不是需要。k8s中应用运行在pod中, 而pod的高可用设计使得无法保证准确的ip, 这里总结一下pod与服务的工作方式。
1 pod特点
- pod随时可能启动或关闭,是短暂的
- 客户端不会提前知道pod的地址,
- 水平伸缩以为着pod可能会提供相同的服务,每个pod ip不同,但客户端只需要服务,不需要知道pod的地址。
2 服务
为了解决上述需要,k8s为一组功能相同的pod提供单一不变的接入点,这就是服务。服务的ip和端口不会改变。客户端通过服务被路由pod上,而不需要直接连接pod,这样单个pod被移除或新的pod被创建就不影响。
3 pod与服务的匹配
上述的过程可以看出服务创建的一个基本问题,如何把服务和一组特定功能的pod匹配起来呢? 标签选择器
4 创建服务
- 创建服务之前,先使用rc创建与之连接的pod
cat > kubia-rc.yaml << EOF
apiVersion: v1
kind: ReplicationController
metadata:
name: kubia
spec:
replicas: 2
selector:
app: kubia
template:
metadata:
labels:
app: kubia
spec:
containers:
- name: kubia
image: luksa/kubia
ports:
- containerPort: 8080
EOF
# create
kubectl create -f kubia-rc.yaml
# 查看
[root@nginx test]# kubectl get po
NAME READY STATUS RESTARTS AGE
kubia-66tvd 1/1 Running 0 2m31s
kubia-v8dvv 1/1 Running 0 2m31s
- 创建服务
cat > kubia-svc.yaml << EOF
apiVersion: v1
kind: Service
metadata:
name: kubia
spec:
ports:
- port: 80
targetPort: 8080
selector:
app: kubia
EOF
# create
kubectl create -f kubia-svc.yaml
# 查看
[root@nginx test]# kubectl get svc
NAME TYPE CLUSTER-IP EXTERNAL-IP PORT(S) AGE
kubernetes ClusterIP 10.43.0.1 <none> 443/TCP 16d
kubia ClusterIP 10.43.165.39 <none> 80/TCP 46s
5 为什么服务ip无法ping通 ?
我们发现服务curl是可以,但是无法ping通。
[root@k8s-node01 ~]# curl 10.43.165.39
You've hit kubia-66tvd
[root@k8s-node01 ~]# ping 10.43.165.39
PING 10.43.165.39 (10.43.165.39) 56(84) bytes of data.
^C
--- 10.43.165.39 ping statistics ---
2 packets transmitted, 0 received, 100% packet loss, time 999ms
有的时候ping不通我们就认为出问题了,其实没有。这是因为集群ip是虚拟ip, 并且只有在与服务端口结合时才有意义。 所以ping不通是正常的。
6 测试与分析
分配给该服务的ip是10.43.165.39, 但这是cluster-ip,也就是集群ip, 只能在集群内部可以访问。 也就是集群节点上或其他的pod可以访问。 是不是这样呢? 测试一下
- ssh到集群的一个节点上
[root@k8s-node01 ~]# curl 10.43.165.39
You've hit kubia-66tvd
# 服务的cluster ip 在集群内部,节点可与其通信
- 在pod中执行命令, 执行成功则说明连接
# 测试多次, 每次并不是同一个pod
[root@nginx test]# kubectl exec kubia-vs2kl -- curl -s http://10.43.165.39
You've hit kubia-vs2kl
[root@nginx test]# kubectl exec kubia-vs2kl -- curl -s http://10.43.165.39
You've hit kubia-l9w94
[root@nginx test]# kubectl exec kubia-vs2kl -- curl -s http://10.43.165.39
You've hit kubia-vs2kl
– 表示kubectl 命令结束,之后为在pod中执行的命令
上图展示了事件发生的顺序
- 在一个pod中执行命令,这个命令是发送http请求
- pod向服务的ip发送请求
- 由于这个服务是代理pod的,转发请求到其中一个pod上
- 在pod2中处理请求,并返回带有pod名称的相应
- 请求结果在主机上打印
上述某一个过程出问题,都会使得上述命令失败,所以可用来测试集群网络。
7 同一个服务暴露多个端口
服务可以暴露一个端口,也可以多个端口。比如http监听8080端口,https监听8443端口。 多个端口需要指定名称, 没有设置名称的端口会在describe 时显示<unset> , 如果pod中的端口也是命令的,svc中targetport可以使用其名称吗,这样在更换pod端口号的时候也不用修改服务了,因为其是根据名称匹配的。
cat > kubia-svc.yaml << EOF
apiVersion: v1
kind: Service
metadata:
name: kubia
spec:
ports:
- name: http
port: 80
targetPort: 8080
- name: https
port: 443
targetPort: 8443
selector:
app: kubia
EOF
8 发现服务
创建服务后, 我们可以通过单一稳定的ip访问到pod, 不管pod如何变化都不影响。 但是在某个服务创建之后新建的pod如何知道服务的ip呢? 难道手动查询吗? 不需要。
k8s为客户端提供了发现服务的ip和端口的方式——环境变量, 在pod开始运行的时候,k8s会初始化一系列的环境变量指向现在存在的服务。如下:
[root@nginx test]# kubectl exec kubia-vs2kl -- env
PATH=/usr/local/sbin:/usr/local/bin:/usr/sbin:/usr/bin:/sbin:/bin
HOSTNAME=kubia-vs2kl
KUBERNETES_PORT=tcp://10.43.0.1:443
KUBIA_PORT_80_TCP_PORT=80
KUBIA_PORT=tcp://10.43.165.39:80
KUBIA_PORT_80_TCP=tcp://10.43.165.39:80
KUBIA_PORT_80_TCP_PROTO=tcp
KUBIA_PORT_80_TCP_ADDR=10.43.165.39
KUBERNETES_SERVICE_PORT=443
KUBERNETES_PORT_443_TCP_ADDR=10.43.0.1
KUBIA_SERVICE_HOST=10.43.165.39
KUBIA_SERVICE_PORT=80
NPM_CONFIG_LOGLEVEL=info
NODE_VERSION=7.9.0
YARN_VERSION=0.22.0
HOME=/root
9 DNS
环境变量是获取ip和端口的一种方式,也可以通过DNS获取。
[root@nginx test]# kubectl get po -n kube-system
NAME READY STATUS RESTARTS AGE
canal-l58m7 2/2 Running 2 16d
canal-s92dx 2/2 Running 3 16d
coredns-7c5566588d-rhdtx 1/1 Running 1 16d
coredns-7c5566588d-tp55c 1/1 Running 1 16d
coredns-autoscaler-65bfc8d47d-4mdt5 1/1 Running 1 16d
metrics-server-6b55c64f86-zlz4l 1/1 Running 2 16d
kube-system空间中pod有coredns,这表明在运行dns服务,在集群中的其他pod都被配置成使用作为为DNS , 运行在pod上的进程DNS 查询都会被k8s自身的DNS服务器响应,该服务器知道系统中运行的所有服务。pod中的spec中的dnspolicy值决定是否使用DNS服务器。
10 endpoints
我们也希望k8s将服务暴露到外部,在此之前要先介绍一下endpoint, 它是介于pod和svc之间的资源。 就是暴露服务要转发的pod的ip地址和端口的列表。
# 查看endpoints
[root@nginx test]# kubectl get endpoints kubia
NAME ENDPOINTS AGE
kubia 10.42.0.10:8443,10.42.1.10:8443,10.42.1.9:8443 + 3 more... 79m
# 查看pod IP
NAME READY STATUS RESTARTS AGE IP NODE NOMINATED NODE READINESS GATES
kubia-66tvd 1/1 Running 0 161m 10.42.0.10 81.68.101.212 <none> <none>
kubia-l9w94 1/1 Running 0 128m 10.42.1.9 81.68.229.215 <none> <none>
kubia-vs2kl 1/1 Running 0 125m 10.42.1.10 81.68.229.215 <none> <none>
# 从svc中也可以看到, endpoints就是待转发pod的IP与端口的集合
[root@nginx test]# kubectl describe svc kubia
Name: kubia
Namespace: default
Labels: <none>
Annotations: <none>
Selector: app=kubia
Type: ClusterIP
IP Families: <none>
IP: 10.43.7.83
IPs: <none>
Port: http 80/TCP
TargetPort: 8080/TCP
Endpoints: 10.42.0.10:8080,10.42.1.10:8080,10.42.1.9:8080
Port: https 443/TCP
TargetPort: 8443/TCP
Endpoints: 10.42.0.10:8443,10.42.1.10:8443,10.42.1.9:8443
Session Affinity: None
Events: <none>
这表明服务是利用标签匹配pod, 然后建立endpoints, 将请求转发的endpoints中的一个ip: port上。 所以有的时候服务连接失败,需要查看endpoints是否存在正确。
了解到这一层之后,我们也可以不使用标签匹配pod,手动为服务建立endpoints,只要新建一个endpoints资源,使其与服务的名称相同即可。
endpoints本身就是一个资源,而不是service的一部分。
11 将服务暴露给外部
目前为止,讨论了集群内部pod的使用。有时我们需要将服务暴露给集群之外的网络,比如前端web服务器。有几种方式可以在外部访问服务。
- nodeport型的服务,在集群的每个节点上打开一个端口,因此叫nodeport,将该端口山的流量重定向到服务上,使用集群ip:port既可以访问。
- loadbalance型服务,是nodeport的一种扩展, 这使得服务可以通过一个专用的负载均衡器来访问。
- ingress资源,这是一个完全不同的机制,通过一个ip地址公开多个服务——它运行在http层,因此可以比第四层的服务提供更多的资源。
第一种: 使用nodeport暴露服务到外部
cat > kubia-svc-nodeport.yaml << EOF
apiVersion: v1
kind: Service
metadata:
name: kubia-nodeport
spec:
type: NodePort
ports:
- port: 80
targetPort: 8080
nodePort: 30123
selector:
app: kubia
EOF
# 创建
kubectl create -f kubia-svc-nodeport.yaml
# 查看
[root@nginx test]# kubectl get svc kubia-nodeport -o wide
NAME TYPE CLUSTER-IP EXTERNAL-IP PORT(S) AGE SELECTOR
kubia-nodeport NodePort 10.43.254.206 <none> 80:30123/TCP 38m app=kubia
# 测试, 本地shell连接
[C:\~]$ curl http://81.68.229.215:30123
% Total % Received % Xferd Average Speed Time Time Time Current
Dload Upload Total Spent Left Speed
100 23 0 23 0 0 23 0 --:--:-- --:--:-- --:--:-- 1533
You've hit kubia-l9w94
# 这表明外部网络可以连接到集群内部的服务,用浏览器也可以打开。
第二种: 使用loadbalance暴露服务到外部
对于提供负载均衡器的云构架才可以使用loadbalancer, 如果不支持则nodebanlancer型svc将退化为nodeport。
cat > kubia-svc-loadbalancer.yaml << EOF
apiVersion: v1
kind: Service
metadata:
name: kubia-loadbalancer
spec:
type: LoadBalancer
ports:
- port: 80
targetPort: 8080
selector:
app: kubia
EOF
# 创建
kubectl create -f kubia-svc-loadbalancer.yaml
# 查看
[root@nginx ~]# kubectl get svc
NAME TYPE CLUSTER-IP EXTERNAL-IP PORT(S) AGE
kubernetes ClusterIP 10.43.0.1 <none> 443/TCP 17d
kubia ClusterIP 10.43.7.83 <none> 80/TCP,443/TCP 18h
kubia-loadbalancer LoadBalancer 10.43.20.104 <pending> 80:31342/TCP 14m
kubia-nodeport NodePort 10.43.254.206 <none> 80:30123/TCP 16h
nginx-service NodePort 10.43.66.77 <none> 80:30080/TCP 16h
# 测试, 本集群不支持loadbalancer, 所以external-ip状态为pending, 此时loadbalancer就是一个nodeport
# 本地shell测试 node-ip:port , 连接正常
[C:\~]$ curl http://81.68.229.215:31342
% Total % Received % Xferd Average Speed Time Time Time Current
Dload Upload Total Spent Left Speed
100 23 0 23 0 0 23 0 --:--:-- --:--:-- --:--:-- 741
You've hit kubia-vs2kl
# 换一个腾讯云的弹性集群测试,支持负载均衡器
# 部署同样的deployment, 然后部署loadlancer, 过程相同,省略
# 查看
[root@k8s-node02 ~]# kubectl get svc
NAME TYPE CLUSTER-IP EXTERNAL-IP PORT(S) AGE
kubernetes ClusterIP 192.168.0.1 <none> 443/TCP 3d23h
kubia-loadbalancer LoadBalancer 192.168.0.201 175.27.192.232 80:30493/TCP 67s
# 本地主机测试
[C:\~]$ curl http://175.27.192.232
% Total % Received % Xferd Average Speed Time Time Time Current
Dload Upload Total Spent Left Speed
100 33 0 33 0 0 33 0 --:--:-- --:--:-- --:--:-- 702
You've hit kubia-778d98d9c-2zpl5
# 成功了, 直接访问loadbalancer IP即可
第三种: ingress
为什么需要ingress呢, loadbalancer服务需要独立的共有IP地址,二ingress只需要一个公网IP就可以为许多服务提供访问。 当客户向ingress发送请求时,ingress会根据请求的主机名和路径决定请求转发的服务。也就是一个ingress可以暴露多个服务。如下:
cat > kubia-ingress.yaml << EOF
apiVersion: extensions/v1beta1
kind: Ingress
metadata:
name: kubia
spec:
rules:
- host: kubia.example.com
http:
paths:
- path: /
backend:
serviceName: kubia-nodeport
servicePort: 80
EOF
# 创建
kubectl create -f kubia-ingress.yaml
# 查看
[root@k8s-node02 ~]# kubectl get ing
NAME CLASS HOSTS ADDRESS PORTS AGE
kubia <none> kubia.example.com 119.45.3.217 80 34m
# 访问, 本地要添加dns
# windows在C:\Windows\System32\drivers\etc\hosts
# 添加
119.45.3.217 kubia.example.com
# 访问
[C:\~]$ curl http://1.13.12.141
% Total % Received % Xferd Average Speed Time Time Time Current
Dload Upload Total Spent Left Speed
100 33 0 33 0 0 33 0 --:--:-- --:--:-- --:--:-- 532
You've hit kubia-778d98d9c-2zpl5
[C:\~]$ curl http://kubia.example.com
% Total % Received % Xferd Average Speed Time Time Time Current
Dload Upload Total Spent Left Speed
0 0 0 0 0 0 0 0 --:--:-- --:--:-- --:--:-- 0
You've hit kubia-778d98d9c-2zpl5
ingress意为进入或进入的行为,进入的手段和地点
使用ingress,访问链路为客户端——ingress——service——工作负载, 所以ingress配置的时候一定要保证service正常工作,而且serviceName为转发service的名称。
参考资料: kubernets in action --服务:客户端发现pod并与之通信