目录
(kubernetes的流量负载组件包含:Service和Ingress,Service用于四层路由的负载,Ingress用于七层路由的负载,本文介绍Service,下一文介绍Ingress)
一、Service概述
在kubernetes中,pod是应用程序的载体,我们可以通过pod的ip来访问应用程序,但是pod的ip地址不是固定的,这也就意味着不方便直接采用pod的ip对服务进行访问。
为了解决这个问题,kubernetes提供了Service资源,Service会对提供同一个服务的多个pod进行聚合,并且提供一个统一的入口地址。通过访问Service的入口地址就能访问到后面的pod服务。
Service在很多情况下只是一个概念,真正起作用的其实是kube-proxy服务进程,每个Node节点上都运行着一个kube-proxy服务进程。当创建Service的时候会通过api-server向etcd写入创建的service的信息,而kube-proxy会基于监听的机制发现这种Service的变动,然后它会将最新的Service信息转换成对应的访问规则。
# 10.97.97.97:80 是service提供的访问入口
# 当访问这个入口的时候,可以发现后面有三个pod的服务在等待调用,
# kube-proxy会基于rr(轮询)的策略,将请求分发到其中一个pod上去
# 这个规则会同时在集群内的所有节点上都生成,所以在任何一个节点上访问都可以。
[root@node1 ~]# ipvsadm -Ln
IP Virtual Server version 1.2.1 (size=4096)
Prot LocalAddress:Port Scheduler Flags
-> RemoteAddress:Port Forward Weight ActiveConn InActConn
TCP 10.97.97.97:80 rr
-> 10.244.1.39:80 Masq 1 0 0
-> 10.244.1.40:80 Masq 1 0 0
-> 10.244.2.33:80
kube-proxy目前支持三种工作模式:
(1)、userspace 模式
userspace模式下,kube-proxy会为每一个Service创建一个监听端口,发向Cluster IP的请求被Iptables规则重定向到kube-proxy监听的端口上,kube-proxy根据LB算法选择一个提供服务的Pod并和其建立链接,以将请求转发到Pod上。
该模式下,kube-proxy充当了一个四层负责均衡器的角色。由于kube-proxy运行在userspace中,在进行转发处理时会增加内核和用户空间之间的数据拷贝,虽然比较稳定,但是效率比较低。
(2)、iptables模式
iptables模式下,kube-proxy为service后端的每个Pod创建对应的iptables规则,直接将发向Cluster IP的请求重定向到一个Pod IP。 该模式下kube-proxy不承担四层负责均衡器的角色,只负责创建iptables规则。该模式的优点是较userspace模式效率更高,但不能提供灵活的LB策略,当后端Pod不可用时也无法进行重试(即如果转发到的Pod有问题,该模式下也不会重新转发到其他pod,这也是个重大缺点)。
(3)、ipvs模式(默认推荐模式)
ipvs模式和iptables类似,kube-proxy监控Pod的变化并创建相应的ipvs规则。ipvs相对iptables转发效率更高。除此以外,ipvs支持更多的LB算法(可以轮询、随机、加权轮询、基于session转发等等)。
如上图,ipvs工作流程是:api-server发送请求,创建service,创建service的时候kube-proxy会生成一套ipvs策略,当client端有请求过来的时候,会基于kube-proxy生成的ipvs策略将请求转发到具体的pod服务上。
另外ipvs模式的使用需要满足一定的要求:
a、当前系统必须安装ipvs内核模块,这一步在前面章节搭建k8s集群的时候安装过
b、安装完后需要开启ipvs
# 此模式必须安装ipvs内核模块,否则会降级为iptables
# 开启ipvs
[root@k8s-master01 ~]# kubectl edit cm kube-proxy -n kube-system
# 修改mode: "ipvs"
#删除并重建pod
[root@k8s-master01 ~]# kubectl delete pod -l k8s-app=kube-proxy -n kube-system
#再次查看ipvs状态,已经是开启状态了
[root@node1 ~]# ipvsadm -Ln
IP Virtual Server version 1.2.1 (size=4096)
Prot LocalAddress:Port Scheduler Flags
-> RemoteAddress:Port Forward Weight ActiveConn InActConn
TCP 10.97.97.97:80 rr
-> 10.244.1.39:80 Masq 1 0 0
-> 10.244.1.40:80 Masq 1 0 0
-> 10.244.2.33:80 Masq 1 0 0
二、Service资源清单文件
kind: Service # 资源类型
apiVersion: v1 # 资源版本
metadata: # 元数据
name: service # 资源名称
namespace: dev # 命名空间
spec: # 描述
selector: # 标签选择器,用于确定当前service代理哪些pod
app: nginx
type: # Service类型,指定service的访问方式
clusterIP: # 虚拟服务的ip地址
sessionAffinity: # session亲和性,支持ClientIP、None两个选项,可以将同一个请求指定分配到指定pod
ports: # 端口信息
- protocol: TCP
port: 3017 # service端口
targetPort: 5003 # pod端口,service端口转发到pod端口实现服务访问
nodePort: 31122 # 主机端口
-
ClusterIP:默认值,它是Kubernetes系统自动分配的虚拟IP,只能在集群内部访问
-
NodePort:将Service通过指定的Node上的端口暴露给外部,通过此方法,就可以在集群外部访问服务
-
LoadBalancer:使用外接负载均衡器完成到服务的负载分发,注意此模式需要外部云环境支持
-
ExternalName: 把集群外部的服务引入集群内部,直接使用
三、Service的几种类型介绍和实验演示
1、环境准备
在使用service之前,首先利用Deployment创建出3个pod,注意要为pod设置app=nginx-pod
的标签
创建deployment.yaml,内容如下:
apiVersion: apps/v1
kind: Deployment
metadata:
name: pc-deployment
namespace: dev
spec:
replicas: 3
selector:
matchLabels:
app: nginx-pod
template:
metadata:
labels:
app: nginx-pod
spec:
containers:
- name: nginx
image: nginx:1.17.1
ports:
- containerPort: 80
创建Pod详情:
kubectl create -f deployment.yaml
kubectl get pods -n dev -o wide --show-labels
为了方便后面的测试,分别修改下三台的nginx的index.html页面(三台修改的ip地址对应自己pod IP)
# kubectl exec -it pc-deployment-66cb59b984-8p84h -n dev /bin/sh
# echo "10.244.1.41" > /usr/share/nginx/html/index.html
3个pod都修改完毕后,访问测试:
curl 10.244.1.41
curl 10.244.1.51
curl 10.244.1.52
2、ClusterIP类型的Service
(缺点:ClusterIP会集群内部IP,即只能集群节点访问,非集群节点的主机无法访问)
(1)、实例演示
创建service-clusterip.yaml文件
apiVersion: v1
kind: Service
metadata:
name: service-clusterip
namespace: dev
spec:
selector:
app: nginx-pod
clusterIP: 10.97.97.97 # service的ip地址,如果不写,默认会生成一个
type: ClusterIP
ports:
- port: 80 # Service端口
targetPort: 80 # pod端口
创建service:
kubectl create -f service-clusterip.yaml
查看service:
kubectl get svc -n dev -o wide
查看service详细信息:
kubectl describe svc service-clusterip -n dev
如上图有一个Endpoints列表,里面就是当前service可以负载到的服务入口。
查看ipvs的映射规则:
ipvsadm -Ln
如上图查看ipvs 映射规则,来自10.97.97.97:80的请求会被按照轮询(rr)规则转发到10.244.1.41:80、10.244.2.51:80、10.244.2.52:80上。
测试:
while true;do curl 10.97.97.97; sleep 5; done;
可以看到访问请求会被依次轮询转发到不同pod。
(2)、Endpoint介绍和负载分发策略使用
Endpoint是kubernetes中的一个资源对象,存储在etcd中,用来记录一个service对应的所有pod的访问地址,它是根据service配置文件中selector描述产生的。
一个Service由一组Pod组成,这些Pod通过Endpoints暴露出来,Endpoints是实现实际服务的端点集合。换句话说,service和pod之间的联系是通过endpoints实现的。
负载分发策略
对Service的访问被分发到了后端的Pod上去,目前kubernetes提供了两种负载分发策略:
-
如果不定义,默认使用kube-proxy的策略,比如随机、轮询
-
基于客户端地址的会话保持模式,即来自同一个客户端发起的所有请求都会转发到固定的一个Pod上
此模式可以使在spec中添加
sessionAffinity:ClientIP
选项
修改分发策略,修改service-clusterip.yaml中的sessionAffinity:ClientIP
kubectl delete -f service-clusterip.yaml
apiVersion: v1
kind: Service
metadata:
name: service-clusterip
namespace: dev
spec:
sessionAffinity: ClientIP #增加session亲和性配置,值这是为ClientIP,会话保持,即来自同一个客户端发起的所有请求都会转发到固定的一个Pod上
selector:
app: nginx-pod
clusterIP: 10.97.97.97 # service的ip地址,如果不写,默认会生成一个
type: ClusterIP
ports:
- port: 80 # Service端口
targetPort: 80 # pod端口
kubectl create -f service-clusterip.yaml
查看:
kubectl describe svc service-clusterip -n dev
查看ipvs规则:
ipvsadm -Ln
如上图,可以看到ipvs规则多了个persistent,是持久化的意思,指以设置会话保持,后面的10800指会话保持时间,单位为秒。
循环访问测试:
while true;do curl 10.97.97.97; sleep 5; done;
如上图,可以看到同一个客户端的请求已经被调度到固定一个pod上,实现了会话保持。
删除service:
kubectl delete -f service-clusterip.yaml
3、HeadLiness类型的Service
(缺点:只能集群内部节点访问,非集群节点的主机无法访问)
1、介绍
在某些场景中,开发人员可能不想使用Service提供的负载均衡功能,而希望自己来控制负载均衡策略,针对这种情况,kubernetes提供了HeadLiness Service,这类Service不会分配Cluster IP,如果想要访问service,只能通过service的域名进行查询。
2、实例演示
创建service-headliness.yaml
apiVersion: v1
kind: Service
metadata:
name: service-headliness
namespace: dev
spec:
selector:
app: nginx-pod
clusterIP: None # 将clusterIP设置为None,即可创建headliness Service
type: ClusterIP
ports:
- port: 80
targetPort: 80
创建service:
kubectl create -f service-headliness.yaml
获取service,发现CLUSTER-IP未分配:
kubectl get svc service-headliness -n dev -o wide
查看service详情:
kubectl describe svc service-headliness -n dev
可以看到service没有分配ClusterIP,此时如果需要访问,需要通过域名访问。
kubectl get pods -n dev
查看域名的解析情况:
kubectl exec -it pc-deployment-6696798b78-h6h4j -n dev /bin/sh
测试域名解析:
# 10.96.0.10是pod的容器里的resolv.conf的dns服务器ip
dig @10.96.0.10 service-headliness.dev.svc.cluster.local
如上图可以看到,该域名有3条解析记录,解析后对应的ip就是3个pod的ip
4、NodePort类型的Service
(特点:集群以外的其他主机也可以访问)
(1)、介绍
在之前的样例中,创建的Service的ip地址只有集群内部才可以访问,如果希望将Service暴露给集群外部使用,那么就要使用到另外一种类型的Service,称为NodePort类型。NodePort的工作原理其实就是将service的端口映射到Node的一个端口上,然后就可以通过NodeIp:NodePort
来访问service了。
如上图可以看到,端口转发过程是:节点端口(NodePort)------>service端口(Port)---->Pod端口(targetport)。
(2)、实例演示
创建service-nodeport.yaml
apiVersion: v1
kind: Service
metadata:
name: service-nodeport
namespace: dev
spec:
selector:
app: nginx-pod
type: NodePort # service类型
ports:
- port: 80 # service端口
nodePort: 30002 # node端口,指定绑定的node的端口(默认的取值范围是:30000-32767), 如果不指定,会默认分配
targetPort: 80 #pod端口
创建service:
kubectl create -f service-nodeport.yaml
查看service:
kubectl get svc -n dev -o wide
如上可以看到,service是有自动分配CLUSTER-IP的,但这个ip仅限于集群内部节点主机访问,但基本上用不到,因为通过nodeip和端口可以实现集群内部和外部所有的机器都可以访问, 接下来可以通过电脑主机的浏览器去访问集群中任意一个nodeip的30002端口,即可访问到pod
5、LoadBalancer类型的Service
(特点:跟NodePort机制一样都是通过暴露端口转发的形式,但是LoadBalencer需要外部负载均衡设备支持)
(1)、介绍
LoadBalancer和NodePort很相似,目的都是向外部暴露一个端口,区别在于LoadBalancer会在集群的外部再来做一个负载均衡设备,而这个设备需要外部环境支持的,外部服务发送到这个设备上的请求,会被设备负载之后转发到集群中。
因为需要外部设备支持,所以这里就不演示了
6、ExternalName类型的Service
(特点:上面说的其他类型都是为了将pod内部服务暴露出去,而ExternalName正好相反,是为了将外部服务引入集群内部)
1、介绍
ExternalName类型的Service用于引入集群外部的服务,它通过externalName
属性指定外部一个服务的地址,然后在集群内部访问此service就可以访问到外部的服务了。
(2)、实例演示
将www.baidu.com引入集群内部
创建service-externalname.yaml,内容如下:
apiVersion: v1
kind: Service
metadata:
name: service-externalname
namespace: dev
spec:
type: ExternalName # service类型
externalName: www.baidu.com #改成ip地址也可以
创建service:
kubectl create -f service-externalname.yaml
查看service:
kubectl get svc service-externalname -n dev
查看service详情:
kubectl describe svc service-externalname -n dev
域名解析(操作方式参考上文):
dig @10.96.0.10 service-headliness.dev.svc.cluster.local
可以看到能够解析到www.baidu.com域名的ip。
如上几种service类型中,常用的是ClusterIP和NodePort类型。