客户端如何与pod通信——服务

pod通信和服务发现

在没有k8s的世界里,系统管理员要在用户端配置文件中明确服务的精确的ip地址或主机名来配置客户端的应用,但是在k8s中并不是需要。k8s中应用运行在pod中, 而pod的高可用设计使得无法保证准确的ip, 这里总结一下pod与服务的工作方式。

1 pod特点
  1. pod随时可能启动或关闭,是短暂的
  2. 客户端不会提前知道pod的地址,
  3. 水平伸缩以为着pod可能会提供相同的服务,每个pod ip不同,但客户端只需要服务,不需要知道pod的地址。
2 服务

为了解决上述需要,k8s为一组功能相同的pod提供单一不变的接入点,这就是服务。服务的ip和端口不会改变。客户端通过服务被路由pod上,而不需要直接连接pod,这样单个pod被移除或新的pod被创建就不影响。

3 pod与服务的匹配

上述的过程可以看出服务创建的一个基本问题,如何把服务和一组特定功能的pod匹配起来呢? 标签选择器

4 创建服务
  1. 创建服务之前,先使用rc创建与之连接的pod
cat > kubia-rc.yaml << EOF  
apiVersion: v1
kind: ReplicationController
metadata: 
  name: kubia
spec: 
  replicas: 2
  selector: 
    app: kubia 
  template: 
    metadata: 
      labels: 
        app: kubia
    spec: 
      containers: 
      - name: kubia
        image: luksa/kubia
        ports: 
        - containerPort: 8080
EOF
# create 
kubectl create -f kubia-rc.yaml 

# 查看
[root@nginx test]# kubectl get po 
NAME          READY   STATUS    RESTARTS   AGE
kubia-66tvd   1/1     Running   0          2m31s
kubia-v8dvv   1/1     Running   0          2m31s
  1. 创建服务
cat > kubia-svc.yaml << EOF 
apiVersion: v1
kind: Service
metadata: 
  name: kubia
spec: 
  ports:
  - port: 80 
    targetPort: 8080
  selector: 
    app: kubia 
EOF 

# create 
kubectl create -f kubia-svc.yaml

# 查看
[root@nginx test]# kubectl get svc 
NAME         TYPE        CLUSTER-IP     EXTERNAL-IP   PORT(S)   AGE
kubernetes   ClusterIP   10.43.0.1      <none>        443/TCP   16d
kubia        ClusterIP   10.43.165.39   <none>        80/TCP    46s
5 为什么服务ip无法ping通 ?

我们发现服务curl是可以,但是无法ping通。

[root@k8s-node01 ~]# curl  10.43.165.39 
You've hit kubia-66tvd
[root@k8s-node01 ~]# ping 10.43.165.39 
PING 10.43.165.39 (10.43.165.39) 56(84) bytes of data.
^C
--- 10.43.165.39 ping statistics ---
2 packets transmitted, 0 received, 100% packet loss, time 999ms

有的时候ping不通我们就认为出问题了,其实没有。这是因为集群ip是虚拟ip, 并且只有在与服务端口结合时才有意义。 所以ping不通是正常的。

6 测试与分析

分配给该服务的ip是10.43.165.39, 但这是cluster-ip,也就是集群ip, 只能在集群内部可以访问。 也就是集群节点上或其他的pod可以访问。 是不是这样呢? 测试一下

  1. ssh到集群的一个节点上
[root@k8s-node01 ~]# curl  10.43.165.39 
You've hit kubia-66tvd 
# 服务的cluster ip 在集群内部,节点可与其通信
  1. 在pod中执行命令, 执行成功则说明连接
# 测试多次, 每次并不是同一个pod
[root@nginx test]# kubectl exec kubia-vs2kl -- curl -s http://10.43.165.39
You've hit kubia-vs2kl

[root@nginx test]# kubectl exec kubia-vs2kl -- curl -s http://10.43.165.39
You've hit kubia-l9w94

[root@nginx test]# kubectl exec kubia-vs2kl -- curl -s http://10.43.165.39
You've hit kubia-vs2kl

– 表示kubectl 命令结束,之后为在pod中执行的命令

上图展示了事件发生的顺序

  1. 在一个pod中执行命令,这个命令是发送http请求
  2. pod向服务的ip发送请求
  3. 由于这个服务是代理pod的,转发请求到其中一个pod上
  4. 在pod2中处理请求,并返回带有pod名称的相应
  5. 请求结果在主机上打印

上述某一个过程出问题,都会使得上述命令失败,所以可用来测试集群网络。

7 同一个服务暴露多个端口

服务可以暴露一个端口,也可以多个端口。比如http监听8080端口,https监听8443端口。 多个端口需要指定名称, 没有设置名称的端口会在describe 时显示<unset> , 如果pod中的端口也是命令的,svc中targetport可以使用其名称吗,这样在更换pod端口号的时候也不用修改服务了,因为其是根据名称匹配的。

cat > kubia-svc.yaml << EOF 
apiVersion: v1
kind: Service
metadata:
  name: kubia
spec:
  ports:
  - name: http
    port: 80
    targetPort: 8080
  - name: https
    port: 443
    targetPort: 8443
selector:
    app: kubia
EOF 
8 发现服务

创建服务后, 我们可以通过单一稳定的ip访问到pod, 不管pod如何变化都不影响。 但是在某个服务创建之后新建的pod如何知道服务的ip呢? 难道手动查询吗? 不需要。

k8s为客户端提供了发现服务的ip和端口的方式——环境变量, 在pod开始运行的时候,k8s会初始化一系列的环境变量指向现在存在的服务。如下:

[root@nginx test]# kubectl exec kubia-vs2kl -- env
PATH=/usr/local/sbin:/usr/local/bin:/usr/sbin:/usr/bin:/sbin:/bin
HOSTNAME=kubia-vs2kl
KUBERNETES_PORT=tcp://10.43.0.1:443
KUBIA_PORT_80_TCP_PORT=80
KUBIA_PORT=tcp://10.43.165.39:80
KUBIA_PORT_80_TCP=tcp://10.43.165.39:80
KUBIA_PORT_80_TCP_PROTO=tcp
KUBIA_PORT_80_TCP_ADDR=10.43.165.39
KUBERNETES_SERVICE_PORT=443
KUBERNETES_PORT_443_TCP_ADDR=10.43.0.1
KUBIA_SERVICE_HOST=10.43.165.39
KUBIA_SERVICE_PORT=80
NPM_CONFIG_LOGLEVEL=info
NODE_VERSION=7.9.0
YARN_VERSION=0.22.0
HOME=/root
9 DNS

环境变量是获取ip和端口的一种方式,也可以通过DNS获取。

[root@nginx test]# kubectl get po -n kube-system 
NAME                                      READY   STATUS      RESTARTS   AGE
canal-l58m7                               2/2     Running     2          16d
canal-s92dx                               2/2     Running     3          16d
coredns-7c5566588d-rhdtx                  1/1     Running     1          16d
coredns-7c5566588d-tp55c                  1/1     Running     1          16d
coredns-autoscaler-65bfc8d47d-4mdt5       1/1     Running     1          16d
metrics-server-6b55c64f86-zlz4l           1/1     Running     2          16d

kube-system空间中pod有coredns,这表明在运行dns服务,在集群中的其他pod都被配置成使用作为为DNS , 运行在pod上的进程DNS 查询都会被k8s自身的DNS服务器响应,该服务器知道系统中运行的所有服务。pod中的spec中的dnspolicy值决定是否使用DNS服务器。

10 endpoints

我们也希望k8s将服务暴露到外部,在此之前要先介绍一下endpoint, 它是介于pod和svc之间的资源。 就是暴露服务要转发的pod的ip地址和端口的列表。

# 查看endpoints
[root@nginx test]# kubectl get endpoints  kubia 
NAME    ENDPOINTS                                                    AGE
kubia   10.42.0.10:8443,10.42.1.10:8443,10.42.1.9:8443 + 3 more...   79m

# 查看pod IP
NAME          READY   STATUS    RESTARTS   AGE    IP           NODE            NOMINATED NODE   READINESS GATES
kubia-66tvd   1/1     Running   0          161m   10.42.0.10   81.68.101.212   <none>           <none>
kubia-l9w94   1/1     Running   0          128m   10.42.1.9    81.68.229.215   <none>           <none>
kubia-vs2kl   1/1     Running   0          125m   10.42.1.10   81.68.229.215   <none>           <none>

# 从svc中也可以看到, endpoints就是待转发pod的IP与端口的集合
[root@nginx test]# kubectl describe svc kubia 
Name:              kubia
Namespace:         default
Labels:            <none>
Annotations:       <none>
Selector:          app=kubia
Type:              ClusterIP
IP Families:       <none>
IP:                10.43.7.83
IPs:               <none>
Port:              http  80/TCP
TargetPort:        8080/TCP
Endpoints:         10.42.0.10:8080,10.42.1.10:8080,10.42.1.9:8080
Port:              https  443/TCP
TargetPort:        8443/TCP
Endpoints:         10.42.0.10:8443,10.42.1.10:8443,10.42.1.9:8443
Session Affinity:  None
Events:            <none>

这表明服务是利用标签匹配pod, 然后建立endpoints, 将请求转发的endpoints中的一个ip: port上。 所以有的时候服务连接失败,需要查看endpoints是否存在正确。

了解到这一层之后,我们也可以不使用标签匹配pod,手动为服务建立endpoints,只要新建一个endpoints资源,使其与服务的名称相同即可。

endpoints本身就是一个资源,而不是service的一部分。

11 将服务暴露给外部

目前为止,讨论了集群内部pod的使用。有时我们需要将服务暴露给集群之外的网络,比如前端web服务器。有几种方式可以在外部访问服务。

  1. nodeport型的服务,在集群的每个节点上打开一个端口,因此叫nodeport,将该端口山的流量重定向到服务上,使用集群ip:port既可以访问。
  2. loadbalance型服务,是nodeport的一种扩展, 这使得服务可以通过一个专用的负载均衡器来访问。
  3. ingress资源,这是一个完全不同的机制,通过一个ip地址公开多个服务——它运行在http层,因此可以比第四层的服务提供更多的资源。

第一种: 使用nodeport暴露服务到外部

cat > kubia-svc-nodeport.yaml << EOF
apiVersion: v1 
kind: Service 
metadata: 
  name: kubia-nodeport 
spec: 
  type: NodePort 
  ports: 
  - port: 80 
    targetPort: 8080 
    nodePort: 30123 
  selector: 
    app: kubia 
EOF

# 创建
kubectl create -f kubia-svc-nodeport.yaml

# 查看
[root@nginx test]# kubectl get svc kubia-nodeport -o wide 
NAME             TYPE       CLUSTER-IP      EXTERNAL-IP   PORT(S)        AGE   SELECTOR
kubia-nodeport   NodePort   10.43.254.206   <none>        80:30123/TCP   38m   app=kubia

# 测试, 本地shell连接 
[C:\~]$ curl http://81.68.229.215:30123
  % Total    % Received % Xferd  Average Speed   Time    Time     Time  Current
                                 Dload  Upload   Total   Spent    Left  Speed
100    23    0    23    0     0     23      0 --:--:-- --:--:-- --:--:--  1533
You've hit kubia-l9w94
# 这表明外部网络可以连接到集群内部的服务,用浏览器也可以打开。

第二种: 使用loadbalance暴露服务到外部

对于提供负载均衡器的云构架才可以使用loadbalancer, 如果不支持则nodebanlancer型svc将退化为nodeport。

cat > kubia-svc-loadbalancer.yaml << EOF
apiVersion: v1 
kind: Service
metadata: 
  name: kubia-loadbalancer
spec: 
  type: LoadBalancer
  ports: 
  - port: 80 
    targetPort: 8080
  selector: 
    app: kubia
EOF
# 创建
kubectl create -f kubia-svc-loadbalancer.yaml

# 查看
[root@nginx ~]# kubectl get svc 
NAME                 TYPE           CLUSTER-IP      EXTERNAL-IP   PORT(S)          AGE
kubernetes           ClusterIP      10.43.0.1       <none>        443/TCP          17d
kubia                ClusterIP      10.43.7.83      <none>        80/TCP,443/TCP   18h
kubia-loadbalancer   LoadBalancer   10.43.20.104    <pending>     80:31342/TCP     14m
kubia-nodeport       NodePort       10.43.254.206   <none>        80:30123/TCP     16h
nginx-service        NodePort       10.43.66.77     <none>        80:30080/TCP     16h

# 测试, 本集群不支持loadbalancer, 所以external-ip状态为pending, 此时loadbalancer就是一个nodeport
# 本地shell测试 node-ip:port , 连接正常
[C:\~]$ curl http://81.68.229.215:31342
  % Total    % Received % Xferd  Average Speed   Time    Time     Time  Current
                                 Dload  Upload   Total   Spent    Left  Speed
100    23    0    23    0     0     23      0 --:--:-- --:--:-- --:--:--   741
You've hit kubia-vs2kl

# 换一个腾讯云的弹性集群测试,支持负载均衡器
# 部署同样的deployment, 然后部署loadlancer, 过程相同,省略 
# 查看 
[root@k8s-node02 ~]# kubectl get svc 
NAME                 TYPE           CLUSTER-IP      EXTERNAL-IP      PORT(S)        AGE
kubernetes           ClusterIP      192.168.0.1     <none>           443/TCP        3d23h
kubia-loadbalancer   LoadBalancer   192.168.0.201   175.27.192.232   80:30493/TCP   67s
# 本地主机测试 
[C:\~]$ curl http://175.27.192.232
  % Total    % Received % Xferd  Average Speed   Time    Time     Time  Current
                                 Dload  Upload   Total   Spent    Left  Speed
100    33    0    33    0     0     33      0 --:--:-- --:--:-- --:--:--   702
You've hit kubia-778d98d9c-2zpl5

# 成功了, 直接访问loadbalancer IP即可

第三种: ingress

为什么需要ingress呢, loadbalancer服务需要独立的共有IP地址,二ingress只需要一个公网IP就可以为许多服务提供访问。 当客户向ingress发送请求时,ingress会根据请求的主机名和路径决定请求转发的服务。也就是一个ingress可以暴露多个服务。如下:

cat > kubia-ingress.yaml << EOF 
apiVersion: extensions/v1beta1 
kind: Ingress 
metadata: 
  name: kubia
spec: 
  rules: 
  - host: kubia.example.com 
    http: 
      paths: 
      - path: / 
        backend: 
          serviceName: kubia-nodeport 
          servicePort: 80
EOF
# 创建
kubectl create -f kubia-ingress.yaml 

# 查看
[root@k8s-node02 ~]# kubectl get ing 
NAME    CLASS    HOSTS               ADDRESS        PORTS   AGE
kubia   <none>   kubia.example.com   119.45.3.217   80      34m

# 访问, 本地要添加dns 
# windows在‪C:\Windows\System32\drivers\etc\hosts 
# 添加 
119.45.3.217  kubia.example.com
# 访问 
[C:\~]$ curl http://1.13.12.141
  % Total    % Received % Xferd  Average Speed   Time    Time     Time  Current
                                 Dload  Upload   Total   Spent    Left  Speed
100    33    0    33    0     0     33      0 --:--:-- --:--:-- --:--:--   532
You've hit kubia-778d98d9c-2zpl5

[C:\~]$ curl http://kubia.example.com
  % Total    % Received % Xferd  Average Speed   Time    Time     Time  Current
                                 Dload  Upload   Total   Spent    Left  Speed
  0     0    0     0    0     0      0      0 --:--:-- --:--:-- --:--:--     0
You've hit kubia-778d98d9c-2zpl5

ingress意为进入或进入的行为,进入的手段和地点

使用ingress,访问链路为客户端——ingress——service——工作负载, 所以ingress配置的时候一定要保证service正常工作,而且serviceName为转发service的名称。

参考资料: kubernets in action --服务:客户端发现pod并与之通信

  • 1
    点赞
  • 1
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值