Kubernetes Nginx Ingress 安装与使用

目录 (Table of Contents)

[TOCM]

概述

用过kubernetes的人都知道,kubernetes的service的网络类型有三种:cluertip,nodeport,loadbanlance,各种类型的作用就不在这里描述了。如果一个service想向外部暴露服务,有nodeport和loadbanlance类型,但是nodeport类型,你的知道service对应的pod所在的node的ip,而loadbanlance通常需要第三方云服务商提供支持。如果没有第三方服务商服务的就没办法做了。除此之外还有很多其他的替代方式,以下我主要讲解的是通过ingress的方式来实现service的对外服务的暴露。

下载搭建环境所需要的镜像

  • gcr.io/google_containers/nginx-ingress-controller:0.8.3 (ingress controller 的镜像)
  • gcr.io/google_containers/defaultbackend:1.0 (默认路由的servcie的镜像)
  • gcr.io/google_containers/echoserver:1.0 (用于测试ingress的service镜像,当然这个你可以换成你自己的service都可以)

说明:由于GFW的原因下载不下来的,都可以到时速云去下载相应的镜像(只要把grc.io换成index.tenxcloud.com就可以了),由于我用的是自己私用镜像仓库,所以之后看到的镜像都是我自己tag之后上传到自己私有镜像仓库的。

配置default-http-bankend

首先便捷default-http-backend.yaml:


apiVersion: v1
kind: ReplicationController
metadata:
 name: default-http-backend
spec:
 replicas: 1
 selector:
 app: default-http-backend
 template:
 metadata:
 labels:
 app: default-http-backend
 spec:
 terminationGracePeriodSeconds: 60
 containers:
 - name: default-http-backend
 # Any image is permissable as long as: # 1. It serves a 404 page at / # 2. It serves 200 on a /healthz endpoint
 image: hub.yfcloud.io/google_containers/defaultbackend:1.0
 livenessProbe:
 httpGet:
 path: /healthz
 port: 8080
 scheme: HTTP
 initialDelaySeconds: 30
 timeoutSeconds: 5
 ports:
 - containerPort: 8080
 resources:
 limits:
 cpu: 10m
 memory: 20Mi
 requests:
 cpu: 10m
 memory: 20Mi

然后创建创建default-http-backend的rc:

kubectl create -f default-http-backend .yaml

最后创建default-http-backend的service,有两种方式创建,一种是:便捷default-http-backend-service.yaml,另一种通过如下命令创建:

kubectl expose rc default-http-backend --port=80 --target-port=8080 --name=default-http-backend

最后查看相应的rc以及service是否成功创建:然后自己测试能否正常访问,访问方式如下,直接通过的pod的ip/healthz或者serive的ip/(如果是srevice的ip加port)

配置inrgess-controller

首先编辑ingress-controller.yaml文件:

apiVersion: v1
kind: ReplicationController
metadata:
 name: nginx-ingress-controller
 labels:
 k8s-app: nginx-ingress-lb
spec:
 replicas: 1
 selector:
 k8s-app: nginx-ingress-lb
 template:
 metadata:
 labels:
 k8s-app: nginx-ingress-lb
 name: nginx-ingress-lb
 spec:
 terminationGracePeriodSeconds: 60
 containers:
 - image: hub.yfcloud.io/google_containers/nginx-ingress-controller:0.8.3
 name: nginx-ingress-lb
 imagePullPolicy: Always
 readinessProbe:
 httpGet:
 path: /healthz
 port: 80
 scheme: HTTP
 livenessProbe:
 httpGet:
 path: /healthz
 port: 80
 scheme: HTTP
 initialDelaySeconds: 10
 timeoutSeconds: 1 # use downward API
 env:
 - name: POD_NAME
 valueFrom:
 fieldRef:
 fieldPath: metadata.name
 - name: POD_NAMESPACE
 valueFrom:
 fieldRef:
 fieldPath: metadata.namespace
 - name: KUBERNETES_MASTER
 value: http://183.131.19.231:8080
 ports:
 - containerPort: 80
 hostPort: 80
 - containerPort: 443
 hostPort: 443
 args:
 - /nginx-ingress-controller
 - --default-backend-service=$(POD_NAMESPACE)/default-http-backend
 imagePullSecrets:
 - name: hub.yfcloud.io.key

创建ingress-controller的rc:

kubectl create -f ingress-controller.yaml

最后验证ingress-controller是否正常启动成功,方法 如下:查看ingress-controller中对应pod的ip,然后通过ip:80/healthz 访问,成功的话会返回 ok。

配置需要测试的service

首先编辑测试用的test.yaml:

apiVersion: v1 kind: ReplicationController metadata:
 name: echoheaders
spec:
 replicas: 1
 template:
 metadata:
 labels:
 app: echoheaders
 spec:
 containers:
 - name: echoheaders
 image: hub.yfcloud.io/google_containers/echoserver:test
 ports:
 - containerPort: 8080

测试service的yaml这里创建多个:
sv-alp-default.yaml:

apiVersion: v1 kind: Service metadata:
 name: echoheaders-default
 labels:
 app: echoheaders
spec:
 type: NodePort
 ports:
 - port: 80
 nodePort: 30302
 targetPort: 8080
 protocol: TCP
 name: http
 selector:
 app: echoheaders

sv-alp-x.yaml:

apiVersion: v1 kind: Service metadata:
 name: echoheaders-x
 labels:
 app: echoheaders
spec:
 type: NodePort
 ports:
 - port: 80
 nodePort: 30301
 targetPort: 8080
 protocol: TCP
 name: http
 selector:
 app: echoheaders

sv-alp-y.yaml:

apiVersion: v1 kind: Service metadata:
 name: echoheaders-y
 labels:
 app: echoheaders
spec:
 type: NodePort
 ports:
 - port: 80
 nodePort: 30284
 targetPort: 8080
 protocol: TCP
 name: http
 selector:
 app: echoheaders

接着是

配置ingress

编辑ingress-alp.yaml:

apiVersion: extensions/v1beta1 kind: Ingress metadata:
 name: echomap
spec:
 rules:
 - host: foo.bar.com
 http:
 paths:
 - path: /foo
 backend:
 serviceName: echoheaders-x
 servicePort: 80
 - host: bar.baz.com
 http:
 paths:
 - path: /bar
 backend:
 serviceName: echoheaders-y
 servicePort: 80
 - path: /foo
 backend:
 serviceName: echoheaders-x
 servicePort: 80

最后测试,测试方法有两种,如下:

方法一:

curl -v http://nodeip:80/foo -H 'host: foo.bar.com'

结果如下:

* About to connect() to 183.131.19.232 port 80 (#0)
* Trying 183.131.19.232...
* Connected to 183.131.19.232 (183.131.19.232) port 80 (#0)
> GET /foo HTTP/1.1
> User-Agent: curl/7.29.0
> Accept: */*
> host: foo.bar.com
> 
< HTTP/1.1 200 OK
< Server: nginx/1.11.3
< Date: Wed, 12 Oct 2016 10:04:40 GMT
< Transfer-Encoding: chunked
< Connection: keep-alive
< 
CLIENT VALUES:
client_address=('10.1.58.3', 57364) (10.1.58.3)
command=GET
path=/foo
real path=/foo
query=
request_version=HTTP/1.1

SERVER VALUES:
server_version=BaseHTTP/0.6
sys_version=Python/3.5.0
protocol_version=HTTP/1.0

HEADERS RECEIVED:
Accept=*/*
Connection=close
Host=foo.bar.com
User-Agent=curl/7.29.0
X-Forwarded-For=183.131.19.231
X-Forwarded-Host=foo.bar.com
X-Forwarded-Port=80
X-Forwarded-Proto=http
X-Real-IP=183.131.19.231
* Connection #0 to host 183.131.19.232 left intact

其他路由的测试修改对应的url即可。

**注意:**nodeip是你的ingress-controller所对应的pod所在的node的ip。

方法二:
将访问url的主机的host中加上:

nodeip foo.bar.com nodeip bar.baz.com

在浏览器中直接访问:

foo.bar.com/foo
bar.baz.com/bar
bar.baz.com/foo

都是可以的。

问题集

在创建ingress-controller的时候报错(ingress的yaml文件是官网中的yaml文件配置,我只改了相对应的镜像。):

问题一:

这里写图片描述

以上错误信息是ingress-controller创建失败的原因,通过docker log 查看rc中的对应的ingress-controller的容器的日志。

原因:从错误信息来看是因为ingress内部程序默认是通过localhost:8080连接master的apiserver,如果是单机版的k8s环境,就不会报这个错,如果是集群环境,并且你的ingress-controller的pod所对应的容器不是在master节点上(因为有的集群环境master也是node,这样的话,如果你的pod对应的容器在master节点上也不会报这个错),就会报这个错。

解决方法:在ingress-controller.yaml中加上如下参数,

- name: KUBERNETES_MASTER
 value: http://183.131.19.231:8080

之后的yaml文件就是如前面定义的yaml文件。

问题二:

这个问题是在创建ingress rc成功之后,马上查看rc对应的pod对应的容器时报的错!

这里写图片描述

从这个问题衍生出个连带的问题,如下图:

问题1:
这个问题是在创建ingress rc成功之后,当第一个容器失败,rc的垃圾机制回收第一次创建停止的容器后,重新启动的容器。查看rc对应的pod对应的容器时报的错!

这里写图片描述

原因:因为ingress中的源码的健康检查的url改成了 /healthz,而官方文档中的yaml中定义的健康检查的路由是/ingress-controller-healthz,这个url是ingress的自检url,当超过8次之后如果得到结果还是unhealthy,则会挂掉ingress对应的容器。

解决方法:将yaml中的健康检查的url改成:/healthz即可。:

readinessProbe:
 httpGet:
 path: /healthz
 port: 80
 scheme: HTTP
 livenessProbe:
 httpGet:
 path: /healthz
 port: 80
 scheme: HTTP
 initialDelaySeconds: 10
 timeoutSeconds: 1

目录 (Table of Contents)

[TOCM]

概述

用过kubernetes的人都知道,kubernetes的service的网络类型有三种:cluertip,nodeport,loadbanlance,各种类型的作用就不在这里描述了。如果一个service想向外部暴露服务,有nodeport和loadbanlance类型,但是nodeport类型,你的知道service对应的pod所在的node的ip,而loadbanlance通常需要第三方云服务商提供支持。如果没有第三方服务商服务的就没办法做了。除此之外还有很多其他的替代方式,以下我主要讲解的是通过ingress的方式来实现service的对外服务的暴露。

下载搭建环境所需要的镜像

  • gcr.io/google_containers/nginx-ingress-controller:0.8.3 (ingress controller 的镜像)
  • gcr.io/google_containers/defaultbackend:1.0 (默认路由的servcie的镜像)
  • gcr.io/google_containers/echoserver:1.0 (用于测试ingress的service镜像,当然这个你可以换成你自己的service都可以)

说明:由于GFW的原因下载不下来的,都可以到时速云去下载相应的镜像(只要把grc.io换成index.tenxcloud.com就可以了),由于我用的是自己私用镜像仓库,所以之后看到的镜像都是我自己tag之后上传到自己私有镜像仓库的。

配置default-http-bankend

首先便捷default-http-backend.yaml:

apiVersion: v1
kind: ReplicationController
metadata:
 name: default-http-backend
spec:
 replicas: 1
 selector:
 app: default-http-backend
 template:
 metadata:
 labels:
 app: default-http-backend
 spec:
 terminationGracePeriodSeconds: 60
 containers:
 - name: default-http-backend
 # Any image is permissable as long as: # 1. It serves a 404 page at / # 2. It serves 200 on a /healthz endpoint
 image: hub.yfcloud.io/google_containers/defaultbackend:1.0
 livenessProbe:
 httpGet:
 path: /healthz
 port: 8080
 scheme: HTTP
 initialDelaySeconds: 30
 timeoutSeconds: 5
 ports:
 - containerPort: 8080
 resources:
 limits:
 cpu: 10m
 memory: 20Mi
 requests:
 cpu: 10m
 memory: 20Mi

然后创建创建default-http-backend的rc:

kubectl create -f default-http-backend .yaml

最后创建default-http-backend的service,有两种方式创建,一种是:便捷default-http-backend-service.yaml,另一种通过如下命令创建:

kubectl expose rc default-http-backend --port=80 --target-port=8080 --name=default-http-backend

最后查看相应的rc以及service是否成功创建:然后自己测试能否正常访问,访问方式如下,直接通过的pod的ip/healthz或者serive的ip/(如果是srevice的ip加port)

配置inrgess-controller

首先编辑ingress-controller.yaml文件:

apiVersion: v1
kind: ReplicationController
metadata:
 name: nginx-ingress-controller
 labels:
 k8s-app: nginx-ingress-lb
spec:
 replicas: 1
 selector:
 k8s-app: nginx-ingress-lb
 template:
 metadata:
 labels:
 k8s-app: nginx-ingress-lb
 name: nginx-ingress-lb
 spec:
 terminationGracePeriodSeconds: 60
 containers:
 - image: hub.yfcloud.io/google_containers/nginx-ingress-controller:0.8.3
 name: nginx-ingress-lb
 imagePullPolicy: Always
 readinessProbe:
 httpGet:
 path: /healthz
 port: 80
 scheme: HTTP
 livenessProbe:
 httpGet:
 path: /healthz
 port: 80
 scheme: HTTP
 initialDelaySeconds: 10
 timeoutSeconds: 1 # use downward API
 env:
 - name: POD_NAME
 valueFrom:
 fieldRef:
 fieldPath: metadata.name
 - name: POD_NAMESPACE
 valueFrom:
 fieldRef:
 fieldPath: metadata.namespace
 - name: KUBERNETES_MASTER
 value: http://183.131.19.231:8080
 ports:
 - containerPort: 80
 hostPort: 80
 - containerPort: 443
 hostPort: 443
 args:
 - /nginx-ingress-controller
 - --default-backend-service=$(POD_NAMESPACE)/default-http-backend
 imagePullSecrets:
 - name: hub.yfcloud.io.key

创建ingress-controller的rc:

kubectl create -f ingress-controller.yaml

最后验证ingress-controller是否正常启动成功,方法 如下:查看ingress-controller中对应pod的ip,然后通过ip:80/healthz 访问,成功的话会返回 ok。

配置需要测试的service

首先编辑测试用的test.yaml:

apiVersion: v1 kind: ReplicationController metadata:
 name: echoheaders
spec:
 replicas: 1
 template:
 metadata:
 labels:
 app: echoheaders
 spec:
 containers:
 - name: echoheaders
 image: hub.yfcloud.io/google_containers/echoserver:test
 ports:
 - containerPort: 8080

测试service的yaml这里创建多个:
sv-alp-default.yaml:

apiVersion: v1 kind: Service metadata:
 name: echoheaders-default
 labels:
 app: echoheaders
spec:
 type: NodePort
 ports:
 - port: 80
 nodePort: 30302
 targetPort: 8080
 protocol: TCP
 name: http
 selector:
 app: echoheaders

sv-alp-x.yaml:

apiVersion: v1 kind: Service metadata:
 name: echoheaders-x
 labels:
 app: echoheaders
spec:
 type: NodePort
 ports:
 - port: 80
 nodePort: 30301
 targetPort: 8080
 protocol: TCP
 name: http
 selector:
 app: echoheaders

sv-alp-y.yaml:

apiVersion: v1 kind: Service metadata:
 name: echoheaders-y
 labels:
 app: echoheaders
spec:
 type: NodePort
 ports:
 - port: 80
 nodePort: 30284
 targetPort: 8080
 protocol: TCP
 name: http
 selector:
 app: echoheaders

接着是

配置ingress

编辑ingress-alp.yaml:

apiVersion: extensions/v1beta1 kind: Ingress metadata:
 name: echomap
spec:
 rules:
 - host: foo.bar.com
 http:
 paths:
 - path: /foo
 backend:
 serviceName: echoheaders-x
 servicePort: 80
 - host: bar.baz.com
 http:
 paths:
 - path: /bar
 backend:
 serviceName: echoheaders-y
 servicePort: 80
 - path: /foo
 backend:
 serviceName: echoheaders-x
 servicePort: 80

最后测试,测试方法有两种,如下:

方法一:

curl -v http://nodeip:80/foo -H 'host: foo.bar.com'

结果如下:

* About to connect() to 183.131.19.232 port 80 (#0)
* Trying 183.131.19.232...
* Connected to 183.131.19.232 (183.131.19.232) port 80 (#0)
> GET /foo HTTP/1.1
> User-Agent: curl/7.29.0
> Accept: */*
> host: foo.bar.com
> 
< HTTP/1.1 200 OK
< Server: nginx/1.11.3
< Date: Wed, 12 Oct 2016 10:04:40 GMT
< Transfer-Encoding: chunked
< Connection: keep-alive
< 
CLIENT VALUES:
client_address=('10.1.58.3', 57364) (10.1.58.3)
command=GET
path=/foo
real path=/foo
query=
request_version=HTTP/1.1

SERVER VALUES:
server_version=BaseHTTP/0.6
sys_version=Python/3.5.0
protocol_version=HTTP/1.0

HEADERS RECEIVED:
Accept=*/*
Connection=close
Host=foo.bar.com
User-Agent=curl/7.29.0
X-Forwarded-For=183.131.19.231
X-Forwarded-Host=foo.bar.com
X-Forwarded-Port=80
X-Forwarded-Proto=http
X-Real-IP=183.131.19.231
* Connection #0 to host 183.131.19.232 left intact

其他路由的测试修改对应的url即可。

**注意:**nodeip是你的ingress-controller所对应的pod所在的node的ip。

方法二:
将访问url的主机的host中加上:

nodeip foo.bar.com nodeip bar.baz.com

在浏览器中直接访问:

foo.bar.com/foo
bar.baz.com/bar
bar.baz.com/foo

都是可以的。

问题集

在创建ingress-controller的时候报错(ingress的yaml文件是官网中的yaml文件配置,我只改了相对应的镜像。):

问题一:

这里写图片描述

以上错误信息是ingress-controller创建失败的原因,通过docker log 查看rc中的对应的ingress-controller的容器的日志。

原因:从错误信息来看是因为ingress内部程序默认是通过localhost:8080连接master的apiserver,如果是单机版的k8s环境,就不会报这个错,如果是集群环境,并且你的ingress-controller的pod所对应的容器不是在master节点上(因为有的集群环境master也是node,这样的话,如果你的pod对应的容器在master节点上也不会报这个错),就会报这个错。

解决方法:在ingress-controller.yaml中加上如下参数,

- name: KUBERNETES_MASTER
 value: http://183.131.19.231:8080

之后的yaml文件就是如前面定义的yaml文件。

问题二:

这个问题是在创建ingress rc成功之后,马上查看rc对应的pod对应的容器时报的错!

这里写图片描述

从这个问题衍生出个连带的问题,如下图:

问题1:
这个问题是在创建ingress rc成功之后,当第一个容器失败,rc的垃圾机制回收第一次创建停止的容器后,重新启动的容器。查看rc对应的pod对应的容器时报的错!

这里写图片描述

原因:因为ingress中的源码的健康检查的url改成了 /healthz,而官方文档中的yaml中定义的健康检查的路由是/ingress-controller-healthz,这个url是ingress的自检url,当超过8次之后如果得到结果还是unhealthy,则会挂掉ingress对应的容器。

解决方法:将yaml中的健康检查的url改成:/healthz即可。:

readinessProbe:
 httpGet:
 path: /healthz
 port: 80
 scheme: HTTP
 livenessProbe:
 httpGet:
 path: /healthz
 port: 80
 scheme: HTTP
 initialDelaySeconds: 10
 timeoutSeconds: 1

目录 (Table of Contents)

[TOCM]

概述

用过kubernetes的人都知道,kubernetes的service的网络类型有三种:cluertip,nodeport,loadbanlance,各种类型的作用就不在这里描述了。如果一个service想向外部暴露服务,有nodeport和loadbanlance类型,但是nodeport类型,你的知道service对应的pod所在的node的ip,而loadbanlance通常需要第三方云服务商提供支持。如果没有第三方服务商服务的就没办法做了。除此之外还有很多其他的替代方式,以下我主要讲解的是通过ingress的方式来实现service的对外服务的暴露。

下载搭建环境所需要的镜像

  • gcr.io/google_containers/nginx-ingress-controller:0.8.3 (ingress controller 的镜像)
  • gcr.io/google_containers/defaultbackend:1.0 (默认路由的servcie的镜像)
  • gcr.io/google_containers/echoserver:1.0 (用于测试ingress的service镜像,当然这个你可以换成你自己的service都可以)

说明:由于GFW的原因下载不下来的,都可以到时速云去下载相应的镜像(只要把grc.io换成index.tenxcloud.com就可以了),由于我用的是自己私用镜像仓库,所以之后看到的镜像都是我自己tag之后上传到自己私有镜像仓库的。

配置default-http-bankend

首先便捷default-http-backend.yaml:

apiVersion: v1
kind: ReplicationController
metadata:
 name: default-http-backend
spec:
 replicas: 1
 selector:
 app: default-http-backend
 template:
 metadata:
 labels:
 app: default-http-backend
 spec:
 terminationGracePeriodSeconds: 60
 containers:
 - name: default-http-backend
 # Any image is permissable as long as: # 1. It serves a 404 page at / # 2. It serves 200 on a /healthz endpoint
 image: hub.yfcloud.io/google_containers/defaultbackend:1.0
 livenessProbe:
 httpGet:
 path: /healthz
 port: 8080
 scheme: HTTP
 initialDelaySeconds: 30
 timeoutSeconds: 5
 ports:
 - containerPort: 8080
 resources:
 limits:
 cpu: 10m
 memory: 20Mi
 requests:
 cpu: 10m
 memory: 20Mi

然后创建创建default-http-backend的rc:

kubectl create -f default-http-backend .yaml

最后创建default-http-backend的service,有两种方式创建,一种是:便捷default-http-backend-service.yaml,另一种通过如下命令创建:

kubectl expose rc default-http-backend --port=80 --target-port=8080 --name=default-http-backend

最后查看相应的rc以及service是否成功创建:然后自己测试能否正常访问,访问方式如下,直接通过的pod的ip/healthz或者serive的ip/(如果是srevice的ip加port)

配置inrgess-controller

首先编辑ingress-controller.yaml文件:

apiVersion: v1
kind: ReplicationController
metadata:
 name: nginx-ingress-controller
 labels:
 k8s-app: nginx-ingress-lb
spec:
 replicas: 1
 selector:
 k8s-app: nginx-ingress-lb
 template:
 metadata:
 labels:
 k8s-app: nginx-ingress-lb
 name: nginx-ingress-lb
 spec:
 terminationGracePeriodSeconds: 60
 containers:
 - image: hub.yfcloud.io/google_containers/nginx-ingress-controller:0.8.3
 name: nginx-ingress-lb
 imagePullPolicy: Always
 readinessProbe:
 httpGet:
 path: /healthz
 port: 80
 scheme: HTTP
 livenessProbe:
 httpGet:
 path: /healthz
 port: 80
 scheme: HTTP
 initialDelaySeconds: 10
 timeoutSeconds: 1 # use downward API
 env:
 - name: POD_NAME
 valueFrom:
 fieldRef:
 fieldPath: metadata.name
 - name: POD_NAMESPACE
 valueFrom:
 fieldRef:
 fieldPath: metadata.namespace
 - name: KUBERNETES_MASTER
 value: http://183.131.19.231:8080
 ports:
 - containerPort: 80
 hostPort: 80
 - containerPort: 443
 hostPort: 443
 args:
 - /nginx-ingress-controller
 - --default-backend-service=$(POD_NAMESPACE)/default-http-backend
 imagePullSecrets:
 - name: hub.yfcloud.io.key

创建ingress-controller的rc:

kubectl create -f ingress-controller.yaml

最后验证ingress-controller是否正常启动成功,方法 如下:查看ingress-controller中对应pod的ip,然后通过ip:80/healthz 访问,成功的话会返回 ok。

配置需要测试的service

首先编辑测试用的test.yaml:

apiVersion: v1 kind: ReplicationController metadata:
 name: echoheaders
spec:
 replicas: 1
 template:
 metadata:
 labels:
 app: echoheaders
 spec:
 containers:
 - name: echoheaders
 image: hub.yfcloud.io/google_containers/echoserver:test
 ports:
 - containerPort: 8080

测试service的yaml这里创建多个:
sv-alp-default.yaml:

apiVersion: v1 kind: Service metadata:
 name: echoheaders-default
 labels:
 app: echoheaders
spec:
 type: NodePort
 ports:
 - port: 80
 nodePort: 30302
 targetPort: 8080
 protocol: TCP
 name: http
 selector:
 app: echoheaders

sv-alp-x.yaml:

apiVersion: v1 kind: Service metadata:
 name: echoheaders-x
 labels:
 app: echoheaders
spec:
 type: NodePort
 ports:
 - port: 80
 nodePort: 30301
 targetPort: 8080
 protocol: TCP
 name: http
 selector:
 app: echoheaders

sv-alp-y.yaml:

apiVersion: v1 kind: Service metadata:
 name: echoheaders-y
 labels:
 app: echoheaders
spec:
 type: NodePort
 ports:
 - port: 80
 nodePort: 30284
 targetPort: 8080
 protocol: TCP
 name: http
 selector:
 app: echoheaders

接着是

配置ingress

编辑ingress-alp.yaml:

apiVersion: extensions/v1beta1 kind: Ingress metadata:
 name: echomap
spec:
 rules:
 - host: foo.bar.com
 http:
 paths:
 - path: /foo
 backend:
 serviceName: echoheaders-x
 servicePort: 80
 - host: bar.baz.com
 http:
 paths:
 - path: /bar
 backend:
 serviceName: echoheaders-y
 servicePort: 80
 - path: /foo
 backend:
 serviceName: echoheaders-x
 servicePort: 80

最后测试,测试方法有两种,如下:

方法一:

curl -v http://nodeip:80/foo -H 'host: foo.bar.com'

结果如下:

* About to connect() to 183.131.19.232 port 80 (#0)
* Trying 183.131.19.232...
* Connected to 183.131.19.232 (183.131.19.232) port 80 (#0)
> GET /foo HTTP/1.1
> User-Agent: curl/7.29.0
> Accept: */*
> host: foo.bar.com
> 
< HTTP/1.1 200 OK
< Server: nginx/1.11.3
< Date: Wed, 12 Oct 2016 10:04:40 GMT
< Transfer-Encoding: chunked
< Connection: keep-alive
< 
CLIENT VALUES:
client_address=('10.1.58.3', 57364) (10.1.58.3)
command=GET
path=/foo
real path=/foo
query=
request_version=HTTP/1.1

SERVER VALUES:
server_version=BaseHTTP/0.6
sys_version=Python/3.5.0
protocol_version=HTTP/1.0

HEADERS RECEIVED:
Accept=*/*
Connection=close
Host=foo.bar.com
User-Agent=curl/7.29.0
X-Forwarded-For=183.131.19.231
X-Forwarded-Host=foo.bar.com
X-Forwarded-Port=80
X-Forwarded-Proto=http
X-Real-IP=183.131.19.231
* Connection #0 to host 183.131.19.232 left intact

其他路由的测试修改对应的url即可。

**注意:**nodeip是你的ingress-controller所对应的pod所在的node的ip。

方法二:
将访问url的主机的host中加上:

nodeip foo.bar.com nodeip bar.baz.com

在浏览器中直接访问:

foo.bar.com/foo
bar.baz.com/bar
bar.baz.com/foo

都是可以的。

问题集

在创建ingress-controller的时候报错(ingress的yaml文件是官网中的yaml文件配置,我只改了相对应的镜像。):

问题一:

这里写图片描述

以上错误信息是ingress-controller创建失败的原因,通过docker log 查看rc中的对应的ingress-controller的容器的日志。

原因:从错误信息来看是因为ingress内部程序默认是通过localhost:8080连接master的apiserver,如果是单机版的k8s环境,就不会报这个错,如果是集群环境,并且你的ingress-controller的pod所对应的容器不是在master节点上(因为有的集群环境master也是node,这样的话,如果你的pod对应的容器在master节点上也不会报这个错),就会报这个错。

解决方法:在ingress-controller.yaml中加上如下参数,

- name: KUBERNETES_MASTER
 value: http://183.131.19.231:8080

之后的yaml文件就是如前面定义的yaml文件。

问题二:

这个问题是在创建ingress rc成功之后,马上查看rc对应的pod对应的容器时报的错!

这里写图片描述

从这个问题衍生出个连带的问题,如下图:

问题1:
这个问题是在创建ingress rc成功之后,当第一个容器失败,rc的垃圾机制回收第一次创建停止的容器后,重新启动的容器。查看rc对应的pod对应的容器时报的错!

这里写图片描述

原因:因为ingress中的源码的健康检查的url改成了 /healthz,而官方文档中的yaml中定义的健康检查的路由是/ingress-controller-healthz,这个url是ingress的自检url,当超过8次之后如果得到结果还是unhealthy,则会挂掉ingress对应的容器。

解决方法:将yaml中的健康检查的url改成:/healthz即可。:

readinessProbe:
 httpGet:
 path: /healthz
 port: 80
 scheme: HTTP
 livenessProbe:
 httpGet:
 path: /healthz
 port: 80
 scheme: HTTP
 initialDelaySeconds: 10
 timeoutSeconds: 1

目录 (Table of Contents)

[TOCM]

概述

用过kubernetes的人都知道,kubernetes的service的网络类型有三种:cluertip,nodeport,loadbanlance,各种类型的作用就不在这里描述了。如果一个service想向外部暴露服务,有nodeport和loadbanlance类型,但是nodeport类型,你的知道service对应的pod所在的node的ip,而loadbanlance通常需要第三方云服务商提供支持。如果没有第三方服务商服务的就没办法做了。除此之外还有很多其他的替代方式,以下我主要讲解的是通过ingress的方式来实现service的对外服务的暴露。

下载搭建环境所需要的镜像

  • gcr.io/google_containers/nginx-ingress-controller:0.8.3 (ingress controller 的镜像)
  • gcr.io/google_containers/defaultbackend:1.0 (默认路由的servcie的镜像)
  • gcr.io/google_containers/echoserver:1.0 (用于测试ingress的service镜像,当然这个你可以换成你自己的service都可以)

说明:由于GFW的原因下载不下来的,都可以到时速云去下载相应的镜像(只要把grc.io换成index.tenxcloud.com就可以了),由于我用的是自己私用镜像仓库,所以之后看到的镜像都是我自己tag之后上传到自己私有镜像仓库的。

配置default-http-bankend

首先便捷default-http-backend.yaml:

apiVersion: v1
kind: ReplicationController
metadata:
 name: default-http-backend
spec:
 replicas: 1
 selector:
 app: default-http-backend
 template:
 metadata:
 labels:
 app: default-http-backend
 spec:
 terminationGracePeriodSeconds: 60
 containers:
 - name: default-http-backend
 # Any image is permissable as long as: # 1. It serves a 404 page at / # 2. It serves 200 on a /healthz endpoint
 image: hub.yfcloud.io/google_containers/defaultbackend:1.0
 livenessProbe:
 httpGet:
 path: /healthz
 port: 8080
 scheme: HTTP
 initialDelaySeconds: 30
 timeoutSeconds: 5
 ports:
 - containerPort: 8080
 resources:
 limits:
 cpu: 10m
 memory: 20Mi
 requests:
 cpu: 10m
 memory: 20Mi

然后创建创建default-http-backend的rc:

kubectl create -f default-http-backend .yaml

最后创建default-http-backend的service,有两种方式创建,一种是:便捷default-http-backend-service.yaml,另一种通过如下命令创建:

kubectl expose rc default-http-backend --port=80 --target-port=8080 --name=default-http-backend

最后查看相应的rc以及service是否成功创建:然后自己测试能否正常访问,访问方式如下,直接通过的pod的ip/healthz或者serive的ip/(如果是srevice的ip加port)

配置inrgess-controller

首先编辑ingress-controller.yaml文件:

apiVersion: v1
kind: ReplicationController
metadata:
 name: nginx-ingress-controller
 labels:
 k8s-app: nginx-ingress-lb
spec:
 replicas: 1
 selector:
 k8s-app: nginx-ingress-lb
 template:
 metadata:
 labels:
 k8s-app: nginx-ingress-lb
 name: nginx-ingress-lb
 spec:
 terminationGracePeriodSeconds: 60
 containers:
 - image: hub.yfcloud.io/google_containers/nginx-ingress-controller:0.8.3
 name: nginx-ingress-lb
 imagePullPolicy: Always
 readinessProbe:
 httpGet:
 path: /healthz
 port: 80
 scheme: HTTP
 livenessProbe:
 httpGet:
 path: /healthz
 port: 80
 scheme: HTTP
 initialDelaySeconds: 10
 timeoutSeconds: 1 # use downward API
 env:
 - name: POD_NAME
 valueFrom:
 fieldRef:
 fieldPath: metadata.name
 - name: POD_NAMESPACE
 valueFrom:
 fieldRef:
 fieldPath: metadata.namespace
 - name: KUBERNETES_MASTER
 value: http://183.131.19.231:8080
 ports:
 - containerPort: 80
 hostPort: 80
 - containerPort: 443
 hostPort: 443
 args:
 - /nginx-ingress-controller
 - --default-backend-service=$(POD_NAMESPACE)/default-http-backend
 imagePullSecrets:
 - name: hub.yfcloud.io.key

创建ingress-controller的rc:

kubectl create -f ingress-controller.yaml

最后验证ingress-controller是否正常启动成功,方法 如下:查看ingress-controller中对应pod的ip,然后通过ip:80/healthz 访问,成功的话会返回 ok。

配置需要测试的service

首先编辑测试用的test.yaml:

apiVersion: v1 kind: ReplicationController metadata:
 name: echoheaders
spec:
 replicas: 1
 template:
 metadata:
 labels:
 app: echoheaders
 spec:
 containers:
 - name: echoheaders
 image: hub.yfcloud.io/google_containers/echoserver:test
 ports:
 - containerPort: 8080

测试service的yaml这里创建多个:
sv-alp-default.yaml:

apiVersion: v1 kind: Service metadata:
 name: echoheaders-default
 labels:
 app: echoheaders
spec:
 type: NodePort
 ports:
 - port: 80
 nodePort: 30302
 targetPort: 8080
 protocol: TCP
 name: http
 selector:
 app: echoheaders

sv-alp-x.yaml:

apiVersion: v1 kind: Service metadata:
 name: echoheaders-x
 labels:
 app: echoheaders
spec:
 type: NodePort
 ports:
 - port: 80
 nodePort: 30301
 targetPort: 8080
 protocol: TCP
 name: http
 selector:
 app: echoheaders

sv-alp-y.yaml:

apiVersion: v1 kind: Service metadata:
 name: echoheaders-y
 labels:
 app: echoheaders
spec:
 type: NodePort
 ports:
 - port: 80
 nodePort: 30284
 targetPort: 8080
 protocol: TCP
 name: http
 selector:
 app: echoheaders

接着是

配置ingress

编辑ingress-alp.yaml:

apiVersion: extensions/v1beta1 kind: Ingress metadata:
 name: echomap
spec:
 rules:
 - host: foo.bar.com
 http:
 paths:
 - path: /foo
 backend:
 serviceName: echoheaders-x
 servicePort: 80
 - host: bar.baz.com
 http:
 paths:
 - path: /bar
 backend:
 serviceName: echoheaders-y
 servicePort: 80
 - path: /foo
 backend:
 serviceName: echoheaders-x
 servicePort: 80

最后测试,测试方法有两种,如下:

方法一:

curl -v http://nodeip:80/foo -H 'host: foo.bar.com'

结果如下:

* About to connect() to 183.131.19.232 port 80 (#0)
* Trying 183.131.19.232...
* Connected to 183.131.19.232 (183.131.19.232) port 80 (#0)
> GET /foo HTTP/1.1
> User-Agent: curl/7.29.0
> Accept: */*
> host: foo.bar.com
> 
< HTTP/1.1 200 OK
< Server: nginx/1.11.3
< Date: Wed, 12 Oct 2016 10:04:40 GMT
< Transfer-Encoding: chunked
< Connection: keep-alive
< 
CLIENT VALUES:
client_address=('10.1.58.3', 57364) (10.1.58.3)
command=GET
path=/foo
real path=/foo
query=
request_version=HTTP/1.1

SERVER VALUES:
server_version=BaseHTTP/0.6
sys_version=Python/3.5.0
protocol_version=HTTP/1.0

HEADERS RECEIVED:
Accept=*/*
Connection=close
Host=foo.bar.com
User-Agent=curl/7.29.0
X-Forwarded-For=183.131.19.231
X-Forwarded-Host=foo.bar.com
X-Forwarded-Port=80
X-Forwarded-Proto=http
X-Real-IP=183.131.19.231
* Connection #0 to host 183.131.19.232 left intact

其他路由的测试修改对应的url即可。

**注意:**nodeip是你的ingress-controller所对应的pod所在的node的ip。

方法二:
将访问url的主机的host中加上:

nodeip foo.bar.com nodeip bar.baz.com

在浏览器中直接访问:

foo.bar.com/foo
bar.baz.com/bar
bar.baz.com/foo

都是可以的。

问题集

在创建ingress-controller的时候报错(ingress的yaml文件是官网中的yaml文件配置,我只改了相对应的镜像。):

问题一:

这里写图片描述

以上错误信息是ingress-controller创建失败的原因,通过docker log 查看rc中的对应的ingress-controller的容器的日志。

原因:从错误信息来看是因为ingress内部程序默认是通过localhost:8080连接master的apiserver,如果是单机版的k8s环境,就不会报这个错,如果是集群环境,并且你的ingress-controller的pod所对应的容器不是在master节点上(因为有的集群环境master也是node,这样的话,如果你的pod对应的容器在master节点上也不会报这个错),就会报这个错。

解决方法:在ingress-controller.yaml中加上如下参数,

- name: KUBERNETES_MASTER
 value: http://183.131.19.231:8080

之后的yaml文件就是如前面定义的yaml文件。

问题二:

这个问题是在创建ingress rc成功之后,马上查看rc对应的pod对应的容器时报的错!

这里写图片描述

从这个问题衍生出个连带的问题,如下图:

问题1:
这个问题是在创建ingress rc成功之后,当第一个容器失败,rc的垃圾机制回收第一次创建停止的容器后,重新启动的容器。查看rc对应的pod对应的容器时报的错!

这里写图片描述

原因:因为ingress中的源码的健康检查的url改成了 /healthz,而官方文档中的yaml中定义的健康检查的路由是/ingress-controller-healthz,这个url是ingress的自检url,当超过8次之后如果得到结果还是unhealthy,则会挂掉ingress对应的容器。

解决方法:将yaml中的健康检查的url改成:/healthz即可。:

readinessProbe:
 httpGet:
 path: /healthz
 port: 80
 scheme: HTTP
 livenessProbe:
 httpGet:
 path: /healthz
 port: 80
 scheme: HTTP
 initialDelaySeconds: 10
 timeoutSeconds: 1

目录 (Table of Contents)

[TOCM]

概述

用过kubernetes的人都知道,kubernetes的service的网络类型有三种:cluertip,nodeport,loadbanlance,各种类型的作用就不在这里描述了。如果一个service想向外部暴露服务,有nodeport和loadbanlance类型,但是nodeport类型,你的知道service对应的pod所在的node的ip,而loadbanlance通常需要第三方云服务商提供支持。如果没有第三方服务商服务的就没办法做了。除此之外还有很多其他的替代方式,以下我主要讲解的是通过ingress的方式来实现service的对外服务的暴露。

下载搭建环境所需要的镜像

  • gcr.io/google_containers/nginx-ingress-controller:0.8.3 (ingress controller 的镜像)
  • gcr.io/google_containers/defaultbackend:1.0 (默认路由的servcie的镜像)
  • gcr.io/google_containers/echoserver:1.0 (用于测试ingress的service镜像,当然这个你可以换成你自己的service都可以)

说明:由于GFW的原因下载不下来的,都可以到时速云去下载相应的镜像(只要把grc.io换成index.tenxcloud.com就可以了),由于我用的是自己私用镜像仓库,所以之后看到的镜像都是我自己tag之后上传到自己私有镜像仓库的。

配置default-http-bankend

首先便捷default-http-backend.yaml:

apiVersion: v1
kind: ReplicationController
metadata:
 name: default-http-backend
spec:
 replicas: 1
 selector:
 app: default-http-backend
 template:
 metadata:
 labels:
 app: default-http-backend
 spec:
 terminationGracePeriodSeconds: 60
 containers:
 - name: default-http-backend
 # Any image is permissable as long as: # 1. It serves a 404 page at / # 2. It serves 200 on a /healthz endpoint
 image: hub.yfcloud.io/google_containers/defaultbackend:1.0
 livenessProbe:
 httpGet:
 path: /healthz
 port: 8080
 scheme: HTTP
 initialDelaySeconds: 30
 timeoutSeconds: 5
 ports:
 - containerPort: 8080
 resources:
 limits:
 cpu: 10m
 memory: 20Mi
 requests:
 cpu: 10m
 memory: 20Mi

然后创建创建default-http-backend的rc:

kubectl create -f default-http-backend .yaml

最后创建default-http-backend的service,有两种方式创建,一种是:便捷default-http-backend-service.yaml,另一种通过如下命令创建:

kubectl expose rc default-http-backend --port=80 --target-port=8080 --name=default-http-backend

最后查看相应的rc以及service是否成功创建:然后自己测试能否正常访问,访问方式如下,直接通过的pod的ip/healthz或者serive的ip/(如果是srevice的ip加port)

配置inrgess-controller

首先编辑ingress-controller.yaml文件:

apiVersion: v1
kind: ReplicationController
metadata:
 name: nginx-ingress-controller
 labels:
 k8s-app: nginx-ingress-lb
spec:
 replicas: 1
 selector:
 k8s-app: nginx-ingress-lb
 template:
 metadata:
 labels:
 k8s-app: nginx-ingress-lb
 name: nginx-ingress-lb
 spec:
 terminationGracePeriodSeconds: 60
 containers:
 - image: hub.yfcloud.io/google_containers/nginx-ingress-controller:0.8.3
 name: nginx-ingress-lb
 imagePullPolicy: Always
 readinessProbe:
 httpGet:
 path: /healthz
 port: 80
 scheme: HTTP
 livenessProbe:
 httpGet:
 path: /healthz
 port: 80
 scheme: HTTP
 initialDelaySeconds: 10
 timeoutSeconds: 1 # use downward API
 env:
 - name: POD_NAME
 valueFrom:
 fieldRef:
 fieldPath: metadata.name
 - name: POD_NAMESPACE
 valueFrom:
 fieldRef:
 fieldPath: metadata.namespace
 - name: KUBERNETES_MASTER
 value: http://183.131.19.231:8080
 ports:
 - containerPort: 80
 hostPort: 80
 - containerPort: 443
 hostPort: 443
 args:
 - /nginx-ingress-controller
 - --default-backend-service=$(POD_NAMESPACE)/default-http-backend
 imagePullSecrets:
 - name: hub.yfcloud.io.key

创建ingress-controller的rc:

kubectl create -f ingress-controller.yaml

最后验证ingress-controller是否正常启动成功,方法 如下:查看ingress-controller中对应pod的ip,然后通过ip:80/healthz 访问,成功的话会返回 ok。

配置需要测试的service

首先编辑测试用的test.yaml:

apiVersion: v1 kind: ReplicationController metadata:
 name: echoheaders
spec:
 replicas: 1
 template:
 metadata:
 labels:
 app: echoheaders
 spec:
 containers:
 - name: echoheaders
 image: hub.yfcloud.io/google_containers/echoserver:test
 ports:
 - containerPort: 8080

测试service的yaml这里创建多个:
sv-alp-default.yaml:

apiVersion: v1 kind: Service metadata:
 name: echoheaders-default
 labels:
 app: echoheaders
spec:
 type: NodePort
 ports:
 - port: 80
 nodePort: 30302
 targetPort: 8080
 protocol: TCP
 name: http
 selector:
 app: echoheaders

sv-alp-x.yaml:

apiVersion: v1 kind: Service metadata:
 name: echoheaders-x
 labels:
 app: echoheaders
spec:
 type: NodePort
 ports:
 - port: 80
 nodePort: 30301
 targetPort: 8080
 protocol: TCP
 name: http
 selector:
 app: echoheaders

sv-alp-y.yaml:

apiVersion: v1 kind: Service metadata:
 name: echoheaders-y
 labels:
 app: echoheaders
spec:
 type: NodePort
 ports:
 - port: 80
 nodePort: 30284
 targetPort: 8080
 protocol: TCP
 name: http
 selector:
 app: echoheaders

接着是

配置ingress

编辑ingress-alp.yaml:

apiVersion: extensions/v1beta1 kind: Ingress metadata:
 name: echomap
spec:
 rules:
 - host: foo.bar.com
 http:
 paths:
 - path: /foo
 backend:
 serviceName: echoheaders-x
 servicePort: 80
 - host: bar.baz.com
 http:
 paths:
 - path: /bar
 backend:
 serviceName: echoheaders-y
 servicePort: 80
 - path: /foo
 backend:
 serviceName: echoheaders-x
 servicePort: 80

最后测试,测试方法有两种,如下:

方法一:

curl -v http://nodeip:80/foo -H 'host: foo.bar.com'

结果如下:

* About to connect() to 183.131.19.232 port 80 (#0)
* Trying 183.131.19.232...
* Connected to 183.131.19.232 (183.131.19.232) port 80 (#0)
> GET /foo HTTP/1.1
> User-Agent: curl/7.29.0
> Accept: */*
> host: foo.bar.com
> 
< HTTP/1.1 200 OK
< Server: nginx/1.11.3
< Date: Wed, 12 Oct 2016 10:04:40 GMT
< Transfer-Encoding: chunked
< Connection: keep-alive
< 
CLIENT VALUES:
client_address=('10.1.58.3', 57364) (10.1.58.3)
command=GET
path=/foo
real path=/foo
query=
request_version=HTTP/1.1

SERVER VALUES:
server_version=BaseHTTP/0.6
sys_version=Python/3.5.0
protocol_version=HTTP/1.0

HEADERS RECEIVED:
Accept=*/*
Connection=close
Host=foo.bar.com
User-Agent=curl/7.29.0
X-Forwarded-For=183.131.19.231
X-Forwarded-Host=foo.bar.com
X-Forwarded-Port=80
X-Forwarded-Proto=http
X-Real-IP=183.131.19.231
* Connection #0 to host 183.131.19.232 left intact

其他路由的测试修改对应的url即可。

**注意:**nodeip是你的ingress-controller所对应的pod所在的node的ip。

方法二:
将访问url的主机的host中加上:

nodeip foo.bar.com nodeip bar.baz.com

在浏览器中直接访问:

foo.bar.com/foo
bar.baz.com/bar
bar.baz.com/foo

都是可以的。

问题集

在创建ingress-controller的时候报错(ingress的yaml文件是官网中的yaml文件配置,我只改了相对应的镜像。):

问题一:

这里写图片描述

以上错误信息是ingress-controller创建失败的原因,通过docker log 查看rc中的对应的ingress-controller的容器的日志。

原因:从错误信息来看是因为ingress内部程序默认是通过localhost:8080连接master的apiserver,如果是单机版的k8s环境,就不会报这个错,如果是集群环境,并且你的ingress-controller的pod所对应的容器不是在master节点上(因为有的集群环境master也是node,这样的话,如果你的pod对应的容器在master节点上也不会报这个错),就会报这个错。

解决方法:在ingress-controller.yaml中加上如下参数,

- name: KUBERNETES_MASTER
 value: http://183.131.19.231:8080

之后的yaml文件就是如前面定义的yaml文件。

问题二:

这个问题是在创建ingress rc成功之后,马上查看rc对应的pod对应的容器时报的错!

这里写图片描述

从这个问题衍生出个连带的问题,如下图:

问题1:
这个问题是在创建ingress rc成功之后,当第一个容器失败,rc的垃圾机制回收第一次创建停止的容器后,重新启动的容器。查看rc对应的pod对应的容器时报的错!

这里写图片描述

原因:因为ingress中的源码的健康检查的url改成了 /healthz,而官方文档中的yaml中定义的健康检查的路由是/ingress-controller-healthz,这个url是ingress的自检url,当超过8次之后如果得到结果还是unhealthy,则会挂掉ingress对应的容器。

解决方法:将yaml中的健康检查的url改成:/healthz即可。:

readinessProbe:
 httpGet:
 path: /healthz
 port: 80
 scheme: HTTP
 livenessProbe:
 httpGet:
 path: /healthz
 port: 80
 scheme: HTTP
 initialDelaySeconds: 10
 timeoutSeconds: 1
本文转自开源中国- Kubernetes Nginx Ingress 安装与使用
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值