Kubernetes技术分析之资源管理

原文：http://www.open-open.com/lib/view/open1439386169661.html

Docker的流行激活了一直不温不火的PaaS，随着而来的是各类Micro-PaaS的出现，Kubernetes是其中最具代表性的一员，它是 Google多年大规模容器管理技术的开源版本。本系列文章将逐一分析Kubernetes，本文主要通过一个例子介绍Kubernetes的资源管理机制（Limit Range和Resource Quota）。

Kubernetes资源管理

作为一个容器管理平台，难免地会部署多套应用，如果没有合理的资源管理机制，应用对资源的需求是不受限的，那么就很快会耗尽所有资源，影响到其他应用。所以需要对资源进行合理的分配，这是一项需要积累的课题。

资源隔离和限制，这是PaaS的基础能力，Kubernetes对此也有初步的设计，有3 个层次的资源限制方式，分别在Container、Pod、Namespace 层次。Container层次主要利用容器本身的支持，比如Docker 对CPU、内存等的支持；Pod方面可以限制系统内创建Pod的资源范围，比如最大或者最小的CPU、memory需求；Namespace层次就是对用户级别的资源限额了，包括CPU、内存，还可以限定Pod、rc、service的数量。

Kubernetes中有2个元素Limit Range和Resource Quota用来进行资源管理，下面将采用一个例子进行介绍。
注意：kube-apiserver启动参数需要设置“--admission_control=LimitRanger,ResourceQuota...”

示例

首先创建一个namespace，
namespace.yaml:

apiVersion: v1
kind: Namespace
metadata:
name: quota-example

$ kubectl create -f docs/user-guide/resourcequota/namespace.yaml
$ kubectl get namespaces
NAME             LABELS    STATUS
default          <none>    Active
quota-example    <none>    Active

默认情况下namespace是没有资源配额的，现在给namespace设置配额，
quota.yaml:

apiVersion: v1
kind: ResourceQuota
metadata:
name: quota
spec:
hard:
cpu: "20"
memory: 1Gi
persistentvolumeclaims: "10"
pods: "10"
replicationcontrollers: "20"
resourcequotas: "1"
secrets: "10"
services: "5"

$ kubectl create -f docs/user-guide/resourcequota/quota.yaml --namespace=quota-example
$ kubectl describe quota quota --namespace=quota-example
Name:             quota
Namespace:        quota-example
Resource                   Used        Hard
--------                   ----        ----
cpu                        100m        20
memory                     536870912   1Gi
persistentvolumeclaims     0           10
pods                       1           10
replicationcontrollers     1           20
resourcequotas             1           1
secrets                    1           10
services                   0           5

可以看出资源配额包括2方面：

• 计算资源配额
  cpu Total cpu limits of containers
  memory Total memory limits of containers
• Kubernetes元素数量限制
  pods Total number of pods
  services Total number of services
  replicationcontrollers Total number of replication controllers
  resourcequotas Total number of resource quotas
  secrets Total number of secrets
  persistentvolumeclaims Total number of persistent volume claims

现在在namespace下创建Pod，
nginx-rc.yaml:

apiVersion: v1
kind: ReplicationController
metadata:
name: nginx
namespace: quota-example
labels:
name: nginx
spec:
replicas: 1
selector:
name: nginx
template:
metadata:
  labels:
    name: nginx
spec:
  containers:
  - name: nginx
    image: nginx

$ kubectl create -f ./niginx-rc.yaml
$ kubectl describe rc nginx --namespace=quota-example
... Error creating: Pod "nginx-" is forbidden: Limited to 1Gi memory, but pod has no specified memory limit

因为Pod没有设置资源限制，Kubeneters会拒绝创建Pod。有2种方法可以解决，一是给Pod配置资源限制，
nginx-rc.yaml:

apiVersion: v1
kind: ReplicationController
metadata:
name: nginx
namespace: quota-example
labels:
name: nginx
spec:
replicas: 1
selector:
name: nginx
template:
metadata:
  labels:
    name: nginx
spec:
  containers:
  - name: nginx
    image: nginx
    resources:
      limits:
        cpu: 100m
        memory: 100Mi

另一种方法是可以设置Pod的默认资源限制：
limits.yaml:

apiVersion: v1
kind: LimitRange
metadata:
name: limits
spec:
limits:
- default:
  cpu: 100m
  memory: 100Mi
type: Container

$ kubectl create -f docs/user-guide/resourcequota/limits.yaml --namespace=quota-example
$ kubectl describe limits limits --namespace=quota-example
Name:       limits
Namespace:  quota-example
Type        Resource     Min    Max    Default
----        --------     ---    ---    ---
Container    cpu         -      -      100m
Container    memory      -      -      100Mi

那么Pod就能创建成功了，那么相应的资源也消耗了：

$ kubectl describe quota quota --namespace=quota-example
Name:            quota
Namespace:        quota-example
Resource                 Used        Hard
--------                 ----        ----
cpu                      100m        20
memory                   104857600   1Gi
persistentvolumeclaims   0           10
pods                     1           10
replicationcontrollers   1           20
resourcequotas           1           1
secrets                  1           10
services                 0           5

Limit Range除了可设置Container之外，也可以设置Pod,

limits.yaml:
apiVersion: v1
kind: LimitRange
metadata:
name: mylimits
spec:
limits:
- max:
  cpu: "2"
  memory: 1Gi
min:
  cpu: 250m
  memory: 6Mi
type: Pod
- default:
  cpu: 250m
  memory: 100Mi
max:
  cpu: "2"
  memory: 1Gi
min:
  cpu: 250m
  memory: 6Mi
type: Container

$ kubectl create -f limits.yaml --namespace=quota-example
$ kubectl describe limits mylimits --namespace=quota-example
Name:   mylimits
Type      Resource  Min  Max Default
----      --------  ---  --- ---
Pod       memory    6Mi  1Gi -
Pod       cpu       250m   2 -
Container memory    6Mi  1Gi 100Mi
Container cpu       250m   2 250m

这个设置为：
1.一个Pod的所有容器内存使用必须在6Mi ~ 1Gi
2. 一个Pod的所有容器的CPU使用必须在250m ~ 2 cores
3. 一个容器的内存使用必须在6Mi ~ 1Gi， 默认是100Mi
4. 一个容器的CPU使用必须在250m ~ 2 cores， 默认是250m