kubernetes架构和工作流程

一、什么是云原生

  云原生技术主要包括容器编排工具（如Kubernetes）、微服务框架、持续集成/持续部署工具、自动化配置管理工具等。采用云原生方法可以提高应用程序的灵活性、可靠性和可维护性，使应用程序更适应云环境的特点。

二、SRE

• 运维自动化（自动化发布、自动化部署、日志管理、监控自动化）
• k8s编排集群
• 日志系统
• 微服务
• 消息队列
• 多云管理
• 云开（二开）python、golong

    注意：k8s一年更新4次

三、Kubernetes 概述

  3.1 kubernetes定义

    它是一种开源容器编排平台，用于自动化部署、扩展和管理应用程序。它提供了一种容器编排管理方式，还可以帮助开发人员更轻松管理化我们的应用程序。

  3.2 kubernetes作用

    用于自动部署、扩展和管理“容器化（containerized）应用程序”的开源系统。 可以理解成 K8S 是负责自动化运维管理多个容器化程序（比如 Docker）的集群，是一个生态极其丰富的容器编排框架工具。

  3.3 kubernetes由来

    K8S由google的Borg系统(博格系统，google内部使用的大规模容器编排工具)作为原型，后经GO语言延用Borg的思路重写并捐献给CNCF基金会开源。

四、使用k8s目的

  K8S 要做的事情：自动化运维管理容器化（Docker）程序。

  K8S的目标是让部署容器化应用简单高效。 K8S 解决了Docker的缺点:

• 单机使用，无法有效集群
• 随着容器数量的上升，管理成本攀升
• 没有有效的容灾、自愈机制
• 没有预设编排模板，无法实现快速、大规模容器调度
• 没有统一的配置管理中心工具
• 没有容器生命周期的管理工具
• 没有图形化运维管理工具

  K8S是Google开源的容器集群管理系统，在Docker等容器技术的基础上，为容器化的应用提供部署运行、资源调度、服务发现和动态伸缩等一系列完整功能，提高了大规模容器集群管理的便捷性。 其主要功能如下：

• 使用 Docker 等容器技术对应用程序包装（package）、实例化（instantiate）、运行（run）。
• 以集群的方式运行、管理跨机器的容器。
• 解决 Docker 跨机器容器之间的通讯问题。
• K8S 的自我修复机制使得容器集群总是运行在用户期望的状态。

五、K8S特性

• 弹性伸缩
• 自我修复
• 服务发现和负载均衡
• 自动发布会滚
• 集中化管理配置和密钥管理
• 存储编排
• 任务批量处理容器

六、核心组件

  6.1 master核心组件

• Kube-apiserver 用于暴露Kubernetes API，任何资源请求或调用操作都是通过kube-apiserver 提供的接口进行。以HTTP Restful API提供接口服务，所有对象资源的增删改查和监听操作都交给API Server处理后再提交给Etcd存储。

    可以理解成API Server是 K8S的请求入口服务。API Server负责接收K8S所有请求（来自UI界面或者CLI命令行工具）， 然后根据用户的具体请求，去通知其他组件干活。可以说API Server是K8S集群架构的大脑。

• Kube-controller-manager：运行管理控制器，是K8S集群中处理常规任务的后台线程，是 K8S 集群里所有资源对象的自动化控制中心。 在K8S集群中，一个资源对应一个控制器，而Controller manager就是负责管理这些控制器的。

    由一系列控制器组成，通过API Server监控整个集群的状态，并确保集群处于预期的工作状态，比如当某个Node意外宕机时，Controller Manager会及时发现并执行自动化修复流程，确保集群始终处于预期的工作状态。

    这些控制器主要包括：

•        Node Controller（节点控制器）：负责在节点出现故障时发现和响应。
  • Replication Controller（副本控制器）：负责保证集群中一个RC（资源对象 Replication Controller）所关联的Pod副本数始终保持预设值。可以理解成确保集群中有且仅有N个 Pod 实例，N 是 RC 中定义的 Pod 副本数量。
  • Endpoints Controller（端点控制器）：填充端点对象（即连接 Services 和 Pods），负责监听Service和对应的Pod副本的变化。 可以理解端点是一个服务暴露出来的访问点，如果需要访问一个服务，则必须知道它的endpoint。
  • Service Account & Token Controllers（服务帐户和令牌控制器）：为新的命名空间创建默认帐户和API访问令牌。
  • ResourceQuota Controller（资源配额控制器）：确保指定的资源对象在任何时候都不会超量占用系统物理资源。
  • Namespace Controller（命名空间控制器）：管理 namespace的生命周期。
  • Service Controller（服务控制器）：属于K8S集群与外部的云平台之间的一个接口控制器。
  • Kube-scheduler是负责资源调度的进程，根据调度算法为新创建的Pod选择一个合适的Node 节点。

    可以理解成K8S所有Node节点的调度器。当用户要部署服务时，Scheduler会根据调度算法选择最合适的Node节点来部署Pod。 分别是预选策略（predicate）和优选策略（priorities）

API Server接收到请求创建一批Pod，API Server会让Controller-manager按照所预设的模板去创建 Pod，Controller-manager 会通过API Server去找 Scheduler 为新创建的Pod选择最适合的Node节点。比如运行这个Pod需要2C4G的资源，Scheduler会通过预选策略过滤掉不满足策略的Node节点。Node节点中还剩多少资源是通过汇报给API Server存储在etcd里，API Server会调用一个方法找到etcd里所有Node节点的剩余资源，再对比Pod所需要的资源，如果某个Node节点的资源不足或者不满足 预选策略的条件则无法通过预选。预选阶段筛选出的节点，在优选阶段会根据优先策略为通过预选的Node节点进行打分排名， 选择得分最高的Node。例如，资源越富裕、负载越小的 Node可能具有越高的排名。

  6.2 配置存储中心

    etcd：K8S 的存储服务。etcd是分布式键值存储系统，存储了K8S的关键配置和用户配置，K8S 中仅API Server才具备读写权限，其他组件必须通过API Server的接口才能读写数据。

  6.3 node核心组件

• Kubelet

1. 监控资源、node节点、配置信息，会定时告诉Master这些信息；然后Master告诉API Server，并把数据存在etcd中
2. 根据Master的指令去做事Node节点的监视器，以及与Master节点的通讯器。Kubelet是Master节点安插在Node节点上的“眼线”，它会定时向API Server汇报自己Node节点上运行的服务的状态，并接受来自Master节点的指示采取调整措施。

    从 Master 节点获取自己节点上 Pod 的期望状态（比如运行什么容器、运行的副本数量、网络或者存储如何配置等）， 直接跟容器引擎交互实现容器的生命周期管理，如果自己节点上 Pod 的状态与期望状态不一致，则调用对应的容器平台接口（即 docker 的接口）达到这个状态。

    管理镜像和容器的清理工作，保证节点上镜像不会占满磁盘空间，退出的容器不会占用太多资源。

    总结： 在Kubernetes集群中，在每个Node（又称：Worker Node）上都会启动一个kubelet服务进程。该进程用于处理Master下发到本节点的任务，管理Pod及Pod中的容器。每个kubelet进程都会在 API Server上注册节点自身的信息，定期向Master汇报节点资源的使用情况，并通过cAdvisor 监控容器和节点资源。

• Kube-Proxy（分布式代理服务器）：在每个Node节点上实现Pod网络代理，是Kubernetes Service资源的载体，负责维护网络规则和四层负载均衡工作。 负责写入规则至iptables、ipvs实现服务映射访问的。

    Kube-Proxy本身不是直接给Pod提供网络，Pod的网络是由Kubelet提供的，Kube-Proxy实际上维护的是虚拟的Pod集群网络。 Kube-apiserver通过监控Kube-Proxy进行对 Kubernetes Service 的更新和端点的维护。

    在K8S集群中微服务的负载均衡是由Kube-proxy实现的。Kube-proxy是K8S集群内部的负载均衡器。它是一个分布式代理服务器，在K8S的每个节点上都会运行一个Kube-proxy组件。

    三种模式网络模型

• node ip
• pod ip
• cluster ip

●docker 或 rocket：容器引擎，运行容器，负责本机的容器创建和管理工作。

七、工作流程

1. 用户通过客户端发送创建Pod的请求到master节点上的apiserver
2. apiserver会先把请求信息写入到etcd中保存，再找controller-manager根据预设的资源配置模板创建Pod资源
3. 然后controller-manager会通过apiserver去找scheduler为新创建的Pod选择最合适的node节点
4. scheduler通过调度算法的预选策略和优选策略筛选出最合适的node节点进行调度
5. 然后再通过apiserver找到对应的node节点上的kubelet去创建和管理Pod
6. kubelet会跟容器引擎交互来管理Pod/容器的生命周期
7. 用户还可通过apiserver在kube-proxy上写入网络规则，创建service资源，实现对Pod的服务发现和负载均衡

八、Kubernetes核心概念

  Kubernetes 包含多种类型的资源对象：Pod、Label、Service、Replication Controller 等。

  所有的资源对象都可以通过Kubernetes提供的kubectl工具进行增、删、改、查等操作，并将其保存在 etcd 中持久化存储。

  Kubernets其实是一个高度自动化的资源控制系统，通过跟踪对比etcd存储里保存的资源期望状态与当前环境中的实际资源状态的差异，来实现自动控制和自动纠错等高级功能。

• Pod

  Pod是 Kubernetes创建或部署的最小/最简单的基本单位，一个Pod代表集群上正在运行的一个进程。

  一个Pod由一个或多个容器组成，Pod中容器共享网络、存储和计算资源，在同一台Docker主机上运行。
  一个 Pod 里可以运行多个容器，又叫边车模式（SideCar）。而在生产环境中一般都是单个容器或者具有强关联互补的多个容器组成一个Pod。

  同一个Pod之间的容器可以通过localhost互相访问，并且可以挂载Pod内所有的数据卷；但是不同的Pod之间的容器不能用localhost访问，也不能挂载其他Pod的数据卷。

• Pod 控制器

  Pod控制器是Pod 启动的一种模版，用来保证在K8S里启动的Pod应始终按照用户的预期运行（副本数、生命周期、健康状态检查等）。

  K8S 内提供了众多的Pod控制器，常用的有以下几种：

• Deployment：无状态应用部署。Deployment的作用是管理和控制Pod和ReplicaSet，管控它们运行在用户期望的状态中。
• ReplicaSet：确保预期的Pod副本数量。ReplicaSet的作用就是管理和控制Pod，管控他们好好干活。但是，ReplicaSet受控于Deployment。

  从 K8S 使用者角度来看，用户会直接操作Deployment部署服务，而当Deployment被部署的时候，K8S会自动生成要求的ReplicaSet和 Pod。用户只需要关心Deployment而不操心 ReplicaSet。
  资源对象Replication Controller是ReplicaSet的前身，官方推荐用Deployment取代Replication Controller来部署服务。

• Daemonset：确保所有节点运行同一类Pod，保证每个节点上都有一个此类Pod运行，通常用于实现系统级后台任务。
• Statefulset：有状态应用部署
• Job：一次性任务。根据用户的设置，Job管理的Pod把任务成功完成就自动退出了。
• Cronjob：周期性计划性任务

• Label：标签，是K8S特色的管理方式，便于分类管理资源对象。

  Label可以附加到各种资源对象上，例：Node、Pod、Service、RC等，用于关联对象、查询和筛选。
  一个Label是一个key-value的键值对，其中key与value由用户自己指定。
  一个资源对象可以定义任意数量的Label，同一个Label也可以被添加到任意数量的资源对象中，  也可以在对象创建后动态添加或者删除。
  可以通过给指定的资源对象捆绑一个或多个不同的Label，来实现多维度的资源分组管理功能。与 Label 类似的，还有Annotation（注释）。
  区别在于有效的标签值必须为63个字符或更少，并且必须为空或以字母数字字符（[a-z0-9A-Z]）开头和结尾，中间可以包含横杠（-）、下划线（_）、点（.）和字母或数字。注释值则没有字符长度限制。

• Label 选择器（Label selector）

  给某个资源对象定义一个Label，就相当于给它打了一个标签；随后可以通过标签选择器（Label selector）查询和筛选拥有某些Label的资源对象。
标签选择器目前有两种：基于等值关系（等于、不等于）和基于集合关系（属于、不属于、存在）。

• Service

  在K8S的集群里，虽然每个Pod会被分配一个单独的IP地址，但由于Pod是有生命周期的（它们可以被创建，而且销毁之后不会再启动），随时可能会因为业务的变更，导致这个IP地址也会随着 Pod的销毁而消失。
  K8S 中的Service并不是我们常说的“服务”的含义，而更像是网关层，可以看作一组提供相同服务的Pod的对外访问接口、流量均衡器。
  Service作用于哪些Pod是通过标签选择器来定义的？
  在 K8S 集群中，Service可以看作一组提供相同服务的Pod的对外访问接口。客户端需要访问的服务就是Service对象。每个Service都有一个固定的虚拟ip（这个ip也被称为Cluster IP），自动并且动态地绑定后端的Pod，所有的网络请求直接访问Service的虚拟ip，Service会自动向后端做转发。
  Service除了提供稳定的对外访问方式之外，还能起到负载均衡（Load Balance）的功能，自动把请求流量分布到后端所有的服务上，Service可以做到对客户透明地进行水平扩展（scale）。
而实现service这一功能的关键，就是kube-proxy。kube-proxy运行在每个节点上，监听API Server 中服务对象的变化， 可通过以下三种流量调度模式： userspace（废弃）、iptables（濒临废弃）、ipvs（推荐，性能最好）来实现网络的转发。

  Service是K8S服务的核心，屏蔽了服务细节，统一对外暴露服务接口，真正做到了“微服务”。比如我们的一个服务A，部署了3个副本，也就是3个Pod； 对于用户来说，只需要关注一个Service的入口就可以，而不需要操心究竟应该请求哪一个Pod。
  优点：一方面外部用户不需要感知因为Pod上服务的意外崩溃、K8S重新拉起Pod而造成的 IP 变更， 外部用户也不需要感知因升级、变更服务带来的Pod替换而造成的IP变化。

• Ingress

  Service主要负责K8S集群内部的网络拓扑，那么集群外部怎么访问集群内部呢？这个时候就需要 Ingress了。Ingress是整个K8S集群的接入层，负责集群内外通讯。
  Ingress是K8S集群里工作在OSI网络参考模型下，第7层的应用，对外暴露的接囗，典型的访问方式是 http/https。
  Service 只能进行第四层的流量调度，表现形式是 ip+port。Ingress则可以调度不同业务域、不同URL访问路径的业务流量。
  比如：客户端请求 http://www.kgc.com:port  ---> Ingress ---> Service ---> Pod

●Name
  由于K8S内部，使用 “资源” 来定义每一种逻辑概念（功能），所以每种 “资源”，都应该有自己的 “名称”。
  “资源” 有 api 版本（apiversion）、类别（kind）、元数据（metadata）、定义清单（spec）、状态（status）等配置信息。
  “名称” 通常定义在 “资源” 的 “元数据” 信息里。在同一个namespace空间中必须是唯一的。

• Namespace

  随着项目增多、人员增加、集群规模的扩大，需要一种能够逻辑上隔离K8S内各种 “资源” 的方  法，这就是Namespace。
  Namespace 是为了把一个K8S集群划分为若干个资源不可共享的虚拟集群组而诞生的。
  不同Namespace内的 “资源” 名称可以相同，相同Namespace内的同种 “资源”，“名称” 不能相同。
  合理的使用K8S的Namespace，可以使得集群管理员能够更好的对交付到K8S里的服务进行分类管理和浏览。
  K8S里默认存在的Namespace 有：default、kube-system、kube-public 等。
  查询K8S里特定 “资源” 要带上相应的Namespace。