Kubernetes Service详解

最新推荐文章于 2024-09-14 15:41:57 发布
最新推荐文章于 2024-09-14 15:41:57 发布
阅读量3.6k 收藏 18
点赞数 4
分类专栏： k8s 文章标签： kubernetes
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/axibazZ/article/details/119955417
版权

一、Service介绍

        kubernetes提供了Service资源，Service会对提供同一个服务的多个pod进行聚合，并且提供一个统一的入口地址。通过访问Service的入口地址就能访问到后面的pod服务。

        Service在很多情况下只是一个概念，真正起作用的其实是kube-proxy服务进程，每个Node节点上都运行着一个kube-proxy服务进程。当创建Service的时候会通过api-server向etcd写入创建的service信息，而kube-proxy会基于监听的机制发现这种Service的变动，然后它会将最新的Service信息转换成对应的访问规则。

#10.97.97.97:80 是service提供的访问入口

#当访问这个入口的时候，可以发现后面有三个pod的服务在等待调用。

#kube-proxy会基于rr（轮询）的策略，将请求分发到其中一个pod上去

#这个规则会同时在集群内的所有节点上都生成，所以在任务一个节点上访问都可以。

[root@master ~]# ipvsadm -Ln

IP Virtual Server version 1.2.1 (size=4096)

Prot LocalAddress:Port Scheduler Flags

  -> RemoteAddress:Port              Forward Weight ActiveConn InActConn

TCP  10.97.97.97:80 rr

     -> 10.244.1.39:80                    Masq       1       0                0

     -> 10.244.1.40:80                    Masq       1       0                0

     -> 10.244.1.33:80                    Masq       1       0                0

 kube-proxy 目前支持三种工作模式：userspace、iptables、ipvs

userspace模式

        userspace模式下，kube-proxy会为每一个Service创建一个监听端口，发向Cluster IP的请求被Iptables规则重定向到kube-proxy监听的端口上，kube-proxy根据LB算法选择一个提供服务的pod并和其建立链接，以将请求转发到Pod上。

        该模式下，kube-proxy充当了一个四层负责均衡器的角色，由于kube-proxy运行在userspace中，在进行转发处理时会增加内核和用户空间之间的数据拷贝，虽然比较稳定，但是效率比较低。

iptables模式

        iptables模式下，kube-proxy为service后端的每个Pod创建对应的iptables规则，直接将发向Cluster IP的请求重定向到一个Pod IP。

        该模式下，kube-proxy不承担四层负责均衡器的角色，只负责创建iptables规则。该模式的优点是较userspace模式效率更高，但不能提供灵活的LB策略，当后端Pod不可用时也无法进行重试。

ipvs模式

        ipvs模式和iptables模式类似，kube-proxy监控Pod的变化并创建相应的ipvs规则，ipvs相对iptables转发效率更高。除此之外，ipvs支持更多的LB算法。

此模式必须安装ipvs内核模块，否则会降级为iptables。

开启ipvs

#编辑kube-proxy
kubectl edit cm kube-proxy -n kube-system
修改mode: "ipvs"

#删除kube-proxy对应的pod
kubectl delete pod -l k8s-app=kube-proxy -n kube-system

#查看规则
ipvsadm -Ln

二、Service类型

Service的资源清单文件：

apiVersion: v1  #版本号
kind: Service #类型
metadata:  #元数据
  name: service   #名称
  namespace:  dev #所属命名空间
spec:  #详情描述
  selector: #选择器，用于确定当前service代理哪些pod
    app: nginx
  type: #Service 类型，指定service的访问方式
  clusterIP:  #虚拟服务的ip地址
  sessionAffinity: #session亲和性，支持ClientIP、None两个选项
  ports: #端口信息
    - protocol： TCP
      port: 3017 #service端口
      targetPort: 3005 #pod端口
      nodePort: 31123 #主机端口

type类型有如下几种：

  • ClusterIP：默认值，它是kubernetes系统自动分配的虚拟ip，只能在集群内部访问。
  • NodePort：将Service通过指定的Node上的端口暴露给外部，通过此方法，就可以在集群外部访问服务。
  • LoadBalancer：使用外接负载均衡器完成到服务的负载分发，注意此模式需要外部云环境支持。
  • ExternalName：把集群外部的服务引入集群内部，直接使用。

三、Service的使用

实验环境准备

在使用service之前，首先利用Deployment创建3个pod，注意要为pod设置app=nginx-pod的标签

创建deployment.yaml，内容如下：

apiVersion: apps/v1  
kind: Deployment
metadata:           
  name: pc-deployment   
  namespace:  dev
spec:  
  replicas: 3 
  selector: 
    matchLabels: 
      app: nginx-pod
  template:   
    metadata:
      labels:
        app: nginx-pod
    spec:
      containers:
        - name: nginx
          image: nginx:1.17.1
          ports:
            - containerPort: 80
#创建deployment
kubectl create -f deployment.yaml

#查看pod详情
kubectl get pods -n dev --show-labels

#为了方便测试，修改三台nginx的index.html页面
kubectl exec -it pc-deployment-66cb59b984-8d48h -n dev /bin/sh

#注意这里的ip要不一样
echo "10.244.1.40" > /usr/share/nginx/html/index.html

ClusterIP类型的Service

创建service-clusterip.yaml文件

apiVersion: apps/v1  
kind: Service
metadata:           
  name: service-clusterip
  namespace:  dev
spec:  
  selector: 
    app: nginx-pod
  clusterIp: 10.97.97.97 #service的ip地址，如果不写，默认会生成一个
  type: ClusterIP
  ports:
    - port: 80 #service端口
      targetPort: 80 #pod端口
#创建service
kubectl create -f service-clusterip.yaml

#查看service
kubectl get svc -n dev -o wide

#查看service详细信息
kubectl describe svc -n dev -o wide

#查看ipvs映射规则
ipvsadm -Ln

查看service的详细信息

在这里有一个Endpoints列表，里面就是当前可以负载到的服务入口

kubectl describe svc service-clusterip -n dev

Endpoint

        Endpoint是kubernetes中的一个资源对象，存储在etcd中，用来记录一个service对应的所有pod的访问地址，它是根据service配置文件中selector描述产生的。

        一个service由一组pod组成，这些pod通过Endpoint暴露出来，Endpoints是实现实际服务的端点集合。换句话说，service和pod之间的联系是通过endpoints实现的。

 使用kubectl get endpoints -n dev查看endpoints信息

负载分发策略

对Service的访问被分发到了后端的pod上去，目前kubernetes提供了两种负载分发策略：

  • 如果不定义，默认使用kube-proxy的策略，比如随机，轮询。
  • 基于客户端地址的会话保持模式，即来自同一个客户端发起的所有请求都会转发到固定的一个Pod上，此模式可以在spec中添加sessionAffinity: ClientIP 选项。

HeadLiness类型的Service

在某些场景中，开发人员可能不想使用Service提供的负载均衡功能，希望自己来控制负载均衡器策略，针对这种情况，kubernetes提供了HeadLiness Service，这类Service不会分配Cluster IP，如果想要访问service，只能通过service的域名进行查询。

创建service-headliness.yaml

apiVersion: apps/v1  
kind: Service
metadata:           
  name: service-headliness
  namespace:  dev
spec:  
  selector: 
    app: nginx-pod
  clusterIp: None #将clusterIP设置为None，即可创建headliness service
  type: ClusterIP
  ports:
    - port: 80 #service端口
      targetPort: 80 #pod端口
#创建service
kubectl create -f service-headliness.yaml

#查看service，此时CLUSTER-IP的位置为None
kubectl get svc service-headliness -n dev -o wide

#查看service详细信息
kubectl describe svc service-headliness -n dev -o wide

#查看pod
kubectl get pods -n dev
#进入其中一台查看
kubectl exec -it pc-deployment-7878451b7d-gid12 -n dev /bin/sh
#查看域名解析情况
cat /etc/resolv.conf

dig @10.96.0.10 service-headliness.dev.svc.cluster.local

NodePort 类型的Service

在之前的样例中，创建的Service的ip地址只有集群内部才可以访问，如果希望将Service暴露给集群外部使用，那么就要使用NodePort类型的Service。NodePort的工作原理其实就是将service的端口映射到Node的一个端口上，然后就可以通过NodeIp:NodePort来访问service了。

 创建service-nodeport.yaml

apiVersion: apps/v1  
kind: Service
metadata:           
  name: service-nodeport
  namespace:  dev
spec:  
  selector: 
    app: nginx-pod
  type: NodePort
  ports:
    - port: 80 #service端口
      nodePort: 30002 #指定绑定的node的端口（默认范围是30000-32767），如果不指定，会默认分配
      targetPort: 80 #pod端口
#创建service
kubectl create -f service-nodeport.yaml

#查看service
kubectl get svc service-nodeport -n dev -o wide

#查看service详细信息
kubectl describe svc service-headliness -n dev -o wide

#查看pod
kubectl get pods -n dev

#访问pod则使用nodeIp + nodePort 访问

LoadBalancer类型的Service

LoadBalancer和NodePort和相似，目的是都是向外部暴露一个端口，区别在于LoadBalancer会在集群的外部再来做一个负载均衡设备，而这个设备需要外部环境支持的，外部服务发送到这个设备上的请求，会被设备负载之后转发到集群中。

ExternalName类型的Service

Externalname类型的Service用于引入集群外部的服务，它通过externalName属性指定外部一个服务的地址，然后在集群内部访问此service就可以访问到外部的服务了

apiVersion: apps/v1  
kind: Service
metadata:           
  name: service-externalname
  namespace:  dev
spec:  
  type: ExternalName #service的类型
  externalName: www.baidu.com   #ip或者域名都可以

 创建service

kubectl create -f service-externalname.yaml

 域名解析

dig @10.96.0.10 service-externalname.dev.svc.cluster.local

四、Ingress介绍

        在前面提到Service对集群之外暴露服务的主要方式有两种：NodePort和LoadBalancer，但是这两种有一定的缺点：

  • NodePort方式的缺点是会占用很多集群机器的端口，那么当集群服务变多的时候，这个缺点愈发明显。
  • LB方式的缺点是每个service需要一个LB，浪费、麻烦，并且需要kubernetes之外设备的支持。

        基于这种现状，kubernetes提供了Ingress资源对象，Ingress只需要一个NodePort或者一个LB就可以满足暴露多个Service的需求，工作机制如下图所示：

        实际上，Ingress相当于一个7层的负载均衡器，是kubernetes对反向代理的一个抽象，他的工作原理类似于Nginx，可以理解成在Ingress里建立诸多映射规则，Ingress Controller通过监听这些配置规则并转化成Nginx的配置，然后对外部提供服务。主要有两个核心概念：

  • ingress：kubernetes中的一个对象，作用是定义请求如何转发到service的规则。
  • ingress controller：具体实现反向代理及负载均衡的程序，对Ingress定义的规则进行解析，根据配置的规则来实现请求转发，实现方式有很多，比如Nginx，Contour，Haproxy等等。

Ingress（以Nginx为例）的工作原理如下：

  1. 用户编写Ingress规则，说明哪个域名对应kubernetes集群中的哪个Service
  2. Ingress控制器动态感知Ingress服务规则的变化，然后生成一段对应的Nginx配置
  3. Ingress控制器会将生成的Nginx配置写入到一个运行着Nginx的服务中，并动态更新
  4. 到此为止，其实真正在工作的就是Nginx了，内部配置了用户定义的请求转发规则

五、Ingress使用

1.环境准备 

搭建Ingress环境

#创建文件夹
mkdir ingress-controller
cd ingress-controller

#获取ingress-nginx，本次案例使用的是0.3版本
wget https://raw.githubusercontent.com/kubernetes/ingress-nginx/nginx-0.30.0/deploy/static/mandatory.yaml
wget https://raw.githubusercontent.com/kubernetes/ingress-nginx/nginx-0.30.0/deploy/static/provider/baremetal/service-nodeport.yaml

#修改mandatory.yaml文件中的仓库，可以不用修改

#创建ingress-nginx
kubectl apply -f ./

#查看ingress-nginx
kubectl get pod -n ingress-nginx

#查看service
kubectl get svc -n ingress-nginx

准备Service和Pod

为了方便实验，创建如下模型

创建tomcat-nginx.yaml

apiVersion: apps/v1  
kind: Deployment
metadata:           
  name: nginx-deployment
  namespace:  dev
spec:  
  replicas: 3
  selector: 
    matchLabels: 
      app: nginx-pod
  template:
    metadata:
      labels:
        app: nginx-pod
    spec:
      containers:
       - name: nginx
         image: nginx:1.17.1
         ports:
           - containerPort: 80
---
apiVersion: apps/v1  
kind: Deployment
metadata:           
  name: tomcat-deployment
  namespace:  dev
spec:  
  replicas: 3
  selector: 
    matchLabels: 
      app: tomcat-pod
  template:
    metadata:
      labels:
        app: tomcat-pod
    spec:
      containers:
       - name: tomcat
         image: tomcat:8.5-jre10-slim
         ports:
           - containerPort: 8080

---

apiVersion: v1  
kind: Service
metadata:           
  name: nginx-service
  namespace:  dev
spec:  
  selector: 
    app: nginx-pod
  clusterIP: None
  type: ClusterIP
  ports:
   - port: 80
     targetPort: 80

---
apiVersion: v1  
kind: Service
metadata:           
  name: tomcat-service
  namespace:  dev
spec:  
  selector: 
    app: tomcat-pod
  clusterIP: None
  type: ClusterIP
  ports:
   - port: 8080
     targetPort: 8080

 创建

kubectl create -f tomcat-nginx.yaml

2.Http代理

创建ingress-http.yaml

apiVersion: extensions/v1beta1  
kind: Ingress
metadata:           
  name: ingress-http
  namespace:  dev
spec:  
  rules:
   - host: nginx.ifun.com
     http:
      - path: /
        backend:
          serviceName: nginx-service
          servicePort: 80
   - host: tomcat.ifun.com
     http:
      - path: /
        backend:
          serviceName: tomcat-service
          servicePort: 8080
#创建
kubectl create -f ingress-http.yaml

#查看ingress信息
kubectl get ing ingress-http -n dev
kubectl describe ing ingress-http -n dev

#查看service信息对应端口信息
kubectl get svc -n ingress-nginx

修改hosts文件

masterIp nginx.ifun.com
masterIp tomcat.ifun.com

3.Https代理

生成证书

openssl req -x509 -sha256 -nodes -days 365 -newkey rsa:2048 -keyout tls.key -out tls.crt -subj */C=CN/ST=BJ/L=BJ/O=nginx/CN=ifun.com*

创建秘钥

kubectl create secret tls tls-secret --key tls.key --cert tls.crt

创建ingress-https.yaml

apiVersion: extensions/v1beta1  
kind: Ingress
metadata:           
  name: ingress-http
  namespace:  dev
spec:  
  tls:
    - hosts:
      - nginx.ifun.com
      - tomcat.ifun.com
      secretName: tls-secret # 指定秘钥
  rules:
   - host: nginx.ifun.com
     http:
      - path: /
        backend:
          serviceName: nginx-service
          servicePort: 80
   - host: tomcat.ifun.com
     http:
      - path: /
        backend:
          serviceName: tomcat-service
          servicePort: 8080

创建ingress

kubectl create -f ingress-https.yaml

查看端口

kubectl get svc -n ingress-nginx

傲傲娇
关注
专栏目录
Kubernetes Service 详解
wjianwei666的专栏
04-16 189
实现方式是在kube-proxy组件启动时,创建一个监听Service入口IP和端口的随机端口,发送到该端口的数据通过iptables DNAT规则重新发送到backend Pod。Service是Kubernetes提供的一种负载均衡和服务发现机制,通过定义一个逻辑服务,并将一组Pod资源映射到该服务上。Pod可以通过DNS查询Service的IP地址。当Pod运行在Node上时,kubelet会为每个活跃的Service添加一组环境变量,这些变量的值对应Service的IP地址。
Kubernetes——Service详解
wzpny的博客
05-17 1139
在kubernetes中，pod是应用程序的载体，我们可以通过pod的ip来访问应用程序，但是pod的ip地址不是固定的，这也就意味着不方便直接采用pod的ip对服务进行访问。为了解决这个问题，kubernetes提供了Service资源，Service会对提供同一个服务的多个pod进行聚合，并且提供一个统一的入口地址。通过访问Service的入口地址就能访问到后面的pod服务。Service在很多情况下只是一个概念，真正起作用的其实是。
kubernetes之service
-
12-27 312
1. service介绍 Kubernetes Service定义了这样一种抽象：逻辑上的一组Pod，一种可以访问它们的策略 —— 通常被称为微服务。这一组Pod能够被Service访问到，通常是通过selector实现的。 Service可以提供负载均衡的能力，但是使用上存在如下限制： 只能提供4层负载均衡能力，而没有7层功能。有时我们可能需要更多的匹配规则来转发请求，这点上4层负载均衡是不支持的 1.1 VIP和Service代理 在 Kubernetes 集群中，每个 Node 运行一个 kube
k8s之service
此后如竟没有炬火，我便是唯一的光。
12-27 368
k8s之service1. service介绍1.1 VIP和Service代理1.2 iptables 代理模式1.3 IPVS 代理模式2. Service服务类型2.1 ClusterIP类型2.2 NodePort类型2.3 LoadBalancer类型 1. service介绍 Kubernetes Service定义了这样一种抽象：逻辑上的一组Pod，一种可以访问它们的策略 —— 通常被称为微服务。这一组Pod能够被Service访问到，通常是通过selector实现的。 Service可以提供
k8s 中的 Service 简介
最新发布
sdgfafg_25的博客
09-14 1756
k8s 集群中的每一个 Pod 都有自己的 IP 地址，那么是不是有 IP 了，访问起来就简单了呢，其实不然。因为在 k8s 中 Pod 不是持久性的，摧毁重建将获得新的 IP，客户端通过会变更 IP 来访问显然不合理。另外 Pod 还经常会通过多个副本来实现负载均衡，客户端如何高效的访问哪个副本的问题也显现出来了。那么本文将要介绍的 Service 对象应运而生。如下关系图：当通过 API 创建/修改 Service对象时，
容器集群k8s从入门到精通之Service详解（第七章）
梦溪笔谈的博客
07-29 1594
第七章 Service详解 本章节主要介绍kubernetes的流量负载组件：Service和Ingress。 Service介绍 ​ 在kubernetes中，pod是应用程序的载体，我们可以通过pod的ip来访问应用程序，但是pod的ip地址不是固定的，这也就意味着不方便直接采用pod的ip对服务进行访问。 ​ 为了解决这个问题，kubernetes提供了Service资源，Service会对提供同一个服务的多个pod进行聚合，并且提供一个统一的入口地址。通过访问Service的入口地址就能
Services in Kubernetes
weixin_34166847的博客
06-10 112
概述 kubernetes中pods是平凡的，可创建可销毁而且不可再生。 ReplicationControllers可以动态的创建&销毁pods（如扩容 or 缩容 or 更新）。虽然pods有他们单独的ip，但是他们的ip并不能得到稳定的保证，这将会导致一个问题，如果在kubernetes集群中，有一些pods（backen...
Kubernetes之Service详解
爱情码头的博客
03-18 2882
Kubernetes之Service详解 文章目录Kubernetes之Service详解前言一、Service 概念二、Service 流量策略2.1 外部流量策略2.1 内部流量策略三、Service 使用3.1 一般用法3.1.1 Cluster IP模式3.1.2 NodePort模式3.2 多端口 Service3.3 外部服务 Service3.3.1 Service绑定负载均衡3.3.2 Service转发流量至外部服务总结 前言 在kubernetes集群中每个Pod都有自己的 IP 地址
七、kubernetes Service详解.pdf
07-22
Kubernetes Service是一个核心组件，它定义了访问一组Pod的策略，这些Pod提供了相同的应用功能。Service 为这些Pod提供了一个稳定的网络接口，让客户端可以通过这个接口访问到这些Pod。在Kubernetes中，Pod的IP地址...
Kubernetes Service详解：流量聚合与节点部署机制
在Kubernetes（k8s）中，Service是核心的概念之一，用于解决分布式应用的流量管理和访问控制问题。Service是对一组Pod的抽象，即使Pod的IP地址不固定，Service也能提供一个稳定的、集群内部可达的访问入口。它解决了...
kubernetes之service详解
馆主的博客
12-03 843
在前面的课程中，我们已经可以实现通过手工执行kubectl scale命令实现Pod扩容或缩容，但是这显然不符合Kubernetes的定位目标–自动化、智能化。 Kubernetes期望可以实现通过监测Pod的使用情况，实现pod数量的自动调整，于是就产生了Horizontal Pod Autoscaler（HPA）这种控制器。 HPA可以获取每个Pod利用率，然后和HPA中定义的指标进行对比，同时计算出需要伸缩的具体值，最后实现Pod的数量的调整。
Kubernetes Service服务
杨仕虎的博客
09-01 332
最简单的已经通过yaml文件把容器跑起来了，这个时候就是网络通讯的问题了 K8s是基于扁平化的网络，也就是所有的Pod和node节点都是互通的 docker run 是基于-p 作为映射端口，而yaml文件里写的ports并不是这个功能，前面也说了扁平化，说明这个参数并没有用，只是为了方便Pod中查看而已 Pod也有一个单独IP地址的 IT产品的解决方案通常都是加一层，那么这层就是K8s的Service服务 哪些场景需要Service服务？ 集群外部需要访问到Pod应用 集群内部Pod与Pod之间
kubernetes-Service详解
GC
07-05 375
在kubernetes中，pod是应用程序的载体，我们可以通过pod的ip来访问应用程序，但是pod的ip地址不是固定的，这也就意味着不方便直接采用pod的ip对服务进行访问。为了解决这个问题，kubernetes提供了Service资源，Service会对提供同一个服务的多个pod进行聚合，并且提供一个统一的入口地址。通过访问Service的入口地址就能访问到后面的pod服务。 Service在很多情况下只是一个概念，真正起作用的其实是kube-proxy服务进程，每个Node节点上都运行着一个kube
【云原生】kubernetes深入理解之Service
康师傅没有眼泪
12-03 1241
Service引入主要是解决Pod的动态变化，提供统一访问入口。Kubernetes Service定义了这样一种抽象： Service是一种可以访问 Pod逻辑分组的策略， Service通常是通过 Label Selector访问 Pod组。 Service能够提供负载均衡的能力，但是在使用上有以下限制：只提供 4 层负载均衡能力，而没有 7 层功能，但有时我们可能需要更多的匹配规则来转发请求，这点上 4 层负载均衡是不支持的。
kubernetes中Service详解（图解）
newbei5862的博客
03-22 861
目录 容器及Pod间通信 Kube-proxy DNS服务发现机制 Kubernetes服务 第一部分：容器及Pod间通信 Kubernets网络模型设计的一个基础原则是：每个Pod都拥有一个独立的IP地址，而且假定所有的Pod都在一个可以之间联通的，扁平的网络空间里，所以不管是否运行在同一个Node中，都要求他们可以直接通过对方的IP进行访问。设计这个原则的原因是用户不需要额外考虑如何建立Pod...
kubernetes Service详解
哭的博客
12-03 537
在kubernetes中，pod是应用程序的载体，我们可以通过pod的ip来访问应用程序，但是pod的ip地址不是固定的，这也就意味着不方便直接采用pod的ip对服务进行访问。 为了解决这个问题，kubernetes提供了Service资源，Service会对提供同一个服务的多个pod进行聚合，并且提供一个统一的入口地址。通过访问Service的入口地址就能访问到后面的pod服务。 Service在很多情况下只是一个概念，真正起作用的其实是kube-proxy服务进程，每个Node节点上都运行着一个kub
Kubernetes第4天
qq_37607070的博客
05-23 444
第六章 Pod控制器详解 本章节主要介绍各种Pod控制器的详细使用。 Pod控制器介绍 Pod是kubernetes的最小管理单元，在kubernetes中，按照pod的创建方式可以将其分为两类： 自主式pod：kubernetes直接创建出来的Pod，这种pod删除后就没有了，也不会重建 控制器创建的pod：kubernetes通过控制器创建的pod，这种pod删除了之后还会自动重建 什么是Pod控制器 ​ Pod控制器是管理pod的中间层，使用Pod控制器之后，只需要告诉Pod控制器
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值