卷积神经网络CNN的经典模型

置顶 已于 2023-04-12 12:42:01 修改
阅读量5.5k 收藏 103
点赞数 6
分类专栏： 深度学习 文章标签： cnn 深度学习 神经网络 人工智能
于 2023-01-06 22:36:00 首次发布
版权声明：本文为博主原创文章，未经作者允许不得转载，且不得用于商业目的，否则将追究法律责任。
本文链接：https://blog.csdn.net/shinuone/article/details/128579365
版权

文章目录

（一）图像分类的发展历程

ILSVRC是一项基于 ImageNet 数据库的国际大规模视觉识别挑战赛（ImageNet Large Scale Visual Recognition Challenge，ILSVRC）

（1）1958年，Rosenblatt发明了感知机。用于对输入的多维数据进行二分类且能够使用梯度下降法自动更新权值。缺点：只能处理线性分类问题。

（2）1986年，Geoffrey Hinton发明了多层感知机（multi-layer perceptron，MLP）的反向传播（back propagation，BP）算法，并使用 sigmoid 函数进行非线性映射，有效解决了非线性分类问题。被称为" 深度学习之父 "。缺点：存在梯度消失问题。

序号年份提出者模型网络层数特点用途
11998LeCunLeNet-58层定义了CNN最基本架构：卷积层、池化层、全连接层。解决手写数字识别的视觉任务
22012AlexAlexNet-88层提出训练深度网络的重要方法：Dropout、ReLU、GPU（硬件支持）、数据增强等。ImageNet竞赛：以超过第二名10.9%的绝对优势夺冠（83.6%）
32014牛津大学VGG（Visual Geometry Group）VGGNet-16/1916/19层采用 1x1 和 3x3 的卷积核以及 2x2 的最大池化，使得层数变得更深。ImageNet竞赛：定位任务的第一名、分类任务的第二名（92.7%）
42014Google 团队GoogleNet（Inception-v1234）22层（1）引入了Inception模块；（2）采用全局平均池化替换所有的全连接层。在这里插入图片描述ImageNet竞赛：分类任务的第一名（93.3%）
52015何恺明ResNet-152152层引入了ResNet残差模块，通过高速网络的跨层连接让神经网络变得非常深。在这里插入图片描述ISLVRC和COCO竞赛：横扫所有选手，获得冠军（96.43%）。CVPR2016最佳论文奖
62017Gao HuangDenseNet-121/169/201/264121/169/201/264层引入了Dense Block模块，即每层都会接受其前面所有层作为额外的输入。在这里插入图片描述CVPR2017最佳论文奖
72017/2018/2019谷歌MobileNet（V1/V2/V3）224层V1引入了深度可分离卷积。在准确率小幅度降低的代价下大幅度减少参数量。在这里插入图片描述轻量级、移动端网络模型

（二）模型框架

（2.1）LeNet-5

论文地址：Gradient-Based Learning Applied to Document Recognition

在这里插入图片描述
模型结构：LeNet-5共8层网络：1个输入层、2个卷积层、2个池化层、3个全连接层。 实际只有五层：去掉1个输入层和2个池化层。

  • 卷积层：所有卷积层的kernel=5x5，stride=1。
  • 池化层：采用平均池化kernel=2x2，stride=2。
    （3）在每个卷积层 + 池化层的后面会跟一个Sigmod激活函数，而现在多用ReLU。
  • 全连接层：C5/C6/OUTPUT的节点分别为120/84/10。对应的权重参数（与连接数相同）分别为：(5x5x16+1)x120 = 48120、(120 + 1)x84=10164、84x10=840。
  • 备注1：LeNet卷积神经网络，共约有60,840个训练参数，340,908个连接。
  • 备注2：LeNet 会随着网络的加深，宽度逐渐降低，通道逐渐增多。
    CNN卷积神经网络 LeNet-5详解

（2.2）AlexNet-8

论文地址：ImageNet Classification with Deep Convolutional Neural Networks

在这里插入图片描述
在这里插入图片描述
模型结构：5个卷积层 + 2个全连接层（隐藏） + 1层全连接层（输出）

  • 卷积层：
    第一个卷积层（kernel=11x11、stride=4、Padding=0）；
    第二个卷积层（kernel=5x5、stride=1、Padding=2）；
    其余的卷积核（kernel=3x3、stride=1、Padding=1）。
  • 池化层：第一个， 第二个， 第五个卷积层的后面分别使用一个最大池化层（kernel=3x3，stride=2）。
  • 全连接层：
    全连接层1（隐藏）：神经元个数输出为4096；
    全连接层2（隐藏）：神经元个数输出为4096；
    全连接层3（输出）：神经元个数输出为1000（分类）。
  • 激活函数：每个卷积层后面跟一个激活函数ReLU（替换Sigmod）。
  • 过拟合：使用Dropout、图像增强来防止过拟合。

（2.3）VGGNet-16/19

论文地址：Very Deep Convolutional Networks for Large-Scale Image Recognition

在这里插入图片描述
在这里插入图片描述

（2.4）GoogleNet-22（Inception：V1-V2-V3-V4）

论文地址：Going deeper with convolutions
github链接

2.4.1、InceptionV1

GoogLeNet网络的基础模块：Inception模块。
在这里插入图片描述
在每个Inception模块中，包含4条并行线路：

  • （1）前3条线：分别使用1x1、3x3、5x5的卷积层，抽取不通空间尺度下的特征信息；
  • （2）第二条和第三条线：先使用了1x1的卷积层，减少输入通道数，以降低模型复杂度。
  • （3）最后一条线：使用3x3的最大池化层 + 1x1的卷积层来改变通道数。
    备注：4条线都使用合适的填充Padding来保证输入和输出的高宽一致。

结构图（横向）：在这里插入图片描述
结构图（纵向）：
在这里插入图片描述

（2.5）ResNet-152

论文地址：Deep Residual Learning for Image Recognition
github链接

经典语句：再差不会比原来差（恒等映射）。

  • （1）图像是比较复杂的数据，只有足够深的网络层次才能提取充分信息。
  • （2）激活函数的输入来自于神经网络一层层计算的输出结果。但是随着网络层的不断加深，误差并不会越来越小，容易出现梯度不稳定（如：梯度爆炸、梯度消失）。

残差块的目的：通过一种高速通道的连接方式，让输出结果同时参考输入结果x，解决梯度的不稳定性。

残差模块：
在这里插入图片描述 在这里插入图片描述

模型架构：
在这里插入图片描述

（2.6）DenseNet-264

论文地址：Densely Connected Convolutional Networks
github链接（附有详细教程）

Dense Block模块：每层都会接受其前面所有层作为额外的输入
在这里插入图片描述

DenseNet的密集连接方式需要特征图大小保持一致。为了解决这个问题，DenseNet网络模型使用 DenseBlock + Transition Layers 结构。
在这里插入图片描述

  • Dense Block：包含很多层的模块，每个层的特征图大小相同，层与层之间采用密集连接方式：BN + ReLU + Conv(3x3) + Dropout(0.2) 。
  • （1）与ResNet十分相似，主要区别在于feature map融合的方式不同。
    • ResNet将前一个模块的输出，直接加到模块的输出上
    • DenseNet将前一个模块的输出，直接在通道上进行叠加。
  • （2）与ResNet不同，所有Dense Block中各个层卷积均采用 k 个卷积核，所有每个卷积层输出的feature map的channel都为k。k在DenseNet称为growth rate，这是一个超参数。一般情况下使用较小的 k（论文里k=32），就可以得到较佳的性能。
  • 过渡层：连接两个相邻的DenseBlock，并进行1x1卷积和2x2 平均池化，降低特征图大小。
    即使k设的很小，但由于特征重用（通道叠加），后面层的输入仍会非常大，故需要降低模型的复杂度。【论文复现】DenseNet

模型架构：在这里插入图片描述

  • 输入分辨率为224x224，使用SGD训练
  • DenseNet：设置4个Dense block模块，每个block的层数相同。在第一个block的前面，放置一个7x7卷积和3x3最大池化。在最后一个block后面接global平均池化，全连接，softmax。
  • （1）每个block：使用3x3卷积，1x1卷积，zero-padding。
  • （2）两个block之间：使用1x1卷积、2x2平均池化作为过渡层（transition layers）。

优缺点

  • 优点：（1）网络结构参数看起来很多，但实际上参数更少，提高了训练效率。（2）特征重用增强了特征在各个层之间的流动，因为每一层都与初始输入层还有最后的由loss function得到的梯度直接相连。（3）进行反向传播的时候，减轻了梯度弥散的问题，使模型不容易过拟合。（4）由于每层可以直达最后的误差信号，误差信号可以很容易地传播到较早的层，所以较早的层可以从最终分类层实现隐式的deep supervision。
  • 缺点：（1）由于需要进行多次Concatnate操作，数据需要被复制多次，显存容易增加得很快，需要一定的显存优化技术。（2）DenseNet是一种特殊网络，而ResNet相对一般化些，因此ResNet的应用范围更广泛。

（2.7）MobileNet（V1-V2-V3）

论文地址（V1）：MobileNets: Efficient Convolutional Neural Networks for Mobile Vision Applications
论文地址（V2）：MobileNetV2: Inverted Residuals and Linear Bottlenecks
论文地址（V3）：Searching for MobileNetV3

MobileNet网络专注于移动端或者嵌入式设备中的轻量级CNN，相比于传统卷积神经网络，在准确率小幅度降低的前提下大大减少模型参数与运算量。

MobileNet可以在移动终端实现众多的应用，包括目标检测，目标分类，人脸属性识别和人脸识别等。在这里插入图片描述

2.7.1、MobileNetV1（深度可分离卷积）

模型架构：
在这里插入图片描述

  • 除第一层是普通卷积层，其余都是深度可分离卷积层。
  • 除最后的全连接层没有ReLU层，其余每个网络层后都有BN层和ReLU非线性激活层。
  • 在全连接层前，使用全局池化将张量的尺寸变为1×1。在全连接层后，使用softmax层进行分类。
  • 下采样通过带步长的卷积层来实现。
  • 采用RMSprop优化器。
  • 不使用正则化和数据增广。由于MobileNet为轻量级网络，且小网络通常不会过拟合。

MobileNetV1：提出使用深度可分离卷积替代普通卷积来减少模型参数。由两部分组成：深度卷积（Depthwise convolution，DW）和点卷积（Pointwise Convolution，PW）

（1）深度卷积与传统卷积的区别MobileNet网络详解

  • 在传统卷积中，每个卷积核的channel与输入特征矩阵的channel相等（每个卷积核都会与输入特征矩阵的每一个维度进行卷积运算），输出特征矩阵channel等于卷积核的个数。
  • 在DW卷积中，每个卷积核的channel都是等于1的（每个卷积核只负责输入特征矩阵的一个channel，卷积核的个数=输入特征矩阵的channel数=输出特征矩阵的channel数）

在这里插入图片描述

（2）深度可分离卷积=深度卷积+点卷积：PW卷积是大小为1×1的普通的卷积，主要用于改变输出特征矩阵的channel。在这里插入图片描述

（3）参数计算比较在这里插入图片描述
（4）深度可分离卷积与传统卷积的区别在这里插入图片描述

MobileNetV2在MobileNetV1的基础上，提出了2点创新：
（1）使用linear bottleneck捕获manifold of interest
（2）逆残差模块；

MobileNetV3的3个特点：
（1）MobileNetV3的网络结构是NAS搜索出来的；
（2）在bottleneck结构中引入了轻量级注意力模块；
（3）使用swish激活函数而不是relu；

（三）应用领域

人工智能（Artificial Intelligence，AI）主要分为三个部分：机器学习ML、深度学习DL、强化学习RL。

（1）机器学习算法包括：逻辑回归、支持向量机SVM、决策树、随机森林和神经网络等等。深度学习是神经网络中的一种。强化学习是机器学习中的一种。
（2）机器学习可分为三大类：有监督学习（supervised learning）、无监督学习（unsupervised learning）和强化学习。
（3）深度强化学习是深度学习和强化学习的结合。

11、有监督学习四个典型应用：图像分类、目标检测、人脸识别、语音识别。

22、无监督学习最常使用的场景：聚类和降维。常见的简单的无监督学习算法总结

  • 聚类：k-均值聚类(k-means clustering)、层次聚类(Hierarchical Clustering)、基于密度聚类Mean Shift、基于密度聚类DBSCAN、高斯混合模型(GMM)与EM、基于图论聚类。
  • 降维：主成分分析(PCA)、独立成分分析(ICA)、奇异值分解(SVD)、t-分布领域嵌入式算法(t-SNE)

33、强化学习分为两大类：无模型（Model-Free）、有模型（Model-based）。

强化学习的算法分类
在这里插入图片描述

参考文献

1.ImageNet大规模视觉识别挑战（ImageNet Large Scale Visual Recognition Challenge，ILSVRC）
2.CNN卷积神经网络 LeNet-5详解
3.卷积神经网络超详细介绍
4.卷积神经网络模型
5.卷积神经网络经典模型及其改进点学习汇总
6.卷积神经网络CNN（Convolutional Neural Network）

胖墩会武术
关注
专栏目录
详解卷积神经网络(CNN)
qq_25762497的博客
04-04 25万+
卷积神经网络（Convolutional Neural Network, CNN）是一种前馈神经网络，它的人工神经元可以响应一部分覆盖范围内的周围单元，对于大型图像处理有出色表现。
卷积神经网络模型
Kevin_Carpricron的博客
04-09 1万+
卷积神经网络模型 卷积神经网络（LeNet) 模型结构：卷积层块， 全链接层块 卷积层块：2个卷积层 + 最大池化层 的结构组成。 由于LeNet是较早的CNN， 在每个卷积层 + 池化层后多会跟一个sigmod层 来修正输出结果。 而现在用的较多的是Relu。 全连接层块：输入为二维向量。 单卷积层块的输出传入全连接层的时候会对小批量对每个样本进行扁平化（flatten） LeNet 会随着网络的加深，宽度逐渐降低，通道逐渐增多。 深度卷积神经网络（AlexNet） 模型结构：5层卷积 + 2层全
Deep Learning（深度学习）学习笔记整理系列之（七）
热门推荐
zouxy09的专栏
04-10 67万+
Deep Learning（深度学习）学习笔记整理系列 zouxy09@qq.com http://blog.csdn.net/zouxy09 作者：Zouxy version 1.0 2013-04-08 声明： 1）该Deep Learning的学习系列是整理自网上很大牛和机器学习专家所无私奉献的资料的。具体引用的资料请看参考文献。具体的版本声明也参考原文献。 2）本文仅供学
大模型 | 讲透一个强大的算法模型，CNN！！
老皮的博客
09-06 1188
AI大模型作为人工智能领域的重要技术突破，正成为推动各行各业创新和转型的关键力量。抓住AI大模型的风口，掌握AI大模型的知识和技能将变得越来越重要。学习AI大模型是一个系统的过程，需要从基础开始，逐步深入到更高级的技术。这里给大家精心整理了一份全面的AI大模型学习资源，包括：AI大模型全套学习路线图（从入门到实战）、精品AI大模型学习书籍手册、视频教程、实战学习、面试题等，资料免费分享！
【机器学习】卷积神经网络（CNN）
最新发布
fzy2003的博客
09-10 3962
卷积神经网络（CNN）是一种深度学习模型，通过多层结构实现图像识别等任务。CNN包括输入层、卷积层、池化层、全连接层和输出层。输入层接收原始数据，卷积层通过滑动卷积核提取图像特征，池化层进一步压缩特征图，减少过拟合并提高模型对平移等变换的鲁棒性。全连接层将提取的特征展开并进行分类或回归任务，输出层通过Softmax函数生成概率分布，完成最终预测。CNN广泛用于图像处理、手写数字识别等领域，具有很强的特征提取能力。
深度学习之卷积神经网络
姚蔚敏的博客
11-26 6472
一：卷积神经网络结构 左图：全连接神经网络（平面），组成：输入层、激活函数、全连接层 右图：卷积神经网络（立体），组成：输入层、卷积层、激活函数、池化层、全连接层 在卷积神经网络中有一个重要的概念：深度 卷积：在原始的输入上进行特征的提取。特征提取简言之就是，在原始输入上一个小区域一个小区域进行特征的提取，稍后细致讲解卷积的计算过程。 二：卷积神经网络组成 卷积神经网络组成: [INPU...
深度学习方法（五）：卷积神经网络CNN经典模型整理Lenet，Alexnet，Googlenet，VGG，Deep Residual Learning...
weixin_30826761的博客
01-02 3383
欢迎转载，转载请注明：本文出自Bin的专栏blog.csdn.net/xbinworld。 技术交流QQ群：433250724，欢迎对算法、技术感兴趣的同学加入。 关于卷积神经网络CNN，网络和文献中有非常多的资料，我在工作/研究中也用了好一段时间各种常见的model了，就想着简单整理一下，以备查阅之需。如果读者是初接触CNN，建议可以先看一看“Deep Learning（...
Deep Learning模型之：CNN卷积神经网络（一）深度解析CNN
u010555688的专栏
04-25 8万+
1. 概述         回想一下BP神经网络。BP网络每一层节点是一个线性的一维排列状态，层与层的网络节点之间是全连接的。这样设想一下，如果BP网络中层与层之间的节点连接不再是全连接，而是局部连接的。这样，就是一种最简单的一维卷积网络。如果我们把上述这个思路扩展到二维，这就是我们在大多数参考资料上看到的卷积神经网络。具体参看下图：
卷积神经网络CNN经典模型整理Lenet，Alexnet，Googlenet，VGG，Deep Residual Learning,squeezenet
ytusdc的博客
09-25 885
关于卷积神经网络CNN，网络和文献中有非常多的资料，我在工作/研究中也用了好一段时间各种常见的model了，就想着简单整理一下，以备查阅之需。如果读者是初接触CNN，建议可以先看一看“Deep Learning（深度学习）学习笔记整理系列”中关于CNN的介绍[1]，是介绍我们常说的Lenet为例，相信会对初学者有帮助。 Lenet，1986年Alexnet，2012年GoogleNet，20
深度学习04-CNN经典模型
liaomin416100569的专栏
05-16 9075
卷积神经网络（CNN）是深度学习中非常重要的一种网络结构，它可以处理图像、文本、语音等各种类型的数据。以下是CNN的前4个经典模型LeNet-5是由Yann LeCun等人于1998年提出的，是第一个成功应用于手写数字识别的卷积神经网络。它由7层神经网络组成，包括2层卷积层、2层池化层和3层全连接层。其中，卷积层提取图像特征，池化层降低特征图的维度，全连接层将特征映射到对应的类别上。LeNet-5的主要特点是使用Sigmoid激活函数、平均池化和卷积层后没有使用零填充。
卷积神经网络CNN 常用模型
IT__learning的博客
07-13 1万+
一、CNN 简介 CNN的精华是：三概念两核心，这里做个简要的概要性介绍。 1、CNN 两核心——卷积和池化 （1）卷积 主要起到作用是抽取特征，使网络具有一定转移不变性，也有一定降维的作用。概述：设定一个n行m列的卷积窗口，采用的relu（elu，leakyrelu）做为激活函数函数，对输入X进行卷积操作。 注意：卷积可能单通道或者多通道卷积；积操作时分为 padding 和非 padding 两种方式，padding 也分为很多方式，比如zero-padding，mean-padding等；对同一个输
【项目实战】Python基于卷积神经网络CNN模型和VGG16模型进行图片识别项目实战
02-14
在这个【项目实战】中，我们将深入探讨如何使用Python编程语言结合卷积神经网络（CNN）和VGG16模型进行图像识别。这是一个典型的深度学习应用，涵盖了从数据获取到模型训练和评估的完整流程。 首先，我们要理解项目...
卷积神经网络CNN以及几种经典模型
01-07
卷积神经网络是由一个或多个卷积层和顶端的全连通层（也可以使用1×1的卷积层作为最终的输出）组成的一种前馈神经网络 基本概念 局部感受野(Local Receptive Fields) 一般的神经网络往往会把图像的每一个像素点连接...
卷积神经网络CNN
06-12
卷积神经网络（Convolutional Neural Network，简称CNN）是深度学习领域中一种重要的神经网络模型，主要用于图像处理和计算机视觉任务。CNN以其独特的结构设计，有效地捕获了图像数据中的空间局部特征，并能进行层次...
实验六卷积神经网络CNN框架的实现与应用.pdf
09-26
实验六卷积神经网络CNN框架的实现与应用 本实验主要目的是掌握卷积神经网络（CNN）的基本原理，并利用 LeNet-5 CNN 框架实现手写数字识别。实验中，我们使用了 MNIST 数据集，初始图像大小为 28*28，并采用了多个卷...
用MATLAB实现卷积神经网络CNN，并对图像进行特征提取_cnn图像处理matlab,cnn特征提取matalb
05-26
用MATLAB实现卷积神经网络，并对图像进行特征提取 文件列表： CNN CNN\cnnapplygrads.m CNN\cnnbp.m CNN\cnnff.m CNN\cnnnumgradcheck.m CNN\cnnsetup.m CNN\cnntest.m CNN\cnntrain.m CNN\expand.m CNN\...
图文—神经网络组成（卷积层、池化层、全链接层、激活函数）与发展史（LeNet、AlexNet、VGG、ResNet、GAN）
Mr_DaYang的博客
09-16 6147
目录单个神经元的构成卷积网的发展史2018—GAN 生成式对抗网络深度卷积生成对抗网络 单个神经元的构成 一个神经元接收多方输入的特征值，然后分别对特征值进行相应的加权求和，以及加上偏置量，最后通过非线性函数变换得到输出结果。多个简单的神经元之间相互连接就组成了一套完整的神经网络系统。 由于输入的特征包含许多干扰因素，所以我们将低维空间映射到高维空间，将线性不可变的部分变成线性可分即激活函数的方式降低干扰因素。为了降低无关因素所对应的权值和增大具有差异性特征的权值，我们根据输出结果计算误差，反向修改各个
CNN学习笔记（二）：经典模型
weixin_45728705的博客
02-26 873
本篇博客用于记载CNN发展中的一些典型模型 经典模型 1. LeNet-5 任务：手写数字识别 激活函数：tanh和sigmoid 2. AlexNet 激活函数：ReLu 已舍弃部分： GPU发展还不够，所以每层都用了多个GPU进行联动 特殊层：局部相应归一层（LRN）—对 3. VGG ResNet（残差神经网络） Inception ...
CNN模型
zakexu的专栏
07-22 8787
（一）简介 1.卷积神经网络（Convolutional Neural Network,CNN）是一种处理大型图像的深度神经网络模型，主要由卷积层以及下采样层组成； 2.卷积层的理论依据主要是生物学上的感受野概念，通俗点讲就是权值共享，这样可以大大减少神经网络需要训练的参数； 3.下采样，也有人叫pooling，其实就是对图像进行子采样，利用图像局部相关性的原理，在减少数据量的同时又保留有用
cnn卷积神经网络发展史
09-09
卷积神经网络（Convolutional Neural Networks，CNN）是一种深度学模型，广泛应用于图像处理和计算机视觉任务。下面是CNN发展的主要里程碑： 1. 1989年，Yann LeCun等人提出了LeNet-5模型，被认为是第一个真正的卷积神经网络，用于手写数字识别。 2. 2012年，AlexNet模型在ImageNet图像分类挑战赛中取得了突破性成果。AlexNet采用了多个卷积层和池化层，并且使用了ReLU激活函数。 3. 2014年，VGGNet模型提出。VGGNet通过增加更多的卷积层和池化层，使网络更加深层。 4. 2015年，GoogLeNet（Inception）模型提出。GoogLeNet引入了Inception模块，通过并行多个不同尺寸的卷积核和池化操作，提高了网络的效果。 5. 同年，ResNet模型提出。ResNet通过引入残差块（Residual Block），解决了深层网络训练中的梯度消失问题，并实现了更深的网络。 6. 2017年，DenseNet模型提出。DenseNet采用密集连接的方式，每个层的输出都与前面所有层的输出连接在一起，增强了特征的传递和重用。 这些模型的提出推动了CNN的发展，并在图像分类、目标检测、语义分割等领域取得了显著的成果。随着技术的发展，CNN也在不断演进和改进，为解决更复杂的任务提供了强大的工具。
评论 1
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

胖墩会武术

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值