开始训练GAN

最新推荐文章于 2023-05-25 10:44:22 发布
最新推荐文章于 2023-05-25 10:44:22 发布
阅读量832 收藏 5
点赞数
分类专栏： 论文 深度学习 gan
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/yywxl/article/details/106838567
版权
深度学习 同时被 3 个专栏收录
16 篇文章 1 订阅
订阅专栏
论文
13 篇文章 0 订阅
订阅专栏
gan
1 篇文章 0 订阅
订阅专栏

好像针对实际问题没有训练出一个好的网络，菜的扣脚, 这次从cycleGAN开始训练GAN的网络

文章目录

Unpaired Image-to-Image Translation using Cycle-Consistent Adversarial Networks

In this paper, we present a method that can learn to do the same: capturing special characteristics of one image collection and figuring out how these characteristics could be translated into the other image collection, all in the absence of any paired training examples

  • cycle consistency
    G : X − Y G: X-Y G:X−Y
    F : Y − X F: Y-X F:Y−X
    如果是unpaired 的数据呢？用什么来约束？只是用GAN的loss，训练很难
    使用cycle consistency loss
    F ( G ( x ) ) ≈ x ∥ G ( F ( y ) ) ≈ y F(G(x))\approx x \parallel G(F(y))\approx y F(G(x))≈x∥G(F(y))≈y
    2

we also tried replacing the L1 norm in this loss with an adversarial loss between F (G(x)) and x, and between G(F (y)) and y, but did not observe improved performance.

  • Full Objective
    3
    λ = 10 \lambda=10 λ=10
    如果像约束颜色还需要加入 Identity Loss 0.5*lambda

NiceGAN

No-IndependentComponent-for-Encoding GAN (NICE-GAN)
1

  • abstract
    开篇就提到现在的框架再训练完后会丢弃掉D， 而文章提出了一个新的方法，复用（reusing）D编码目标域（target domain）的图像—NICE-GAN，相较于以前的方案，有两点优势：
  1. 这样不需要独立的编码（encoding）组件或者说编码组件被同时运用在D和G，使得模型更紧凑(compact)
  2. 编码的插件是直接使用对抗损失训练的，这样信息更有效利用，训练也更有效，如果使用多尺度的判别器
    ? 这里的训练过程还是有疑问，D训练的时候更新Encoding吗？
    摘要中提到了这个问题，耦合Encoding 的D 使得他在GAN Loss min-max 的不一致，所以Encoding 直在最大化GAN Loss 时训练，训练D 的时候是固定的（frozen）
    这里还是有疑问，文章反复说the encoder is directly trained through the discriminative
    loss     ，但是训练D 的时候不是frozen 这部分吗？有点矛盾啊？与其说encoding 复用了D 的编码部分，不如说D 复用了Encoding 部分？存疑，文章后面有解释这个问题
    ？什么叫多尺度的判别器（mutil-scale discriminator）
    后面也有解释

文章还说NICE-GAN 在FID KID 和 human preference 都达到了 SOTA

  • 看下他这几个评价指标
  • 现有translation framework 主要的组成部分

consist of three components for each domain: an encoder to embed the input image to a low-dimension hidden space, a generator to translate hidden vectors to images of the other domain, and a discriminator for domain alignment by using GAN training

  1. Encoder
  2. Generator
  3. Discriminator
  • motivation
    作者思考了这些组件，他们的作用，他们之间的关系，以及是否有可能改变这些组件构建一个更鲁棒的框架？
    作者从Encoding 和 Discriminator 之间的关系入手， Discriminator 区分源域(source domain)的转换图像和目标域(target domain) 真实图像 。所以D 做的就是在判别图像true or false 之前对图像进行语义编码。 因此D 扮演了两个角色，对图像进行编码和分类（encoding and classifying）
    文章基于此出发，复用D 的Encoding 部分作为图像生成的Encoding
  • Encoding training
    传统的方法，encoder 最小化GAN Loss，discriminator 最大化目标函数
    NICE-GAN Encoder 训练仅仅和discriminator 相关而独立于generator，这样也可以将Encoding 和generator 的translation 解耦，Encoder 变得更通用
  • related work

The first kind of development is to enable multimodal generations: MUNIT [12] and DRIT [21] decompose the latent space of images into a domain-invariant content space and a domain-specific style space to get diverse outputs

多峰生成器，将图像分解为域不变的内容空间和特定于域的样式空间，得到不同的输出

Another enhancement of CycleGAN is to perform translation across multiple (more than two) domains simultaneously, such as StarGAN [5]

  • General Formulation
    problem definition
    上面对于supervised 问题由联合概率求解条件概率可以得到唯一解，然而对于unsupervised 问题，由边缘分布求解条件概率可以由无数个解，这是一个病态的问题。需要添加额外的约束，权值耦合，循环一致和恒等映射
    NICE-GAN 这个结构将D 分为E_{y}^{D} 和C_{y},这样的想法有道理的，但是使得训练更困难了。。。。
    文章说后续会阐述这个问题
  • Architecture
    2
  • 以上框架好像只能在cycleGAN这种循环结构中使用，因为G_x-y 需要用到D_x 的部分Encoder，而单一的GAN 生成器只有D_y
  • Multi-Scale Discriminators
  1. 多尺度的D
    MSD
  2. Residual attention mechanism [U-GAT-IT]
    UGATIP
    RA
    UGATIT
    UGATIT
    关于UGATIT,我还没有看，看这个链接可以了解他的做法
    CAM
  • Decoupled Training
  1. adversarial loss
    least-square adversarial loss
    1
    E_x 在训练D_x 时更新，E_y 在训练D_y 时更新，其他时候即训练G 的时候不更新E, 解耦了E 和G 的训练
  2. identity reconstruction loss
    3
  3. cycle-consistency loss
    2
    4
    1，10，10

？ 关于马to斑马
马to斑马的纹理是怎么出来的，输入马的分布被映射为斑马的一种分布，相当于还是一一对应，而不是我想的随机生成斑马分布，这样每次推断就不一样了23333

  • 训练配置
    训练配置
  • ablation study
    3
  1. NICE 的latent space可以编码两个域类内更聚集，类间更靠近
  2. 使用哪一层作为hinder？实验证明whole default encoder
  3. 好像Multi-scale Discriminator 这个策略才是最关键的步骤，而且C^1 和C^2 缺一不可啊
  4. Decoupled training analysis—更稳定了

features learned by a discriminatively trained network tend to be more expressive than those learned by an encoder network trained via maximum likelihood, and thus better suited for inference

6

  • ？Q
  1. NICE 训练过程使得两个分布的latent vector 更聚集和接近，但是仍旧可分
    latent vector 更聚集说明了什么？两个分布编码更接近又代表了什么？
    第一个问题和共享latent space 有联系吗？
    第二个问题文章给了解释By shortening the transition path between domains in the latent space, 缩短了需要变换域（domain）之间的距离（难度）
  • AdaLIN
    AdaLIN (Adaptive Layer-Instance Normalization) 是?
    UGATIT中的图，NICEGAN 将clip 改为softmax
    1

看了一遍论文，这边论文写的很好，看了一遍觉得很多地方说的很有道理，但是还不是很懂，需要在斟酌以下，从行文分析和指标来看，文章很有信息，但是看完SP的生成图对比来看可能NICE-GAN 的提升并不是想象的那么好，就背景来说CycleGAN 好像对背景的保留更有效
看代码吧，试一试再来评价
从车窗反射去除的训练来看，这种NICE + Attention 有好处也有坏处，如果Encoder 和attention提取的特征足够好，那么恢复出来的图像会变好，如果没有提取出来，那么某一部分的特征就抑制/丢失了，一片黑，不知道该怎么调。。。

DUNIT: Detection-based Unsupervised Image-to-Image Translation

我们做车窗增强的目的就是去除伪彩反射，但是最终应用是人脸识别，所以想要保持/恢复/提高人脸部分的细节可能有两个方向：1. 改善cycleGAN的pipeline，对整体细节保留/恢复的更好，但是artifacts 可能会随之而来，2. 局部（人脸部分）改善，要么重新训练一个人脸增强的模型(可能会导致融合后图像风格不一致)，要么加到整体训练框架中，使得网络对人脸进行一个attention
看一下这篇文章能否给出一个合理的答案

  • Abstract
    I2I 被用来处理非成对数据和多模态转换问题，但是大多数方法针对整图包含丰富细节的场景会造成图像不真实
    Detection-based Unsupervised Image-to-image Transtration(DUNIT) 将全图和实例分别表示，然后将特征表示融合产生转换图像(translation image), 这样在保留目标实例内容细节的同时产生单一一致性场景的图像
    文章还提出了instance consistency loss 保证检测之间的一致性(introduce an instance consistency loss to maintain the coherence between the detections)

Furthermore, by incorporating a detector into our architecture, we can still exploit object instances at test time

  • intruction
    针对现有的方法在转换具有许多不同目标实例的内容丰富的图像时的限制，INIT[34] 和InstaGAN 将目标实例和全局图像/背景分离。
    InstaGAN 将实例和背景分离，在转换目标实例的同时保证背景的风格
    INIT ？？不同的元素(global image and instances) 使用单独的重建损失

INIT independently translates the global image and the instances, using separate reconstruction losses on these different elements. At test time, INIT then uses the global image translation module only, thus discarding the instance-level information. Further, INIT has not used the instance-boosted feature representation which is shown by the merged feature map in figure 2

DUNIT
1
怎么看不懂上面训练流程的三张图呢？
input style image 是B domain？
以上确实是的，看论文figure 2 DUNIT architecture 就知道是什么意思了

整合了instance image 和global image，因此在推断时也可以用到instance 信息。另外融合instance-level 和 image-level representation models 可以达到一致性的场景转换
instance-consistency loss—为了在训练阶段充分利用检测器，提出了实例一致性损失，约束原始图像和生成图像的实例
在contribution里面有这样一段话

we only need access to ground-truth detections in a single domain. Therefore, our method can also be thought of as performing unsupervised domain adaptation for object detection.
只需要一个domain的gt，但是对于我们的任务可否修改一下instance-consistency loss 变为一个GAN loss 或者一个perceptual loss 或者一个人脸识别的约束

  • UNIT

UNIT [25], which replaced the domain-specific latent spaces of cycleGAN with a single latent space shared by the domains

我觉有必要看一下UNIT 和INIT 这两篇文章的思路好像蛮好的

  • Domain Adapation
    文章看到这里，经常出现一个词叫做Domain Adapation 域自适应性，作何解释？
    233
    上面没看懂，看下面两个
    知乎
  • Domain Adaptation for Image Dehazing(文章待看)
  • Architecture
    2
    2
    3
  1. 以上网络架构在测试的时候还需要一张B domain 提取style feature吗？
  2. global features 和instance features merge 的策略？bilinear sampling strategy
  • Training
  • loss
    1
    2
    一个一个解释
  • content adversarial loss
    判别XY 的content features
    怎么优化？
  • domain adversarial loss
    这个和cycleGAN 里面的两个判别器器一样的，判别 XY domain
  • cross-cycle consistency loss
    循环一致损失
  • self-reconstruction loss
    重建一致性损失
  • KL loss
    约束 XY 的style feature 接近一个标准分布
    其实不太理解
  • latent regression loss
    不懂
  • instance consistency loss
    4
    1
    RetinaNet detector
    文章好像过于复杂，在对比实验中，论文和论文的backbone DRIT 在instance 上确实要更胜一筹，给出的示例不多，无法进行更多判断
    先看DRIT 吧，不太想训练这个。。。。

DRIT—Diverse Image-to-Image Translation via Disentangled Representations

  • abstract
    I2I 存在两个难点
  1. 缺少成对的数据
  2. 从单一输入图像可能有多种可能的输出
    问题1，cycleGAN 基本解决了
    文章针对问题2提出 disentangled representation for producing diverse outputs without paired training images
    将图像embed 为两个空间 a domain-invariant content space capturing shared
    information across domains and a domain-specific attribute space
  • content features
  • latent attribute vector
    2
    对比一下，好像很有道理！
  • content adversarial loss
    让content feature 不要携带domain-specific cues
  • latent regression loss
    invertible mapping between the latent attribute vectors and the corresponding outputs
    属性向量和相关输出可逆？？
  • cross-cycle consistency loss
    不知道和cycleGAN 有什么区别？
  • 训练和测试时

first perform a cross-domain mapping to obtain intermediate results by swapping the attribute vectors from both images. We can then reconstruct the original input image pair by applying the cross-domain mapping one more time and use the proposed cross-cycle consistency loss to enforce the consistency between the original and the reconstructed images. At test time, we can use either 1) randomly sampled vectors from the attribute space to generate diverse outputs or 2) the transferred attribute vectors extracted from existing images for example-guided translation

3
看上面的a 的流程怎么和CycleGAN不一样，其实只是写法不一样，G_x 生成猫，G_y 生成狗，这个L^cc 感觉有点东西的

  • Disentangle Content and Attribute Representation
    为了表示的解耦，使用了两个策略
  1. weight-sharing
    基于引文[27] 的假设两个域共享同样的隐空间(latent space), 我们共享E{_x}{^c} E{_y}{^c} 的最后一层，G_x G_y 的第一层

force the content representation to be mapped onto the same space

不太懂，通过相同的操作K变换会有用吗？假设share一个恒等变换。。。
2. content discriminator

sharing the same high-level mapping functions cannot guarantee the same content representations encode the same information for both domains

他的意思是上面对分布空间进行约束，这个可以对分布的信息进行约束
2
但是上面这个式子是认真的吗？同时最大化和最小化一个值，但是他是两个domain 联合训练的
不太懂

  • Cross-cycle Consistency Loss
    看上面的图就好理解了
    5
  • other loss function

4
4

  • Latent regression loss[49]
    loss
    上面的说法有点奇怪，但是好像也有点意思，两个共用一个Attribute z,
  • full object function
    6
  • training
    网络结构和超参设置看文章及代码
    针对Content representation使用了 L1 权值正则化 0.01，指的是E^c?
    GAN 用的是DCGAN

看结果，竟然还不如CycleGAN realistic。。。。

  • DRIT++
    DRIT 后面放出的文章
    4
    添加了mode seeking regularization L_ms
  • mode seking regularization[37]
    8
  • Multi-domain I2I framework
    5
    不再区分E_x E_y G_x G_y
  • 域分类损失
    loss
  • multi-scale generator-discriminator
    15

这篇文章

  1. 有关多域转换，可以用在我们针对多种风格反射任务上
  2. 有关HR图像生成是我们现在迫切需求的
  3. 有关共享Encoder 和Generator 的问题是否比单一生成器好，待验证
  4. 多域分类器
  5. 多尺度生成-判别器在高分辨率图像生成的应用
    其实文章还有好多东西没懂，看代码，再读文章！！！

20200923 总结

自cycleGAN 以来主要训练的就是他，使用的生成器是ResNet，判别器是多尺度的patchGAN，另外还训练了NICEGAN,DRIT,主要收获和问题：
1，GAN 的损失权重是很不好调的
2，ResNet 生成器的反卷积具有非常严重的网格效应，为什么大家都在用？可不可以用插值+卷积替代
3，学会了使用多尺度的判别器
4，网络的深度和UNet 的跨层连接对于生成器不一定是好的
5，以前不理解DRIT，看了VAE有点理解了
6，NICEGAN 再看起来是一个非常好的idea，当时为什么没有调呢？
7，没有尝试WGAN,后面训练尝试下
8，GAN 至少cycleGAN 是一个非常麻瓜的模型，他学习到的风格较为单一

UNIT—Unsupervised Image-to-Image Translation Networks

开篇又重新复述了这个非监督学习的问题，从边缘分布推断联合分布，条件是不充分的，所以需要对联合分布的结构有额外的假设，即是本文的假设——两者共享隐空间分布

  • framework
    fig1
    table1
  • Q: shared-latent space constraint implies the cycle-consistency constraint?
  • A:

为了实现共享隐空间的假设，进一步约束他们共享中间层的表示h

  • VAE
  • weight-sharing
  • GANs
  • Cycle-consistency(CC)
  • LOSS
    for2
    for34
    for56
    for78
    param

看代码吧
个人感觉UNIT 代码写的比较多，当然越多对于新手来说就觉得越乱，按照version_1 的代码尝试训练，生成的图像相对模糊，他的模型结构是通过权值共享约束latent space 的均值为零，并不和VAE 一样预测均值和方差，然后约束KL 散度

INIT—Towards Instance-level Image-to-Image Translation

TuiGAN

本来看到摘要-one-short unsupervised learning 感觉还不错，但是i看了效果图，一言难尽…
在这里插入图片描述

yywxl
关注
  • 0
    点赞
  • 踩
  • 5
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
专栏目录
机器学习-41-GAN-08-Intelligent Photo Editing(智能修图，GAN+Autoencoder)
迷雾总会解
01-16 1173
本文主要是介绍基于GAN+Autoencoder来进行智能修图。还简单介绍了高清图片处理以及图像补全技术
ICLR2021 | USING LATENT SPACE REGRESSION TO ANALYZE 阅读笔记（翻译）
ybacm的博客
08-15 350
USING LATENT SPACE REGRESSION TO ANALYZE AND LEVERAGE COMPOSITIONALITY IN GANS 作者：Lucy Chai, Jonas Wulff & Phillip Isola 单位：MIT CSAIL, Cambridge, MA 02139, USA 邮箱：{lrchai,wulff,phillipi}@mit.edu 会议：ICLR 2021 项目地址：https://chail.github.io/latent-composit
机器学习专业名词中英文对照
零学IT
04-22 5393
机器学习专业名词中英文对照 other activation 激活值 activation function 激活函数 additive noise 加性噪声 autoencoder 自编码器 Autoencoders 自编码算法 average firing rate 平均激活率 average sum-of-squares error 均方差 backpropa...
深度学习生成模型：GAN | 自编码器 | 扩散模型
noobiee的博客
03-28 2206
将假的和真的数据都给判别器，优化判别模型。然后训练生成器，具体做法就是固定判别器的参数，通过反向传播优化生成器的参数，希望它得到数据在经过判别器后结果尽可能地接近1，这时只需要通过调整损失函数就可以了。可以自己去构造隐藏向量，生成任意图片，只需要给它一个标准正态分布的随机隐含向量，通过解码器就能够生成想要的图片，而不需要给它一个原始的图片。到一个编码，再通过一个神经网络去解码得到一个与输入原始数据一模一样的生成数据，然后通过比较这两个数据去最小化它们之间的差异来训练编码器和解码器的参数。
域泛化（Domain Generalization）相关知识学习
热门推荐
Iron_lyk Blog
05-25 1万+
领域泛化的目标是从一个或几个不同但相关的领域（训练集）学习一个模型，在unseen的测试领域上得到很好的泛化。（在DG的定义中，“different but related” 是重点，就是说domains虽然不同，但是一定得相关，每个domain包含的类别其实是相同的。）
使用超导数据训练GAN的Python实现.zip
最新发布
08-14
使用超导数据训练GAN的Python实现 下载后请首先打开README.md文件。 -------------------- 这是一个使用超导数据训练GAN的程序。它的灵感来自并基于CTGAN库，用于生成表格数据集的GAN。 安装： 要安装最新版本，请在...
cyclegan预训练模型
03-07
用户可以直接使用这个预训练模型来处理自己的测试集，而不需要从头开始训练，从而节省了大量的计算资源和时间。 在"pretrained"这个文件中，很可能包含了cyclegan的模型参数，这些参数是经过多轮迭代优化得到的，...
GAN--提升GAN训练的技巧汇总.docx
06-10
《GAN训练技巧精要》 GAN（Generative Adversarial Networks，生成对抗网络）作为深度学习领域的一种创新性模型，其独特的训练方式和强大的生成能力备受关注。然而，GAN的训练过程中常常面临三大挑战：不收敛、模式...
cycleGAN训练数据集，苹果橙子数据集 APPLE 2 ORANGE
04-14
cycleGAN训练数据集，苹果橙子数据集 APPLE 2 ORANGE。cycleGAN训练数据集，苹果橙子数据集 APPLE 2 ORANGE。cycleGAN训练数据集，苹果橙子数据集 APPLE 2 ORANGE。cycleGAN训练数据集，苹果橙子数据集 APPLE 2 ...
GAN-mnist.rar_GAN分类_GAN训练mnist_GAN识别_gan手写数字_gan识别mnist
07-14
- 训练和测试脚本：用于构建和训练GAN模型的Python代码。 - 模型结构定义：描述生成器和判别器网络架构的文件。 - 数据预处理脚本：处理MNIST数据集以适应GAN训练的代码。 - 训练日志和结果：记录模型训练过程和性能...
风格迁移篇---重用鉴别器进行编码：朝向无监督的图像到图像转换
m0_61985580的博客
08-05 2064
图像风格迁移
[2020CVPR] ReusingDiscriminators for Encoding（NICEGAN）
ROX77777的博客
02-21 405
在我们的框架中，编码器和鉴别器是重叠的，如果我们采用传统的训练设置——作为翻译的一部分的编码器被训练为最小化，同时它属于鉴别器，也被训练为最大化，这会带来不稳定性。在本文中，我们考虑了一种更有效的方法，将单个输入的不同层的特征映射视为不同尺度的图像，然后将每一层的特征映射以相应的输入大小馈送到分类器进行判别，这类似于特征金字塔表示在目标检测中的应用(如SSD和FPN)。通过这种改进，我们的方法在调整不同特征图的重要性上变得更加灵活，从而在训练中获得了更好的效果，这将在我们的实验中得到验证。
CVPR 2020 | 几篇 image-to-image 论文速递
idol24的博客
06-10 2948
点击上方“机器学习与生成对抗网络”，关注"星标"获取有趣、好玩的前沿干货！戳我，查看GAN的系列专辑~！1 Fine-grained Image-to-Image Tr...
NICE-GAN翻译 — Reusing Discriminators for Encoding: Towards Unsupervised Image-to-Image Translation
专注于AI领域前沿技术学习与分享：目标检测、图像修复、超分重建、AI工程化
07-21 3673
重用判别器进行编码：实现无监督的图像到图像翻译，NiceGAN 有效翻译
【研究生工作周报】(NICE-GAN论文再回顾)
wangyunpeng33的博客
09-17 2363
早在假期就对这篇论文做过初步研究，但碍于当时在对抗生成网络这一领域的基础比较薄弱，所以对论文的理解比较肤浅。通过这段时间对CGAN，pix2pix，CycleGAN等经典GAN模型学习之后，在理论和实践层面对GAN有了一个比较系统的认识。本周就NICE-GAN模型进行一个理论上的总结。对于两个图像域DomainXDomain XDomainX和DomainYDomain YDomainY，给定联合分布p(X,Y)p(X,Y)p(X,Y)
Domain Adaptation 论文笔记
ethanzhangg的博客
03-22 1004
Domain Adaptation paper个人笔记
论文笔记：Reusing Discriminators for Encoding: Towards Unsupervised Image-to-Image Translation
起风了丿的博客
11-15 1620
摘要
计算机视觉 Low Level Image Feature Representation
linmude的专栏
09-14 788
Traditional Feature:Row Pixels and HistogramsRow Pixels:  把一张图片连接成一维向量，主要应用在机器学习领域，尤其是在CNN。Drawbacks： 1，对尺寸，旋转，视角敏感 2，suffer from occlusionHistograms:1,Color Histograms 对图片中的每一个像素点用一个颜色向量（如rgb)表示，图片中的
【研究生工作周报】（第九周）
wangyunpeng33的博客
07-10 1025
Unsupervised Image-to-Image Translation Networks (UNIT)的特征如下： ●Two distinct domains 两个不同的domain ● Unpaired training data 数据不对应，就是一个domain中图片，没有和他对应的另外一个domain的照片 ● Share the same latent space z ● Domain Invariant feature 这里相当于一个VAE+GAN 要找到两个domain的share
【深度学习】CVPR2019-PAPER IDEAS
Sun7_She的专栏
06-24 1636
1. driving stereo: a large-scale dataset for stereo matching in autonomous driving scenarios 这位朋友的工作主要是在制作深度数据集，制作数据集的过程写了这篇paper。主要是深度标签不好获得，直接用雷达获取的还不够准确，他又结合了其他信息来制作更准确的label～（第一次知道，制作label的方法也可以写...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值