- 博客(7)
- 收藏
- 关注
RSS订阅原创 mathtype实用小技巧
使用ctrl + shift + b转换为原来的格式。使用ctrl + shift + v调整为斜体。点击 样式 -> 定义即可更改字体。
2024-02-28 11:12:19
369
原创 TransGAN网络代码实现过程
经过自注意力对各个元素进行处理之后，在进行传输，可以看到从一开始伸出来一条线直接略过了norm层和注意力机制层，这是一种残差的操作，目的为了保证每次输出的数据能是最优的数据，随后在传输到norm层-->MLP，最后传递给后面的模块中。TransGAN网络是将在DCGAN的基础上进行的改写，DCGAN网络中判别器和生成器的核心主干网络为卷积神经网络，TransGAN是利用transformer作为主干网络将卷积神经网络全部进行了替换，原始代码地址：https://
2023-09-13 16:43:03
416
原创 Cswin transformer学习
本文章仅限于自己自学，如果有人也将GAN网络与transformer进行结合做研究的话可以随时给我发私信，我们一起探讨共同进步。文章可以说是在swin transformer的基础上进一步对网络进行了优化，在最近看的文章当中发现对于transformer的更新主要是在位置编码上面以及对于self attention上面。 本文的self attention介绍了许多先验的self attention中的window，如下图所示：full attention的网络结构相当于是数据特征传输过程中对
2022-07-10 17:01:02
2121
1
原创 GAN网络学习笔记系列3-CGAN
1、文献创新及贡献：目标：通过无监督学习得到可分解的特征表示。使用GAN加上最大化生成的图片和输入编码之间的互信息。贡献：提出了InfoGAN,info代表互信息，文章在生成器中除了原先的噪声还增加了一个隐含编码C，表示生成数据x与隐藏编码c之间关联程度的大小，为了使x与C关联密切，所以需要最大化互信息的值。结果：最大的好处就是可以不需要监督学习，而且不需要大量额外的计算花销就能得到可解释的特征。效果：成功从MINIST数据集上对数字形状分离出书写风格，从3D渲染图像的光照中分离出姿态，..
2022-04-20 17:15:59
3246
原创 GAN网络学习笔记系列2-Cluster GAN
1、文献创新及贡献：提出一种新的基于聚类机制的CGAN，通过one-hot编码变量和连续潜变量的混合中采样潜变量，再将一个反向网络（将数据投射到潜空间）和一个聚类特定损失值与其进行结合，能实现再潜空间中聚类。GAN再潜变量中虽然保留了观测数据信息，但散点再平滑分散的情况下的散分布导致没有可以观察的集群，因此本文提出了一种算法用以解决上述问题。文章贡献：1、利用离散-连续潜变量的混合，以便再潜空间中创建一个非光滑几何2、由于文章实验过程中面临着实验对象非凸性，因此提出一种适应离散-连续混合的反
2022-02-20 11:54:34
1671
原创 GAN网络学习笔记系列1 —— GAN
1、文章所作贡献：文献提出一种通过对抗博弈方式估计生成模型，模型分为两个部分，生成器模型G(x)：从噪声或其他方式生成数据（图像），判别器模型D(x）：用以判断所接受的数据（图片）是真实的数据还是生成的数据。通过生成器模型生成数据，判别器模型对所接受的真实数据和生成数据进行判别。不断地对生成器模型进行优化，使生成器模型所生成的数据（图像）更加的接近真实的数据（图像）从而达到以假乱真的效果。2、文献提出网络研究的过程：深度学习的研究过程中，目前最成功的已经涉及到的时候判别模型，通常是讲高维或具有丰
2022-02-16 14:07:56
899
1
原创 如何在anaconda上面创建新的环境
打开anaconda prompt之后输入conda create -n XX（所要创建的环境的名字） python = 3.6(一般选择3.6版本的python)如何进入环境：activate XX(自己刚刚创建的环境）即可进入环境随后在所创建的环境里面配置自己想要的库......
2021-12-09 18:37:04
410
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人