玩坏了的深度学习

好的数据不一定能获得好的知识，之前哈佛大学研究发现了群体智慧的缺陷，已经公布了相关算法。
玛雅天文学的启示：它的天文学任然认为是地球为宇宙中心，不过他们可以精确的分析地球、月亮、星星之间的位置变化变化关系已经非常具有前瞻性，这里的基因主要在于封闭的科学文化导致资源的浪费和误入歧途，这些源自上古的文化的盲目崇拜，自然规律就是更新迭代。
我们使用这些项目的目标都很简单的确定一个理论模型中的参数，这样去认知物质和暗物质往往是从大量的数据提炼几个参数发现意味的结果！
   在我上高中的时候听说了误差叠加效应，当两个参数0.99和1.01的输入365和维度，也就365次方之后这种爆炸性的结果是我们独立的模型没法验证。
   一叶障目：最近这个方向很多人和单位刷名词，其实现在很多事困难，硬件没法独立，计算量太大，现有的计算成本太高。
   最近看了很多关于卡帕西的论文，我在思考一个问题，这些东西看似可以实现往往只能在卡帕西的github上下载复制，我现在开始讨厌ctrl+C和ctrl+V。
   这几天比较火的就是cvpr上pix2pix，这里需要提供一对一的数据，一条线条画、对应的监督模板。效果并非十分solid，在读完dual learning之后中心就在于cycle consistentcy，相关的孪生弟弟CycleGaN比其他更加抽象，描述了莫奈的画，这就需要看这个人的人生阅历，文学艺术是对自己阅历的感悟描述和对社会认识。
   CycleGAN、DiscoGAN、DualGAN网络细节简单说一下：
   主要是generator跟perceptual lossses for real time style transfer and super-resolution，使用了instance and normailization的一种判别使用，在pix2pix中patchGAN on 70x70patches，为了稳定GAN的train使用最小二乘和replay buffer，这就去掉随机性问题。这里的生成器就是一个deteministic的style teansfer模型。不是一个单一的条件GAN，使用了L1距离为cycle consistency。
   DualGAN的生成器和判别器都和pix2一样不会有随机的input Z，但是有随机的droput。他们使用了wgan来心里所以使用cycle consistency的L1.
   discoGAN用conv，deconv和leaky relu组成了生成器然后再使用一个独立conv+leaky relu作为判别器，使用L2作为cycle consistency。
现在主要是以策略+参数来实现。