访谈

Geoffrey Hinton

物理学+生理学，哲学，心理学，木匠。考虑神经学和大脑的联系。最骄傲的是限制玻尔兹曼机，DBN。一直可以学到新的特征。近期监督学习是很棒的，但是无监督学习将是未来。胶囊。

多读论文，但不要读太多！对于有创意的人来说是这样。直觉很重要，你觉得是对的话，就要坚持下去。永远不要停止编程。相信直觉，然后动手。找一个和你意见一致的导师。像素进入，变成向量。他是链接主义。符号派的错误......

PeterAbbeel

深度增强学习发明者。用增强学习做和监督学习一样有趣的事情。它觉得这个有更多值得研究的东西。重点在于表达。重点在于，如何在长的时间线上都有好的推理能力。

看到关联性。玻璃颗粒大学的增强学习。多动手去试试，不断的编程。去工作还是phd，看哪里可以得到更好的指导。深度增强学习，它能自己学到技能。意味着增强学习能够自我学习，就像是一种终极算法，自我学习。但是现在问题是增强学习每次都要从头开始学起，不能够将以前的知识用在现在。

IanGoodfellow

GAN属于一种生成模型。你有很多数据，你想制造更多类似它们的数据，但它们是虚构的。寻找可以避免其他模型缺点的东西。它的想法，在酒吧喝完酒之后的。半监督学习。GANS像是艺术，不算科学。现在就算要弄清楚怎么让GANS稳定。找一个项目，将深度学习应用其中，边学边应用。这样会很有趣～～！

Yoshua Bengio

他也是跟Hinton一样，是坚实的链接主义者。研究生时期开始的AI learning。从实验开始，进而研究，为什么BP有用等等。biggest mistake--认为bp需要光滑非线性算法。Relu很棒，发现这个是因为生物链接的应用于其中。链接主义--信息是分布在被激活的神经元中的，而不是由祖母细胞来描述的（符号主义）。对注意力机制的研究改变了他对神经网络的看法，曾经认为神经网络是机器，不过是向量之间的映射，而基于注意力机制可以处理各种数据结构！unsupervised learning--怎么提炼知识！构建一个精神结构，从而解决如何关擦世界。增强学习+无监督学习--他在努力。他很喜欢RBMs。怎么定义怎样才是好的，怎么定义一个目标函数？他再努力--怎么让机器交互世界？理解世界？让深度学习理解更深层次的东西--我们就要研究原因、研究信息的时序处理、因果关系、如何让机器自己来发现这些事物。不一定要数学化，但要逻辑化。--深度学习。。。建议，还是实践！read a lot,programming a lot。不要用那些几行代码就解决的，要深入原理，明白为什么、明白具体的编程中发生了什么。要真正理解自己做的每一件事。ICLR的大会论文集！！！！一旦直觉层面OK了，一些数学的东西也很好理解了。

林元庆

他建议先研究机器学习，打好基础，再步入深度学习。paddlepaddle--百度的深度学习框架，好像还不错哦～

Andrej Karpathy

作为基准的人。人类基准的重要性。CS231n的讲者。受限玻尔兹曼也是他的启蒙。监督学习表现的很好，但是无监督学习还是很原始。think in openai--两条路：应用AI和怎么让神经网络变成一个动态的--一个网络可以做多种事情。之前是根据“分解”的方法去实现的，一个神经网络可以做人类做的很多事情，后面觉得这样子是错误的。取而代之的是运用“还原论”的手段，怎么构思目标？必须要理解整个流程！代码从零去实现，不要单纯去调包！这也是人们在CS231n喜欢的，关注底层！

Ruslan Salakhutdinov

苹果公司的研究主管。早期受限玻尔兹曼机，在预训练表现非常好。很强调生成模型。像是GAN、变分自动编码器、还有他实验室的深度能量模型---属于无监督学习or半监督学习。以前计算机慢，才需要RBM、DBN这些去预训练？很多无监督学习，没有搞清楚是什么运行的。建议：尝试不同的事情！不要害怕！实际编码时候，一定要一步一步来，不要调包！这样才能够有深入的理解。学术界--自由些，可以去尝试一些疯狂的想法；工业界--计算资源更多，面向客户。深度加强学习学习也不错。推理和自然语言理解领域--能够读懂、推理......。one-shot learning、transfer learning。