各种深度学习框架

DL框架的未来发展,TensorFlow/MXNet/Torch, 选哪个?

源链接 https://www.zhihu.com/question/46587833

DL framework的学习成本还是不小的,以后未来的发展来看,你建议选哪个?

请主要对比分析下4个方面吧:

1. 实现新计算单元(layer)和网络结构的便利性
如:RNN, bidirectional RNN, LSTM, GRU, attention机制, skip connections等。

2. 实现不同学习任务的便利性
classification和regression自不用说,其他的: multi-label, multi-task, generative adversarial training, reinforcement learning等。

3. 调试和排查问题的便利性
这个很重要啊,所以没考虑Theano了。

4. 社区和支持
MXnet没有大公司在推,随着TF/Torch的发展,怕会逐渐被冷落啊。
赶紧找大腿抱啊~~~
Mxnet现在貌似有amzon以及Nvidia。

=======
虽然有了几个相关问题,但这3个是我个人觉得最有前景的,没见到把这3个放在一起比的,所以还是问了(

=======
相关问题

- 在众多的神经网络框架如chainer, caffe, torch,mxnet等之间如何做选择? - 深度学习(Deep Learning)
- Caffe 和 Torch 谁比较厉害?为什么谷歌、脸谱等公司不用开源的基于C++的 Caffe 呢? - 谷歌 (Google)

- 应该选择TensorFlow还是Theano? - 深度学习(Deep Learning)


作者:智靖远
链接:https://www.zhihu.com/question/46587833/answer/104054873
来源:知乎
著作权归作者所有。商业转载请联系作者获得授权,非商业转载请注明出处。

在我看来,机器学习这个领域,从业者(特指技术类从业者,不包括资本类玩家)一定会分成三个不同的群体:
1.学术研究者
他们的工作是从理论上诠释机器学习的各个方面,试图找出“这样设计模型/参数为什么效果更好”,并且为其他从业者提供更优秀的模型,甚至将理论研究向前推进一步。
能够做到这一步的人,可以说凤毛麟角,天赋是绕不过去的大山,机遇和努力也缺一不可。
对于这些人,其实也轮不到我们来建议,在长期的研究中他们都有自己喜好的工具和方法,甚至有一言不合就自己开发工具甚至开发语言的(比如LeCun……)。
题主应该不属于这一层。

2.算法改进者
他们也许无法回答出“我的方法为什么work”,也许没有Hinton,LeCun那样足以载入史册的重大成果,但是却能根据经验和一些奇思妙想,将现有的模型玩出更好的效果,或者提出一些改进的模型。这些人通常都是各个机器学习巨头公司的中坚力量或者成长中的独角兽,使用什么模型对他们来讲也不是问题,根据所处的环境,通常都有固定的几个选择。他们其实也并不怎么需要关心“我该用什么框架”,重要的是什么框架能够快速地把想法实现出来。所以你会看到caffe和theano和mxnet和torch都一样有大批的用户,仍然在贡献大量的新算法的实现。在这个层面,insight和idea才是重要的东西,各种工具的区别,影响真的没那么大。可能会让一个结果早得到或者晚得到几天或者几周,却不可能影响“有没有成果”。
这也造成了另外一个结果:最最新,最最前沿的成果往往还是用caffe或者theano做出来,发paper,然后tensorflow才开始复现这些成果。搞不好很长一段时间之内也许tf上面都不会出现原生的新奇玩意儿。因为那些正在努力嗷嗷发论文的大中牛们时间非常宝贵,没有太多心思重新学习一种框架。
不过没关系,题主(至少目前)应该不属于这一层。

3.工业实现者
这些人基本上不会在算法领域涉入太深,也就是了解一下各个算法的实现,各个模型的结构。他们更多地是根据论文去复现优秀的成果,或者使用其他人复现出来的成果,并且试图去在工业上应用它。
这个层次的人数是最多的,涉及的因素也非常复杂。但是在框架选择上,其实完全可以用最单纯的原则: 哪个人多用哪个。
至于调试的方便性或者性能或者最新算法的实现能力,其实都与使用者数量相关。
人多了贡献代码的人就会更多,遇到问题时候能讨论的人也就更多,出现新的成果时,在这个框架上进行实现的的也就越多,同样的,为这个框架开发各种外围工具的人也会更多。目前这个阶段,TF的靠山最厚实,功能虽然还不强大,更新也还不够快,但是确实人气已经攒得很足了,一些外围的包装比如tflearn也实现了很多最新的成果。所以从目前来看,投身TF不会是一个坏选择,找工作的时候你遇到用tf的公司的可能性也是非常非常高的。
至于MXNet, 的答案说的很好,这个年代早就不是胜者通吃的时候了,即使TF有google撑腰,也不可能“消灭”其他几个框架,更何况每个框架都有自己出彩的地方。现在流行的这几个框架都有一些算法改进层次的高手大牛支持着,他们很可能会继续使用正在用的框架。哪怕只有他们支持,也足够撑起一个框架的生命力了,更何况他们的号召力还颇为可观。

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值