深度学习框架对比[1]: Theano/CNTK/Tensorflow

本文对Theano、CNTK和Tensorflow三个深度学习框架进行比较,研究不同框架在数值计算、模型精度、运行时间和资源消耗上的差异。实验结果显示,CNTK在速度上最快,Tensorflow次之,而Theano在速度上表现最慢。在内存消耗方面,三者表现相近。CPU利用率中,Theano最低,Tensorflow其次,CNTK最高;GPU利用率则与CPU利用率相反,Tensorflow最低,Theano次之,CNTK最高。
摘要由CSDN通过智能技术生成

说明

深度学习框架有很多种,想看看不同框架训练出来的模型精度有没有区别。

想弄清楚的问题主要有以下几个:

  1. 不同框架的数值计算方法是否相同;
  2. 如果计算方法不同,是否说明即使参数相同,不同框架训练出来的模型精度也不一样。

找了一些论文,逐篇总结一下。

下文是对此论文的概括总结:

A Comparative Study of Open Source Deep Learning Frameworks. 2018

该论文对深度学习的三个常用框架Theano、CNTK和Tensorflow进行了测试。

1. 评价指标

评价不同深度学习框架性能的指标,该论文主要从以下三个方面入手:

  1. Running time
  2. Memory consumption
  3. CPU and GPU utilization

为了控制实验变量,这里还限制了Number of epochs,应该是计算模型收敛到足够精度时使用的时间。

2. 实验条件

2.1 硬件

GPU(似乎是在虚拟机上跑的,这块儿不是很了解,可能有误):
GPU
CPU:

  • 1
    点赞
  • 1
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值