Transfomrer Benchmark3090对比3090Ti(跟李沐学AI作业简化版)

已于 2023-03-12 13:22:54 修改
阅读量948 收藏 2
点赞数
分类专栏： 深度学习算法与原理 文章标签： 深度学习 人工智能 电脑
于 2023-03-11 20:58:36 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/m0_46339652/article/details/129468748
版权
本文对RTX3090和3090Ti进行了性能对比测试，主要基于Ubuntu20.04系统，AMD5800处理器，16线程配置，使用Pytorch1.13和GPU环境。Micro_bench测试显示3090Ti在单精度上领先10-15%，而在半精度上两者表现接近。由于硬件限制，transformers的多GPU测试尚未进行。
摘要由CSDN通过智能技术生成

目录

在看完李沐老师装机双卡3090Ti作为深度学习工作机的视频后，我决定装一台双卡3090的机器作为深度学习主机。本文主要进行3090和3090Ti性能的对比测试，对比一下看跟李沐老师的工作机差距有多大。
环境：
Ubuntu20.04
AMD5800 8core 16Thread
RTX3090
Pytorch1.13(gpu)
Python3.9

一. micro_bench性能展示

沐神源代码
请添加图片描述
请添加图片描述
请添加图片描述
请添加图片描述
请添加图片描述
请添加图片描述
请添加图片描述
请添加图片描述
请添加图片描述

请添加图片描述
请添加图片描述

二. transformers性能展示

沐神源代码
由于目前机器只有单卡3090,MultiGPU的测试随后进行补充。
请添加图片描述
请添加图片描述
请添加图片描述
请添加图片描述
请添加图片描述
请添加图片描述
总结：单精度跟3090TI有一些差距(10~15%)，半精度几乎无差距。

东洋 Dongyang
关注
专栏目录
Ubuntu 显卡3090下swin-transformer 目标检测环境配置
qq_39821101的博客
01-07 3641
创建环境 conda create -n swin python=3.8 source activate swin 安装pytorch conda install pytorch==1.8.0 torchvision==0.9.0 torchaudio==0.8.0 cudatoolkit=11.1 -c pytorch -c conda-forge 安装其他 pip install cython matplotlib opencv-python termcolor==1.1.0 yacs==0.1.8
A5000 VS 3090，谁更强？
热门推荐
weixin_39881439的博客
06-15 3万+
3090的单精度性能高于A5000，但在半精度和混合精度训练中，A5000的性价比又不输3090，甚至更为突出。
rtx3090ti和rtx3090的区别 3090ti和3090算力对比
m0_58402844的博客
08-27 8039
RTX3090Ti流处理器数量为10752个，相比RTX3090在流处理器上多了256个，加速频率达到了1860MHz，相比RTX 3090的1695MHz提高了10%，显存频率也从19.5GHz提高至21GHz，显存带宽直接升级1TB/s，这也是GeForce显卡首次突破1TB/s大关，不过性能提升后，TDP功耗也提高了100W，外接供电从12Pin变成了16Pin，意味着RTX3090Ti供电需求更高。5、最强的提升就是工号了，3090ti的功耗相比3090提升了100w，达到了450w。...
AI大牛李沐的双卡RTX 3090TI装机视频来了！
阿木寺的博客
08-17 2755
点击下方卡片，关注“CVer”公众号AI/CV重磅干货，第一时间送达点击进入—>CV微信技术交流群转载自：新智元 | 编辑：Aeneas 拉燕 桃子【导读】AI大牛李沐带你来装机！AI大牛沐神来装机了，还是训练100亿参数模型那种。在还没出装机视频前，李沐老师曾发起了一个小小的问卷调查，趁着显卡降价，看下童鞋们对装机跑Transformer有多大兴趣。当时，就连华为天才少年「稚晖君」都来...
【直观对比】RTX3090和RTX4090的计算能力的参数对比
刘炫320的博客
05-11 1万+
随着大模型的火热，越来越多的人希望可以购买一个硬件进行大模型的推理，特别是在3090和4090显卡的对比上，需求比较大。目前已有的显卡对比，大多面向于和，如图所示。但是，对于消费级的显卡的计算能力的参数对比还比较少，更多的是对比游戏或者跑分的。由于工作需要，特地辗转了多方网站，整理了3090和4090的性能参数对比图，附带A100的参数用于衔接。从表中可以看出，在目前最常用的FP16上，4090和A100是一样的。也就是说，如果只是部署一个7B的模型，并且开了FP16，那么两者的推理速度应该是大致相同的。
如何使用 PyTorch 进行半精度训练
qq_39845931的博客
12-02 1万+
原文链接（可以直接运行代码）. 实验： 混合精度训练对比 (GTX 3090 VS TESLA V100-SXM2) 经常有小伙伴问我 TESLA V100 显存 16GB 比 GTX 3090 的 24GB 少了 8GB，价格还一样，为啥要用 V100 呢？ 使用精度低于 32 位浮点数的数字格式有很多好处。首先，它们需要 更少的内存，从而能够训练和部署更大的神经网络。其次，它们需要 更少的内存带宽，从而加快数据传输操作。第三，数学运算在降低精度的情况下 运行得更快，尤其是在具有 Tensor Cor
3090和A100选型区别
roymustang的博客
10-27 1万+
如果都是小模型的化，日常yolo ssd那些没必要上计算卡，游戏卡完全够用了。如果是大模型dalle2 那些对抗生成网络有必要上计算卡。长时间运行A100用的是HBM2显存颗粒而3090ti是gddr6，运行半年后3090ti坏损比较严重，而A100基本无故障。HBM2的发热能力也比较低。
benchmark_results-master.zip_benchmark pudn_benchmark 源代码_人工智能_人
07-15
"人工智能" 和 "人工智能程序" 标签揭示了这个项目的核心内容是与 AI 相关的，而 "深度学习" 标签则指明了具体的子领域。 深度学习是一种模仿人脑神经网络结构的机器学习方法，它在图像识别、语音识别、自然语言...
数据库经典压测工具benchmarksql5.0 双版本 原版 支持达梦版 亲测可用 附带安装文档
08-31
《数据库压力测试利器：BenchmarkSQL 5.0与Oracle及达梦数据库的深度结合》 BenchmarkSQL是一款广泛使用的开源数据库压力测试工具，尤其在评估和比较不同数据库系统的性能时，它的价值尤为突出。该工具以其易用性...
benchmarksql数据库测试工具--支持达梦数据库版
03-21
** BenchmarkSQL数据库测试工具概述 ** BenchmarkSQL是一款广泛使用的开源数据库性能测试工具，它能够对各种类型的数据库系统进行基准测试，以评估其在不同工作负载下的性能。该工具旨在提供一个标准化的方法来比较...
ai-benchmark.zip
05-09
《人工智能：AI-Benchmark深度解析》 人工智能（AI）作为当今科技领域的热点，正在逐步渗透到我们生活的方方面面。AI-Benchmark作为一个专门针对人工智能性能进行评测的工具，为开发者和研究者提供了衡量硬件设备...
Python库 | ai-benchmark-0.1.0.tar.gz
02-28
在本例中，我们关注的是一个名为"ai-benchmark-0.1.0.tar.gz"的压缩包，这显然是一款专门针对人工智能领域的Python库。这个库可能包含了用于机器学习、深度学习或其他AI相关任务的模块和函数。 首先，让我们来了解...
rtx3090 pytorch_RTX3090首发评测：很强，可是......
weixin_39578899的博客
10-30 534
3090发布的时候，大家都很激动，我也是迫不及待的想买一张RTX3090通过某神秘商家的偷跑，我在9月18日就拿到了一张RTX3090，它是来自影驰的RTX3090大将。这应该是知乎首发的个人用户评测，我没有任何品牌立场，没有收到任何品牌的资助，也没有与NVIDIA签署过NDA，但是我还是等到了解禁后大家一起发。不出意外的话，这张卡采用了纯公版的PCB设计，是一张公版换皮卡。先给大家看一下GPUZ...
4090 深度学习性能实测
weixin_48292639的博客
10-17 1万+
测试代码来自李沐老师micro-benchmarkings，除4090外的数据均来自李沐老师：https://github.com/mli/transformers-benchmarks
RTX3070、3080和3090区别
源代码杀手的博客
08-25 7093
rtx3070和3080 3090主要区别是在GPU频率，CUDA数量，单精度，FP16，显存和显存位宽，功耗，价格不一样，详细的区别如下： 1、GPU频率的区别：rtx3070的为1.73GHz，rtx3080的为1.71GHz，rtx3090的为1.71GHz； 2、CUDA数量的区别：rtx3070的CUDA数量为5888，rtx3080的CUDA数量为8704，rtx3090的CUDA数量为10496； 3、单精度的区别：rtx3070的单精度为20.4TFLOPS，rtx3080的单精度为29.8
人脑的算力和英伟达的RTX3090相比
最新发布
大连赵哥的博客
06-25 846
人脑的算力和英伟达的RTX3090相比
Ubuntu20.04+3090ti+cudatoolkit=11.3+tensorflow-gpu=2.6+pytorch=1.10 深度学习环境配置踩坑记录 可通过配置文件迁移引用
春天不是读书人的博客
04-17 5689
Ubuntu20.04+3090ti+cudatoolkit=11.3+tensorflow-gpu=2.6.2+pytorch=1.10.2 环境配置 踩坑记录
TITAN RTX 与 RTX 3090 参数的对比，探计单双精度的问题
caoyongsheng的博客
11-26 5651
因为目前我正在做GPU程序加速比相关的工作，具体就是对单双精度的程序计算时长进行统计和对比，通过对比发现，RTX3090虽然单精度计算比V100要快，但双精度就比不上V100了，这个结果的原因在于V100本身的双精度计算能力就比3090要好，这是在硬件上的不同决定的，这也决定了产品的定位，3090定位在游戏，因为游戏主要需求就是单精度，而作为科学计算为定位的V100在双精度计算上有需求，所以它的双精度计算能力较强。
深度学习的显卡对比评测：2080ti vs 3090 vs A100
deephub
03-30 2万+
显卡大幅降价了但是还可以再等等，新的40系列显卡也要发售了，所以我们先看看目前上市的显卡的性能对比，这样也可以估算下40显卡的性能，在以后购买时作为参考。 但是在本文之前一定要说下的是：本文并不推荐现在就买显卡，除非必须，现在一定不要买显卡，谁买谁吃亏，目前的情况是，“等” 就对了 回到正题，在这篇文章中我整理了几个在 NVIDIA GeForce RTX 3090 GPU 进行的深度学习性能基准测试。 一般的情况下我们都会使用 TensorFlow github 中的“tf_cnn_benchmarks
Python人工智能库ai-benchmark深度评测与应用指南
在这个特定的文件中，"ai-benchmark"很可能是一个用于人工智能基准测试的Python库。该库可能提供了一套标准的方法来评估不同AI算法或模型的性能。通过使用这样的库，开发人员和研究人员能够比较不同解决方案的效率、...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值