![](https://img-blog.csdnimg.cn/20190508213455656.jpeg?x-oss-process=image/resize,m_fixed,h_224,w_224)
深度学习
介绍深度学习两大框架:tensorflow和PyTorch 以及框架的案例项目实战
Mr.Jk.Zhang
这个作者很懒,什么都没留下…
展开
-
深度好文:最详细的卷积神经网络入门教程
卷积神经网络简介卷积网络 (convolutional network)(LeCun, 1989),也叫做卷积神经网络 (convolutional neural network, CNN),是一种专门用来处理具有类似网格结构的数据的神经网络。卷积神经网络主要包括:输入层(Input layer)、卷积层(convolution layer)、激活层(activation layer)、池化层(poling layer)、全连接层(full-connected layer)、输出层(output lay原创 2020-05-20 11:00:40 · 3265 阅读 · 0 评论 -
【CV中的Attention机制】基础篇-视觉注意力机制和SENet
注意力机制注意力机制(Attention Mechanism)是机器学习中的一种数据处理方法,广泛应用在自然语言处理、图像识别及语音识别等各种不同类型的机器学习任务中。注意力机制本质上与人类对外界事物的观察机制相似。通常来说,人们在观察外界事物的时候,首先会比较关注比较倾向于观察事物某些重要的局部信息,然后再把不同区域的信息组合起来,从而形成一个对被观察事物的整体印象。Attention机制最先应用在自然语言处理方面,主要是为了改进文本之间的编码方式,通过编码-解码之后能学习到更好的序列信息。可以参考一篇原创 2020-05-18 15:54:48 · 16932 阅读 · 4 评论 -
【2020最新】超详细的计算机视觉、自然语言处理、强化学习等资料汇总!
今日,向大家推荐我的个人微信公众号----深度学习技术前沿 公众号简介:公众号:【深度学习技术前沿】,致力于目标检测、图像分类、点云与语义分割、人脸识别、目标跟踪、机器视觉、模型剪枝与压缩、神经网络架构搜索、文本分类、情感分析、知识图谱、强化学习、NAS、GAN等领域的论文研究和技术分享,推送有关于机器学习、深度学习、强化学习、计算机视觉、自然语言处理等领域干货文章,注重内容的原创分享,...原创 2020-04-28 14:24:10 · 1219 阅读 · 0 评论 -
刚刚,Alexey大神接棒,YOLOv4重磅来袭!快来一睹论文真容吧!
Date:2020-04-24来源:深度学习技术前沿链接:刚刚,YOLOv4重磅更新!快来一睹论文真容吧!【前言】 千呼万唤始出来系列,继YOLOv3两年后,YOLOv4终于出来啦,让我们来一睹论文真容吧!不过,由于YOLO之父Jeseph Redmon,在今年2月已宣布退出CV学术界。大家都以为YOLO系列已不再更新了,幸而,学术界和开源社区的力量是强大的。另一位曾经参与YOLO项目维...原创 2020-04-24 14:48:18 · 1258 阅读 · 1 评论 -
《元学习meta learning)》2020综述论文大全!
【导读】 元学习旨在学会学习,是当下研究热点之一。最近来自爱丁堡大学的学者发布了关于元学习最新综述论文《Meta-Learning in Neural Networks: A Survey》,值得关注,详述了元学习体系,包括定义、方法、应用、挑战。成为不可缺少的文献。近年来,元学习领域,或者说 “学会学习的学习” ,引起了人们极大的兴趣。与传统的人工智能方法(使用固定的学习算法从头开始解决给定...原创 2020-04-19 22:13:32 · 1292 阅读 · 0 评论 -
超越 FPN 和 NAS-FPN!商汤&港中文提出 FPG,特征金字塔网格强势登场!
论文标题:Feature Pyramid Grids作者团队:商汤&港中文(陈恺&林达华)&南洋理工大学&FAIR论文链接:https://arxiv.org/abs/2004.03580该文章首发在arxiv上,新投稿于CVPR。引言特征金字塔网络已在目标检测中被广泛采用,以改进特征表示以更好地处理尺度变化。设计思路在本文中,作者设计了...原创 2020-04-11 00:40:19 · 1470 阅读 · 2 评论 -
2020 年深度学习最佳 GPU 一览,这篇 GPU 最全攻略请查收!
深度学习模型越来越强大的同时,也占用了更多的内存空间,但是许多GPU却并没有足够的VRAM来训练它们。那么如果你准备进入深度学习,什么样的GPU才是最合适的呢?下面列出了一些适合进行深度学习模型训练的GPU,并将它们进行了横向比较,一起来看看吧!太长不看版截至2020年2月,以下GPU可以训练所有当今语言和图像模型:RTX 8000:48GB VRAM,约5500美元RTX 6000...原创 2020-03-23 18:30:35 · 5159 阅读 · 0 评论 -
谷歌开源EfficientDet:实现新SOTA,又快又准的目标检测器
什么检测器能够兼顾准确率和模型效率?如何才能实现?去年11月底,谷歌大脑提出 EfficientDet,在广泛的资源限制下,这类模型的效率仍比之前最优模型高出一个数量级。具体来看,结构只使用了 52M 参数、326B FLOPS 的 EfficientDet-D7 在 COCO 数据集上实现了 51.0 mAP,准确率超越之前最优检测器(+0.3% mAP),其规模仅为之前最优检测器的 1/...原创 2020-03-23 18:20:21 · 3383 阅读 · 0 评论 -
一文详解什么是空洞卷积?
空洞卷积(Dilated Convolution)简介空洞卷积也叫扩张卷积或者膨胀卷积,简单来说就是在卷积核元素之间加入一些空格(零)来扩大卷积核的过程。空洞卷积的简单原理。下图是常规卷积和空洞卷积的动图对比:常规卷积:空洞卷积:假设以一个变量a来衡量空洞卷积的扩张系数,则加入空洞之后的实际卷积核尺寸与原始卷积核尺寸之间的关系:K = K + (k-1)(a-1)其中k为原始卷积...原创 2020-03-17 19:44:59 · 45219 阅读 · 4 评论 -
推荐一本Github上Star 10.2K+ 的书籍---《神经网络与深度学习》
入门深度学习,最重要的就是找一份通俗易懂的书籍!今天给大家推荐一本口碑上佳的中文版深度学习书,名叫《神经网络与深度学习》,由复旦大学老师邱锡鹏出品。从2016到2019,根据多年教学和研究经验,邱锡鹏教授完成了深度学习教科书《神经网络与深度学习》!本书籍主要介绍神经网络与深度学习中的基础知识、主要模型(前馈网络、卷积网络、循环网络等)以及在计算机视觉、自然语言处理等领域的应用。这本书的作者邱...原创 2020-03-05 15:55:57 · 978 阅读 · 0 评论 -
CVPR2020最新15篇论文开源代码
全球计算机视觉顶级会议CVPR2020 (IEEE Conference on Computer Vision and Pattern Recognition,即IEEE国际计算机视觉与模式识别会议) 即将于2020年6月14日-19日在美国西雅图召开。本届大会总共录取来自全球论文1470篇,接收率为22%,相比去年降低3个百分点,竞争越来越激烈。本届大会涵盖人体识别、基于图像建模、计算摄影与...原创 2020-02-29 19:45:42 · 3463 阅读 · 0 评论 -
2020年最新人工智能算法工程师学习资料大全!!!
今日给大家推荐一份超详细的人工智能算法方面的综合资料合集:包括求职面试、机器学习、深度学习、强化学习等方面的资料和代码(持续更新)Github主页为:https://github.com/murufeng/Awesome-AI-algorithmAwesome-AI-algorithm资料目录算法面试Github牛客网知乎博客微信公众号其它机器学习面试资料Gi...原创 2020-02-29 10:58:19 · 2067 阅读 · 0 评论 -
2020年最新人工智能超级资源大列表:深度学习-强化学习-图神经网络-自然语言处理等
在这里为大家介绍一个课程网站,汇集了机器学习,深度学习的各个方面,包括:深度学习强化学习机器学习计算机视觉强化学习图神经网络自然语言处理相关该网站仍在不断更新中,目前新增了很多2019、2020年的资源,补充了一些主题,提供给不间断学习,充实自己的同学。不过,大部分的课程都在Youtube, 如果你没有办法登录, 请在B站上搜索相关的内容。本篇文章内容整理自网络,汇集了大量...原创 2020-02-14 10:03:26 · 390 阅读 · 0 评论 -
ICLR 2020 九篇满分论文!!!
从反传的自动微分机制,到不平行语料的翻译模型,ICLR 2020 这 9 篇满分论文值得你仔细阅读。早在去年12月,ICLR 2020的论文接收结果就已经出来了,其接收率达到了26.5%。ICLR 2020今年4月26日将在埃塞俄比亚首都亚的斯亚贝巴举行,因为这次会议只保留了四个等级:reject、weak reject、weak accept和accept,因此有30多篇论文获得了“满分”。...原创 2020-02-09 15:25:09 · 1003 阅读 · 0 评论 -
TensorFlow与Pytorch代码实现深度学习100+经典模型
深度学习在过去十年获得了极大进展,出现很多新的模型,并且伴随TensorFlow和Pytorch框架的出现,有很多实现,但对于初学者和很多从业人员,如何选择合适的实现,是个选择。rasbt在Github上整理了关于深度学习模型TensorFlow和Pytorch代码实现集合,含有100个,各种各样的深度学习架构,模型,和技巧的集合Jupyter Notebooks,从基础的逻辑回归到神经网络到CN...原创 2020-01-03 21:34:41 · 1154 阅读 · 0 评论 -
AAAI 2020| 一文看尽腾讯优图10篇入选论文
人工智能领域的国际顶级会议AAAI 2020将于2月7日-2月12日在美国纽约举办。近年来随着人工智能的兴起,AAAI每年举办的学术会议也变得越来越火热,每年都吸引了大量来自学术界、产业界的研究员、开发者投稿、参会。以AAAI2019为例,论文提交数量高达7745篇,创下当年AAAI历史新高。和其他顶会一样,AAAI 2020显得更为火热,大会官方发送的通知邮件显示,最终收到有效论文8800篇...原创 2020-01-02 19:32:03 · 745 阅读 · 0 评论 -
2019年最新十篇「深度学习领域综述」论文
1、A guide to deep learning in healthcare(医疗深度学习技术指南)Google 斯坦福 Nature Medicine作者:Andre Esteva, Alexandre Robicquet, Bharath Ramsundar, Volodymyr Kuleshov, Mark DePristo, Katherine Chou, Claire Cui,...原创 2020-01-02 19:10:54 · 3000 阅读 · 0 评论 -
LSTM登顶20世纪AI论文高引No.1,NLP技术崛起!!!
经典也会被经典超越。20世纪深度学习研究中,引用最多的论文不再是反向传播。新的宠儿,是1997年Hochreiter和Schmidhuber发表的Long short-term memory。大名鼎鼎的LSTM。作为「LSTM 之父」的 Jürgen Schmidhuber 虽然没有获得图灵奖(也因乖张的行为不受待见),但他在深度学习领域的贡献仍然获得了整个社区的「被动认可」。最近...原创 2019-12-29 14:33:39 · 3475 阅读 · 0 评论 -
如何高效读论文?剑桥CS教授亲授“三遍论”
科研之始,在于读论文。阅读论文,一方面,可以把握最前沿的研究动态,激发自身研究灵感。另一方面,如果不提前做好文献调研,自己的绝妙想法变成了重复造轮子,这种体验可不太妙。那么,问题来了:到底该怎么读论文?每天单从arxiv上就能刷出成百上千篇新论文,顶会期间,论文更是如钱塘江大潮拍岸而来。如何才能不迷失在论文烟海之中,高效获取有效信息呢?这里奉上ACM和IEEE Fellow、剑桥大学计...原创 2019-12-29 14:20:41 · 262 阅读 · 0 评论 -
1077篇 ! ICCV2019论文接收结果公布(附70篇论文链接抢先读,含Oral) 更新中
iccv2019ICCV 2019 papers/newsICCV2019官网:http://iccv2019.thecvf.com/(共收到4303篇投稿)会议时间:2019/10/27-2019/11/2接收结果: 1077篇!ICCV2019接收结果公布,你中了吗?(附7篇论文链接,含Oral)接收论文ID查看链接:https://docs.google.com/document/...原创 2019-07-23 13:34:21 · 12063 阅读 · 0 评论 -
ICLR2020放榜 34篇满分论文! 48篇orals,108篇spotlights,531篇poster
ICLR,全称为International Conference on Learning Representations(国际学习表征会议),2013年由深度学习三座大山中的 Yoshua Bengio 和 Yann LeCun牵头创办。众所周知,Yoshua Bengio主管着蒙特利尔大学人工智能实验室,也就是 MILA,它是世界上最大的人工智能研究中心之一。Yann LeCun是 Faceb...原创 2019-12-21 10:09:27 · 2462 阅读 · 0 评论 -
图像/视频去噪算法资源集锦
图像去噪是指减少数字图像中噪声的过程。随着深度学习的发展,也有许多深度学习方法被用于图像/视频去噪。本文整理了一些去噪算法与数据集。Denoising AlgorithmsFilterNLM[Web]:https://sites.google.com/site/shreyamsha/publications/image-denoising-based-on-nlfmt[Code]:htt...原创 2019-12-15 09:26:38 · 3140 阅读 · 0 评论 -
2020 IEEE 冯诺依曼奖得主:Michael Jordan --机器学习领域泰斗级人物
近日,2020 年度 IEEE 冯诺伊曼奖项结果正式公布。机器学习泰斗 Michael Jordan 摘得本年度奖项,获奖理由为「对机器学习和数据科学的重大贡献」。关于冯诺依曼奖IEEE 冯诺依曼奖(IEEE John von Neumann Medal)于 1990 年由 IEEE 创办,旨在表扬在计算机科学和技术领域取得突出成就的科学家。该奖项以对计算机科学具有重大贡献的现代计算机创始人之...原创 2019-12-09 13:30:14 · 2182 阅读 · 0 评论 -
一文详细介绍NeurIPS论文高引量的TOP10明星学者!!!
NeurIPS2019即将于12月8日(本周日)在加拿大温哥华举办,NeurIPS是人工智能和机器学习领域的国际顶级会议,由NIPS基金会负责运营。该会议全称为神经信息处理系统大会(Conference and Workshop on Neural Information Processing Systems,NIPS),自1987年开始,每年的12月份,来自世界各地的从事AI和ML相关的专家学者...原创 2019-12-06 14:09:58 · 2044 阅读 · 0 评论 -
NeurIPS2019最新发布近十年的人工智能领域高引学者TOP100榜单!!!
12月8日(本周日),期待已久的NeurIPS2019就要在加拿大温哥华正式拉开帷幕。作为机器学习领域最重要的顶会,NeurIPS一直有着很强的影响力和排名,被认为是神经计算方面最好的会议之一。随着近几年深度学习的崛起,NeurIPS不仅成为了学术界的新星,也引起了工业界的高度关注,注册人数从数年前的几百人跃升到今年的近万人。根据AMiner数据平台的统计分析,NeurIPS的H5指数为1...原创 2019-12-06 13:50:33 · 402 阅读 · 1 评论 -
元学习论文分类列表推荐
本文整理了基于分类范畴的元学习论文综述。按arXiv上提交日期排序。按照如下进行分类:元学习综述(Survey)、小样本学习(Few-shot learning)、大规模数据集(Large scale dataset)、不平衡类(Imbalance class)、NLP、架构搜索(Architecture search)、依赖任务(Task-dependent)、异构任务(Heterogeneo...原创 2019-12-05 21:04:33 · 402 阅读 · 0 评论 -
2019年最新目标检测算法综述汇总
本文分享的目标检测论文将同步推送到 github上,欢迎大家 star/fork:https://github.com/murufeng/awesome-papers/tree/master/Object-detection目标检测论文【1】Object Detection in 20 Years: A Survey时间:2019年5月作者:密歇根大学&北航&卡尔顿大学&a...原创 2019-12-04 11:05:05 · 1100 阅读 · 0 评论 -
2019年11月最新8篇目标检测论文
本文分享的目标检测论文将同步推送到 github上,欢迎大家 star/fork,链接地址:https://github.com/murufeng/awesome-papers/tree/master/Object-detection注意事项:本文分享的目标检测论文既含刷新COCO mAP记录的目标检测论文,也有追求 mAP 和 FPS trade-off的论文论文发布时间段:2019...原创 2019-12-03 22:34:49 · 949 阅读 · 0 评论 -
NIPS2019:旷视提出DetNAS:首个搜索物体检测Backbone的方法
论文名称:DetNAS: Backbone Search for Object Detection论文链接:https://arxiv.org/abs/1903.10979开源代码: https://github.com/megvii-model/DetNAS物体检测器通常使用图像分类网络的Backbone,由于和检测任务存在一定差异,这些Backbone往往不是最优的。本文中,旷视研究院...原创 2019-12-03 16:20:02 · 2584 阅读 · 2 评论 -
目标检测之Two-Stage系列:Faster R-CNN算法与代码详解
lmk原创 2019-11-29 13:23:42 · 555 阅读 · 0 评论 -
快速入门深度学习教程指南(附国外顶级名校课程视频资源)
Deep_Learning_RouteFrom Self-Driving Cars to Alpha Go to Language Translation, Deep Learning seems to be everywhere nowadays. While the debate whether the hype is justified or not continues, Deep Lea...原创 2019-11-28 21:35:14 · 1385 阅读 · 0 评论 -
EfficientDet:Scalable and Efficient Object Detection 谷歌大脑最新目标检测成果,COCO 51.0 mAP!!!
Google最新提出的目标检测方法,注意:本文提出的BIFPN和EfficientDet,通过改进 FPN 中多尺度特征融合的结构和借鉴 EfficientNet 模型缩放方法,提出了一种模型可缩放且高效的目标检测算法 EfficientDet。其高精度版本 EfficientDet-D7 仅有 52M 的参数量和326B FLOPS ,在COCO数据集上实现了目前已公布论文中的最高精度 :51....原创 2019-11-27 17:41:42 · 5641 阅读 · 0 评论 -
AutoML算法之神经网络搜索(一种新的可微NAS方法)
背景介绍近年来,神经网络搜索(NAS)极大地推动了神经网络设计的发展。以前的大多数工作都是计算密集型的,可用NAS方法通过在一个连续空间中构建一个覆盖所有可能搜索架构的超网络来降低搜索成本。然而,很少有能够搜索网络宽度(滤波器/通道的数量)的方案,因为按照传统的可微NAS范式,很难将具有不同宽度的架构集成到一个超网络中。在本文中,介绍一种新的可微NAS方法,通过构建一个紧密连接的搜索空间来实现同...原创 2019-11-17 15:26:06 · 1492 阅读 · 0 评论 -
机器学习、深度学习、强化学习课程资源大合集!!!
今天推荐一个机器学习、深度学习、强化学习完整的线上资源。收获 star 7k!内容非常丰富,且都整合到了一个地方。使用起来非常方便。GitHub 地址:https://github.com/kmario23/deep-learning-drizzle首先来看一下整体内容:深度学习概率图模型机器学习基础机器学习优化自然语言处理通用机器学习强化学习现代机器视觉贝叶斯深度学习图...原创 2019-11-06 10:09:53 · 526 阅读 · 0 评论 -
ICCV 2019大会精华资源最新总结(附2019ICCV1075篇论文全集+部分论文源码集)
作为世界上三大顶会之一的ICCV 2019( IEEE International Conference on Computer Vision)已于10月27日在韩国召开,ICCV2019全部接收论文共计1077篇全部公布,大家可以在下面链接查看所有的论文PDF。链接: http://openaccess.thecvf.com/ICCV2019.pyWorkshops & Tutor...原创 2019-10-29 11:10:35 · 7050 阅读 · 6 评论 -
百度PaddlePaddle框架简易使用教程
本文介绍百度的深度学习框架PaddlePaddle的基本概念和用法。本文主要参考了官方文档目录TOC{:toc}快速上手这部分通过一个线性回归的问题来感受一下PaddlePaddle的使用,读者不需要理解每一行代码(但是有必要尝试阅读和尽可能多的理解),后面的部分会详细的介绍。读者需要动手把环境搭建起来,把程序跑起来,这是最重要的第一步。快速安装我使用的是GPU的版本,所以使用...原创 2019-10-22 10:59:48 · 99297 阅读 · 0 评论 -
深度学习模型训练技巧总结:随机初始化、预训练网络、dataloader、模型多GPU训练、训练加速器、激活函数等
一文详尽目前最新和流行的神经网络技巧。1. 神经网络初始化trick:大神何凯明教你如何训练网络!2.深度学习训练网络技巧篇: 调整dataloader函数来提升mAP3.一款基于 PyTorch 的混合精度训练加速神器4.PyTorch 模型训练以及多 GPU 并行操作训练教程5.机器学习算法中常用到的距离以及相似度计算6.深度学习中的激活函数详细介绍以及优缺点分析7.深度学习中所...原创 2019-10-18 13:07:04 · 1034 阅读 · 0 评论 -
2019年算法工程师面试题目整理
导读本文汇总了 深度学习(模型评估方法、基本方法、优化方法、深度学习基础、CNN、RNN)、机器学习(基础、集成学习、模型 、特征工程)、数据结构与算法(二叉树类、搜索回溯、概率题、动态规划、字符串)、数组、二分、快排系列(链表、排序)、海量数据题等各类型算法岗面试题。深度学习模型评估方法Accuracy作为指标有哪些局限性?ROC曲线和PR曲线各是什么?编程实现AUC的计算,并指...原创 2019-10-16 16:23:53 · 892 阅读 · 0 评论 -
一份史上最全的深度学习资料,包括国内外顶尖学校课程以及顶会论文集
目前深度学习可以说是人工智能研究领域比较热门的方向,而且近年来,深度学习也逐渐运用到工业界中的应用场景中去了。并且,随着自动驾驶技术的发展,深度学习技术在工业界有着更为强大的应用前景。因此,学习好深度学习的知识有利于我们在人工智能的道路上不断前行。因此,这次我给大家推荐一个深度学习(Deep Learning)的最全资料项目:deep-learning。Github 地址: https://gi...原创 2019-07-25 00:14:57 · 692 阅读 · 0 评论 -
Github: 机器学习国外顶尖学校课程资料最全集锦
给大家送福利了,最近我整理了一系列国外顶尖学校的机器学习课程资料。 因此,本文给大家推荐一个机器学习(Machine Learning)的最全资料项目:awesome machine learninggithub地址: https://github.com/murufeng/awesome-machine-learning希望大家能从中受益,当然也欢迎大家star 关注。本项目资料主要是国...原创 2019-07-24 23:37:34 · 996 阅读 · 0 评论