从基础综述、论文笔记到工程经验、训练技巧：值得一看的目标检测好文推荐...

最新推荐文章于 2024-11-18 18:21:27 发布
最新推荐文章于 2024-11-18 18:21:27 发布
阅读量325 收藏 2
点赞数 1
文章标签： 神经网络 算法 卷积 计算机视觉 机器学习
原文链接：https://mp.weixin.qq.com/s?__biz=MzU0NjgzMDIxMQ==&mid=2247599818&idx=4&sn=f2f3c0c2b15f156db0254cff0532d6d2&chksm=fb54a426cc232d303691d5756e157d8dc7fb4a642061d1470cab2dd1dfdfeea6f901f9720fa7&scene=126&&sessionid=0
版权

点击上方“小白学视觉”，选择加"星标"或“置顶”

重磅干货，第一时间送达23dd4348353276a54e8d8668fbc8155b.jpeg

本文授权转自知乎作者跑者小越，https://zhuanlan.zhihu.com/p/140036646。未经作者许可，不得二次转载。

前言

依稀记得两年前刚开始接触深度学习和目标检测的时候，惊喜地发现知乎上有很多优质的目标检测相关文章，其中不少甚至是论文作者自己写的，极具食用价值。通过阅读这些文章，不仅加深了我对现有目标检测领域的理解，还让我深深体会到了同行们对科研的热爱，一句话概括：受益匪浅。因此我打算将自认为不错的知乎文章分享出来，希望能让对目标检测感兴趣的同学们更快地了解目标检测，认识在这个领域辛勤耕耘的大神们。开放的社区也一定会更加促进目标检测领域的研究！

需要说明的是本文并没有包揽所有目标检测文章，只有那些我读过并且觉得受益匪浅的文章。

（以下排名不分先后，单纯按照我的收藏夹顺序...）

一、基础

【1】作为目标检测领域最经典的模型，Faster RCNN 的大名无人不知无人不晓。而全网把 Faster RCNN 讲的最透彻的，非此文莫属。仅凭一篇文章就让无数同学记住了白裳这个名字。强烈安利，新人必看。

白裳：一文读懂Faster RCNN
https://zhuanlan.zhihu.com/p/31426458

【2】作者为旷视科技南京研究院研究员，本文针对mmAP这一经典的目标检测评价指标详细解析其定义初衷和具体计算方式；下半篇深入分析mmAP的特点，并介绍针对这些特点现有方法如何“hack” mmAP，最后将提出几个mmAP未考虑到的评测要素。

zzzz1：浅析经典目标检测评价指标--mmAP（一）
https://zhuanlan.zhihu.com/p/55575423
zzzz1：浅析经典目标检测评价指标--mmAP（二）
https://zhuanlan.zhihu.com/p/56899189

【3】作者为清华CS博士，本文从Normalization的背景讲起，用一个公式概括 Normalization的基本思想与通用框架，将各大主流方法一一对号入座进行深入的对比分析，并从参数和数据的伸缩不变性的角度探讨Normalization有效的深层原因。

Juliuszh：详解深度学习中的Normalization，BN/LN/WN
https://zhuanlan.zhihu.com/p/33173246

【4】作者为百度CV工程师，本文详细阐述了目前分类损失函数为何多用交叉熵，而不是KL散度。

KevinCK：交叉熵、相对熵（KL散度）、JS散度和Wasserstein距离（推土机距离）
https://zhuanlan.zhihu.com/p/74075915

【5】本文节选自王峰博士的毕业论文。Softmax交叉熵损失函数应该是目前最常用的分类损失函数了，本文从最优化的角度来推导出Softmax交叉熵损失函数，极具启发性。

王峰：从最优化的角度看待Softmax损失函数
https://zhuanlan.zhihu.com/p/45014864

【6】本文指出了学术论文与工业界需求偏差，分析了为什么有些模型FLOPs很低，但其推理速度却很慢。

Phoenix Li：FLOPs与模型推理速度
https://zhuanlan.zhihu.com/p/122943688

【7】空洞卷积(Dilated/Atrous Convolution)，广泛应用于语义分割与目标检测等任务中。本文介绍了空洞卷积的作用，感受野的计算，以及其gridding问题。

点点点：总结-空洞卷积(Dilated/Atrous Convolution)
https://zhuanlan.zhihu.com/p/50369448

【8】本文介绍了两大类处理目标多尺度的方法：图像金字塔和特征金字塔。

点点点：总结-CNN中的目标多尺度处理zhuanlan.zhihu.com
https://zhuanlan.zhihu.com/p/70523190

【9】本文指出对于CNN而言，深度之外，感受野以及该感受野上的通道数，真正决定了网络的性能。CNN是一种利用卷积实现二维泛函空间到二维泛函空间映射的神经网络。

akkaze-郑安坤：CNN真的需要下采样（上采样）吗?(原创)
https://zhuanlan.zhihu.com/p/94477174

【10】教你如何计算神经网络的复杂度

Michael Yuan：卷积神经网络的复杂度分析
https://zhuanlan.zhihu.com/p/31575074

【11】本文提炼了一个核心观点：目标检测中存在多种多样的不平衡，这些不平衡会影响最终的检测精度，而现有的许多研究可以归结为解决这些不平衡方法。将不平衡分为四类：类别不平衡，尺度不平衡；空间不平衡，多任务损失优化之间的不平衡。

ChenJoya：Imbalance Problems in Object Detection: A Review
https://zhuanlan.zhihu.com/p/82371629

【12】能否对卷积神经网络工作原理做一个直观的解释？
https://www.zhihu.com/question/39022858/answer/224446917

【13】stone：令人拍案称奇的Mask RCNN
https://zhuanlan.zhihu.com/p/37998710

【14】视频中的目标检测与图像中的目标检测具体有什么区别？
https://www.zhihu.com/question/52185576/answer/155679253

【15】中国移不动：5分钟理解Focal Loss与GHM——解决样本不平衡利器
https://zhuanlan.zhihu.com/p/80594704

【16】燕小花：目标检测小tricks--样本不均衡处理
https://zhuanlan.zhihu.com/p/60612064

【17】YaqiLYU：目标检测中的Anchor
https://zhuanlan.zhihu.com/p/55824651

【18】小小将：目标检测|SSD原理与实现
https://zhuanlan.zhihu.com/p/33544892

【19】小小将：目标检测|YOLO原理与实现
https://zhuanlan.zhihu.com/p/32525231

二、综述

【1】当时带领我入坑的目标检测综述，记录了2017.12.31之前的所有目标检测算法。让当时的我了解到原来目前目标检测领域的深度学习方法主要分为两类：two stage 和 one stage。

Ronald：综述：深度学习时代的目标检测算法zhuanlan.zhihu.com
https://zhuanlan.zhihu.com/p/33277354

【2】俞刚博士在目标检测领域也是很出名的大佬，之前在旷视科技待了5年，任Detection组组长，19年年底跳槽到腾讯PCG光影研究室。下面这篇文章是他在旷视的时候做的分享，讲述了什么是目标检测，其技术现状是什么；目前目标检测领域的五个挑战点及旷视分别给出的技术解决方案；最后展望了目标检测的未来，the devil is in the detail。

旷视科技：R Talk | 旷视科技目标检测概述：Beyond RetinaNet and Mask R-CNN
https://zhuanlan.zhihu.com/p/38154492

【3】一篇关于旋转目标检测论文的综述。在目前已知开源的数据集中，只有遥感和文字类数据集才涉及到旋转框的目标检测。（还有少量未开源的logo/商品数据集）

qianlinjun：旋转目标(遥感/文字)检测方法整理（2017-19年）
https://zhuanlan.zhihu.com/p/98703562

【4】文本作者为国科大CS博士，目前就职于微软亚研院。知乎专栏致力于计算机视觉迁移学习相关研究。

王晋东不在家：《迁移学习简明手册》发布啦！
https://zhuanlan.zhihu.com/p/35352154

【5】本文作者为旷视研究员。人脸检测是人脸识别的第一站，旷视的努力主要体现在紧紧围绕人脸检测领域顽固而核心的问题展开，攻坚克难，功夫花在刀刃上，比如人脸尺度的变动及遮挡等，实现速度与精度的双重涨点。

王剑锋：人脸检测江湖的那些事儿——从旷视说起
https://zhuanlan.zhihu.com/p/56619497

三、Anchor Free

【1】这篇文章主要讲一下有代表性的Anchor-Free模型(包括DenseBox、YOLO、CornerNet、ExtremeNet、FSAF、FCOS、FoveaBox)，分成3个部分来介绍(早期探索、基于关键点、密集预测)。最后作者认为设计合适的gt，是提升目标检测速度和精度的关键。

陀飞轮：目标检测：Anchor-Free时代
https://zhuanlan.zhihu.com/p/62103812

【2】陈恺博士是大名鼎鼎的mmdetection的作者，他毕业于港中文，目前就职于商汤科技。本文揭示了几篇anchor free论文设计的异曲同工之妙。历史的车轮滚滚向前， 目标检测研究似乎也在不断轮回。

陈恺：物体检测的轮回: anchor-based 与 anchor-free
https://zhuanlan.zhihu.com/p/62372897

【3】本文作者王乃岩博士为图森首席科学家。

Naiyan Wang：聊聊Anchor的"前世今生"（上）
https://zhuanlan.zhihu.com/p/63273342

Naiyan Wang：聊聊Anchor的"前世今生"（下）
https://zhuanlan.zhihu.com/p/68291859

四、神经架构搜索 NAS

CLAY：神经网络架构搜索(NAS)中的milestones
https://zhuanlan.zhihu.com/p/94252445

如何评价Google Brain团队最新检测论文SpineNet？
https://www.zhihu.com/question/360562458/answer/959198888

五、从头训练

【1】朱睿是ScratchDet的作者，目前在港中文读研，他开门见山地指出关于从0训练检测器的个人观点：1）需要能够稳定梯度的优化手段（比如clip_gradient、BN、GN、SN、等等）；2）训练足够多的epoch与合适的学习率；3）对于小数据集，在训练时需要一定的数据增广。

如何评价何恺明等 arxiv 新作 Rethinking ImageNet Pre-training？
https://www.zhihu.com/question/303234604/answer/537395863

【2】沈志强是DSOD的作者，他在这篇文章中指出：起初从头训练之所以没有使用预训练模型效果好，更本质的一点是batch size太小（通常每张卡上1或2）导致BN收敛不好。而最近出现的GN，SN缓解了这个问题。

沈志强：Object Detection from Scratch - A Brief Review
https://zhuanlan.zhihu.com/p/137410354

六、展望未来

【1】作者为北大数院助理教授，本文提出了未来深度学习领域值得 follow 的几个大方向：1）深入反思和理解深度学习的行为；2）新模型的构建；3）新的数据场景或数据结构中的深度学习模型；4）Learning-enhanced algorithms；5）对应用友好的模型和算法；6）和硬件结合的方向。

时至今日，深度学习领域有哪些值得追踪的前沿研究？
https://www.zhihu.com/question/385326992/answer/1164005349

【2】作者为旷视科技实习生，本文认为：2017年是顶峰，2018年呈现饱和趋势，2019年基本宣告了这个时代的落幕。如果真的选择做纯目标检测，必须去啃硬骨头了。

想知道目标检测领域中还有哪些方向能做？
https://www.zhihu.com/question/351254577/answer/861582672

七、研究心得

zibuyu9：好的研究想法从哪里来
https://zhuanlan.zhihu.com/p/93765082

陈天奇：机器学习科研的十年
https://zhuanlan.zhihu.com/p/74249758

Naiyan Wang：闲聊几句科研三观
https://zhuanlan.zhihu.com/p/37042197

田渊栋：一些感悟
https://zhuanlan.zhihu.com/p/26178137

八、工程经验

ps. 因为我自己主要用pytorch，主要都是关于pytorch的～

巽二：简单两步加速PyTorch里的Dataloader
https://zhuanlan.zhihu.com/p/68191407

张皓：PyTorch Cookbook（常用代码段整理合集）
https://zhuanlan.zhihu.com/p/59205847

Pytorch有什么节省显存的小技巧？
https://www.zhihu.com/question/274635237/answer/755102181

lbin：pytorch + apex 生活变得更美好
https://zhuanlan.zhihu.com/p/57958993

Jack Stark：[深度学习框架]PyTorch常用代码段
https://zhuanlan.zhihu.com/p/104019160

商汤科技SenseTime：模型量化了解一下？
https://zhuanlan.zhihu.com/p/132561405

如何评价商汤开源的 mm-detection 检测库？
https://www.zhihu.com/question/294578141/answer/509367634

九、比赛技巧

Caleb Ge：Crowdhuman人体检测比赛第一名经验总结
https://zhuanlan.zhihu.com/p/68677880

AI科技大本营：Hinton等人最新研究：大幅提升模型准确率，标签平滑技术到底怎么用?
https://zhuanlan.zhihu.com/p/72685158

商汤科技SenseTime：CVPR 2020丨商汤TSD目标检测算法获得Open Images冠军
https://zhuanlan.zhihu.com/p/131576433

十、论文笔记

2020

Amusi：大神接棒，YOLOv4来了！
https://zhuanlan.zhihu.com/p/135909702

Amusi：ResNeSt 实现有误？
https://zhuanlan.zhihu.com/p/135220104

Hassassin：一行代码提升迁移性能 | CVPR2020 Oral
https://zhuanlan.zhihu.com/p/121507249

mileistone：也谈阿里达摩院的频域学习论文
https://zhuanlan.zhihu.com/p/115584408)

2019

陈恺：Guided Anchoring: 物体检测器也能自己学 Anchor
https://zhuanlan.zhihu.com/p/55854246)

pprp：打通多个视觉任务的全能Backbone:HRNet
https://zhuanlan.zhihu.com/p/134253318

陀飞轮：GCNet：当Non-local遇见SENet
https://zhuanlan.zhihu.com/p/64988633)

OLDPAN：扔掉anchor！真正的CenterNet——Objects as Points论文解读
https://zhuanlan.zhihu.com/p/66048276

TeddyZhang：目标检测：FCOS（2019）
https://zhuanlan.zhihu.com/p/62869137

如何评价zhangshifeng最新的讨论anchor based/ free的论文?
https://www.zhihu.com/question/359595879/answer/927861326

如何看待 CVPR2019 论文 Libra R-CNN（一个全面平衡的目标检测器）？
https://www.zhihu.com/question/319458937/answer/647082241

Naiyan Wang：TridentNet：处理目标检测中尺度变化新思路
https://zhuanlan.zhihu.com/p/54334986)

2018

Naiyan Wang：CVPR18 Detection文章选介（上）
https://zhuanlan.zhihu.com/p/35882192

Naiyan Wang：CVPR18 Detection文章选介（下）
https://zhuanlan.zhihu.com/p/36431183

商汤科技SenseTime：商汤科技44篇论文入选CVPR 2018
https://zhuanlan.zhihu.com/p/36688720)

持续更新中，欢迎推荐好文～

好消息！

小白学视觉知识星球

开始面向外开放啦👇👇👇

 
 
19174e4df7f88d468fc4fb57019ef3b1.jpeg
 
 
下载1：OpenCV-Contrib扩展模块中文版教程

在「小白学视觉」公众号后台回复：扩展模块中文教程，即可下载全网第一份OpenCV扩展模块教程中文版，涵盖扩展模块安装、SFM算法、立体视觉、目标跟踪、生物视觉、超分辨率处理等二十多章内容。


下载2：Python视觉实战项目52讲
在「小白学视觉」公众号后台回复：Python视觉实战项目，即可下载包括图像分割、口罩检测、车道线检测、车辆计数、添加眼线、车牌识别、字符识别、情绪检测、文本内容提取、面部识别等31个视觉实战项目，助力快速学校计算机视觉。


下载3：OpenCV实战项目20讲
在「小白学视觉」公众号后台回复：OpenCV实战项目20讲，即可下载含有20个基于OpenCV实现20个实战项目，实现OpenCV学习进阶。


交流群

欢迎加入公众号读者群一起和同行交流，目前有SLAM、三维视觉、传感器、自动驾驶、计算摄影、检测、分割、识别、医学影像、GAN、算法竞赛等微信群（以后会逐渐细分），请扫描下面微信号加群，备注：”昵称+学校/公司+研究方向“，例如：”张三 + 上海交大 + 视觉SLAM“。请按照格式备注，否则不予通过。添加成功后会根据研究方向邀请进入相关微信群。请勿在群内发送广告，否则会请出群，谢谢理解~
 


                

        

        

        

    

  


    


                



	

		

			

				
					
在时间序列分析中应用小波变换提取特征

				
			

			

				

					AI天才研究院
				

				

					04-03
					
					1085
					
				

			

		

		

			
				
时间序列分析是数据科学和信号处理中的重要研究领域，它涉及对随时间变化的数据进行分析和预测。在实际应用中，时间序列数据往往包含复杂的模式、趋势和噪声，这使得直接从原始数据中提取有用信息变得困难。传统的时间序列分析方法，如傅里叶变换，虽然在频域分析上表现出色，但在处理非平稳信号时存在局限性。小波变换作为一种强大的信号处理工具，近年来在时间序列分析中得到了广泛应用。它能够在时间和频率域同时提供信号的局部特征，特别适合处理非平稳信号和瞬态事件。通过小波变换，我们可以。

			
		

	



                

            
              



	

		

			

				
					
大语言模型在金融风控中的应用

				
			

			

				

					AI天才研究院
				

				

					03-09
					
					686
					
				

			

		

		

			
				
金融风控是金融机构确保其资产安全和业务稳定的重要手段。随着金融市场的复杂性和交易量的增加，传统的风控方法已难以应对日益增长的风险。近年来，随着大数据和人工智能技术的快速发展，金融风控领域逐渐引入了新的技术手段，其中大语言模型的应用尤为引人注目。大语言模型（Large Language Models, LLMs）通过在大规模文本数据上进行预训练，具备了强大的语言理解和生成能力。这些模型不仅能够处理结构化数据，还能从非结构化文本中提取有价值的信息，从而为金融风控提供了新的解决方案。

			
		

	



              


  
              

                


	

		

			

				
					
NeurIPS 2022 | FSD：全稀疏的3D目标检测器（中科院&图森未来）

				
			

			

				

					CV_Autobot的博客
				

				

					11-17
					
					1455
					
				

			

		

		

			
				
作者|明月不谙离苦 编辑| Cver原文链接：https://www.zhihu.com/people/fan-lue-90点击下方卡片，关注“自动驾驶之心”公众号ADAS巨卷干货，即可获取点击进入→自动驾驶之心【多传感器融合】技术交流群后台回复【多传感器融合综述】获取图像/激光雷达/毫米波雷达融合综述等干货资料！介绍一下我们组前段时间的一个微小工作Fully Sparse 3D Obje...

			
		

	





	

		

			

				
					
陈天奇：深度学习编译技术的现状和未来

				
			

			

				

					喜欢打酱油的老鸟
				

				

					05-18
					
					1621
					
				

			

		

		

			
				
https://www.toutiao.com/a6690418726631637512/



2019-05-13 16:03:04


传统的深度学习框架采用人工优化算子，然后建立运行时图解释器来解决内存分配调度等问题。深度学习编译器技术路线一般指在优化过程中采用了自动或者半自动的代码生成用以替代人工优化。深度学习编译器无疑是最近非常热门的话题。本文主要探讨深度学习编译技术的现状和未来。
...

			
		

	



		

			
		



	

		

			

				
					
【深度学习SSD】——深刻解读SSD tensorflow及源码详解

				
			

			

				

					c20081052的专栏
				

				

					05-22
					
					4万+
					
				

			

		

		

			
				
本文主要针对SSD的tensorflow框架下的实现的源码解读即对网络模型的理解。

【前言】

首先在github上下载tensorflow版的SSD repository：https://github.com/balancap/SSD-Tensorflow

同时附上论文地址：SSD 论文下载

解压SSD-Tensorflow-master.zip 到自己工作目录下。







S...

			
		

	





	

		

			

				
					
SSD目标检测之默认框的生成(Python)

				
			

			

				

					killfat的博客
				

				

					04-30
					
					1721
					
				

			

		

		

			
				
SSD物体检测论文：arXiv1512.02325

SSD作为较新出现的物体检测算法，拥有网络搭建简单、无需细节调参的优秀特点。其不仅用于物体检测，还可应用于文字检测任务。近期实现的TextBox(arXiv1611.06779)文字检测借鉴了SSD的default boxes。虽然算法不难理解，但是实现过程中遇到了不少问题。通过学习借鉴他人代码以及自己总结，特在此记录生成默认框部分的方法与思路...

			
		

	





	

		

			

				
					
SSD算法详解

					
热门推荐

				
			

			

				

					ytusdc的博客
				

				

					01-21
					
					4万+
					
				

			

		

		

			
				
SSD github : https://github.com/weiliu89/caffe/tree/ssd

SSD paper :https://arxiv.org/abs/1512.02325

SSD 动态PPT：https://docs.google.com/presentation/d/1rtfeV_VmdGdZD5ObVVpPDPIODSDxKnFSU0bsN_rgZXc/pu...

			
		

	





	

		

			

				
					
这一年，这些书：2022年读书笔记

				
			

			

				

					Heartsuit的博客
				

				

					12-31
					
					3万+
					
				

			

		

		

			
				
Note: 以下 `markdown` 格式文本由 `json2md` 自动转换生成，可参考[JSON转Markdown：我把阅读数据从MongoDB中导出转换为.md了](https://blog.csdn.net/u013810234/article/details/113360229)了解具体的转换过程。2022年读书笔记

			
		

	





	

		

			

				
					
Deep Learning for Generic Object Detection: A Survey 阅读笔记（目标检测综述）

				
			

			

				

					qq_34135560的博客
				

				

					11-01
					
					4496
					
				

			

		

		

			
				
目录

摘要

1.介绍

1.1与以前的评论比较

2.背景

2.1问题

2.2.主要挑战

2.2.1准确性相关的挑战

2.2.2效率相关的挑战

2.3过去二十年的进展

3.框架

3.1基于区域（两阶段框架）

3.2一阶段方法

4.基本的子问题

4.1DCNN基于对象表示

4.1.1流行的CNN结构

4.1.2改进对象表示的方法

4.2 上下文建模

4.3检测prop...

			
		

	





	

		

			

				
					
终于！有人总结了大模型学习资料！零基础入门到精通，收藏这一篇就够了

				
			

			

				

					Python_paipai的博客
				

				

					09-05
					
					1066
					
				

			

		

		

			
				
大家好，我发现了一个大模型学习的神库，包含大量LLM教材和资料，并绘制了学习路线图。可以帮助快速掌握大模型的应用和开发技巧。

			
		

	





	

		

			

				
					
人脸识别入门论文《Deep Facial Expression Recognition: A Survey》学习笔记

				
			

			

				

					weixin_43897882的博客
				

				

					03-23
					
					5072
					
				

			

		

		

			
				
Abstract
随着面部表情识别（FER）从实验室控制向野外挑战的转变，以及深度学习技术在各个领域的成功应用，深度神经网络越来越多地被用来学习用于自动FER的判别表示。最近的深度fers系统一般集中在两个重要的问题上：由于缺乏足够的训练数据而导致的过度拟合和与表情无关的变化，如光照、头部姿势和身份偏差。在本文中，我们提供了一个全面的调查，包括数据集和算法，提供深入了解这些内在的问题。首先，我们介绍了文献中广泛使用的可用数据集，并为这些数据集提供了公认的数据选择和评估原则。然后，我们描述了一个deepfer

			
		

	





	

		

			

				
					
Deep Reinforcement Learning : An Overview(Yuxi Li) 学习笔记

				
			

			

				

					weixin_44412076的博客
				

				

					03-14
					
					3772
					
				

			

		

		

			
				
翻译的比较粗糙，仅供参考。

2.2 Deep Learning

深度学习与浅层学习形成对比。对于许多机器学习算法，如线性回归、逻辑回归、支持向量机(SVMs)、决策树和增强等，我们有输入层和输出层，在训练前可以用人工特征工程对输入进行转换。在深度学习中，在输入层和输出层之间有一个或多个隐藏层。在除输入层外的每一层，我们计算每个单元的输入，作为上一层单元的加权和;然后，我们通常使用非线性变换，或...

			
		

	





	

		

			

				
					
LLM大模型综述

				
			

			

				

					zh515858237的专栏
				

				

					01-10
					
					2万+
					
				

			

		

		

			
				
LLM其实就是large language model，大语言模型。如果对“最终任务”进一步进行分类，又大致可以分为两大不同类型的任务：自然语言理解类任务和自然语言生成类任务。如果排除掉“中间任务”的话，典型的自然语言理解类任务包括文本分类、句子关系判断、情感倾向判断等，这种任务本质上都是分类任务，就是说输入一个句子（文章），或者两个句子，模型参考所有输入内容，最后给出属于哪个类别的判断。自然语言生成也包含很多NLP研究子方向，比如聊天机器人、机器翻译、文本摘要、问答系统等。

			
		

	





	

		

			

				
					
https://zhuanlan.zhihu.com/p/36070173

				
			

			

				

					Julia & Rust & Python
				

				

					05-11
					
					3万+
					
				

			

		

		

			
				
https://zhuanlan.zhihu.com/p/36070173

			
		

	





	

		

			

				
					
用 Python 从零开始创建神经网络（七）：梯度下降（Gradient Descent）/导数（Derivatives）

				
			

			

				

					xzs1210652636的博客
				

				

					11-15
					
					1274
					
				

			

		

		

			
				
随机更改并搜索最佳权重和偏差并未取得成功，主要原因是权重和偏差的可能组合是无限的，我们需要比单纯的运气更智能的方法才能取得任何成功。每个权重和偏差对损失的影响程度也不同——这种影响取决于参数本身以及当前样本，这些样本是第一层的输入。然后这些输入值被权重相乘，所以输入数据影响神经元的输出，并影响权重对损失的影响。相同的原理适用于下一层的偏差和参数，它们以前一层的输出作为输入。这意味着对输出值的影响取决于参数以及样本——这就是为什么我们要分别计算每个样本的损失值。最后，权重或偏差如何影响总体损失的函数并不一定是

			
		

	





	

		

			

				
					
深入探索离散 Hopfield 神经网络

				
			

			

				

					梵心白莲的博客
				

				

					11-14
					
					1153
					
				

			

		

		

			
				
能量函数是网络的一个重要特性，它可以用来衡量网络的状态。例如，对于一个具有 n 个神经元的离散 Hopfield 网络，其能量函数可以表示为 E = -1/2ΣΣ Wij Xi Xj，其中 Wij 是连接权重，Xi 和 Xj 是神经元的状态。例如，在一些实验中，使用离散 Hopfield 神经网络对带噪声的数字图像进行识别，当噪声强度较低时，网络能够以较高的准确率恢复正确的数字图像。它能够收敛到稳定的平衡状态，并以其作为样本的记忆信息，同时具有回忆能力，能够从某一残缺的信息回忆起所属的完整的记忆信息。

			
		

	





	

		

			

				
					
【动手学深度学习Pytorch】4. 神经网络基础

					
最新发布

				
			

			

				

					weixin_62403234的博客
				

				

					11-18
					
					377
					
				

			

		

		

			
				
自定义层Y.mean()# 使用自定义层直接执行正向传播计算。

			
		

	





	

		

			

				
					
用 Python 从零开始创建神经网络（五）：损失函数（Loss Functions）计算网络误差

				
			

			

				

					xzs1210652636的博客
				

				

					11-12
					
					682
					
				

			

		

		

			
				
在随机初始化的模型中，或者即使是采用更复杂方法初始化的模型中，我们的目标是随着时间的推移培训或教育一个模型。为了训练一个模型，我们调整权重和偏差以提高模型的准确性和置信度。为此，我们需要计算模型的错误量。损失函数，也被称为成本函数，是量化模型错误程度的算法。损失是这一指标的衡量。由于损失是模型的错误，我们理想情况下希望它为0。

			
		

	





	

		

			

				
					
【第5章 | 神经网络】(python机器学习）

				
			

			

				

					w18781614420的博客
				

				

					11-18
					
					721
					
				

			

		

		

			
				
假设现在要判别是否给某个用户办理信用卡，我们已有的是用户的性别、年龄、学历、工作年限、负债情况等信息，用户金融信息情况统计表如表所示。感知机(Perceptron)感知机算法于1957年由Rosenblatt提出，是对生物神经细胞的简单抽象， 是神经网络与支持向量机的基础。神经网络之所以能够发挥强大的作用就是在感知机的结构上作了调整。 而支持向量机（support vector machine，SVM）算法的基础就是感知机。因此，有必要了解基础的感知机算法（perceptron learning algor

			
		

	





	

		

			

				
					
深度学习目标检测综述：从Fast R-CNN到NAS-FPN的进展与COCO mAP比较

				
			

			

				

					
				

			

		

		

			
				
本文档"A Survey of Deep Learning-based Object Detection"是一篇深入探讨深度学习在目标检测领域的综述性论文。作者列举了Licheng Jiao、Fang Liu等多位IEEE高级成员，共同阐述了目标检测作为计算机视觉的重要分支...

			
		

	



              




          




        



    





    



      

      

        
      

      





	

		评论	
	

	
	




  

    

      添加红包
      
    

    

      

        
        

          
          
        

        
请填写红包祝福语或标题

      

      

        
        

          
          个
        

        
红包个数最小为10个

      

      

        
        

          
          元
        

        
红包金额最低5元

      

      

        
        

          当前余额3.43元
          前往充值 >
        

      

      

        

          需支付：10.00元
        

        
        
      

    

  





  

    
    
  

  

    
    
  








  

    

      

        

          

            
            
成就一亿技术人!

          

          

        

        

          

          

            领取后你会自动成为博主和红包主的粉丝
            规则
          

        

      

      

        

          

            
              
            
            

              
hope_wisdom
 发出的红包
            

          

        

        

          

          

          

        

      

    

    

  



      
      

      
实付元

      
使用余额支付

      

        

          

            
            点击重新获取
          

        

        
扫码支付

      

      

        
          
            
          
          
        
      

      

        
        钱包余额
          0
          

            
            

              

                
抵扣说明：

                
 1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
 2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

              

            

          

      

      余额充值