算法
文章平均质量分 85
ygfrancois
这个作者很懒,什么都没留下…
展开
-
从Python中链表的节点删除思考Python自定义对象的可更改性
在leetcode上做到 203. 移除链表元素的题目,该题目的难度为简单,但是在做的时候,由于对Python中的可更改对象和不可更改对象概念理解不是很深刻,导致看不懂答案。该题的一种解法如下:# Definition for singly-linked list.# class ListNode:# def __init__(self, val=0, next=None):# self.val = val# self.next = nextclass S原创 2021-03-20 16:49:27 · 179 阅读 · 2 评论 -
pytorch分类任务训练几个batch后loss突变为Nan
loss在前几个batch处于正常下降状态,之后突变为Nan,没有增大爆炸的过程。尝试减小学习率,无果。考虑是网络本身有问题导致梯度爆炸。网络分类分支head如下:[nn.Conv3d(ngf, self.opt.n_class, kernel_size=1, padding=0), nn.AdaptiveMaxPool3d((1, None, None))]考虑最后的时间维度的max pooling之后,没有加激活函数,导致该分支输出的数值容易爆炸,所以在之后加了一个tanh层:[n原创 2020-09-01 13:43:42 · 1950 阅读 · 0 评论 -
视频预测算法vid2vid比MCNet好在哪里?
视频是一个时序性的图像,所以在模型中既需要捕捉时间相关性,也需要捕捉空间上的特征。时间相关性可以用LSTM这样的类RNN模型来捕捉,而空间相关性则需要CNN网络。更早一点的ConvLSTM单元就是这种思想。深度学习能够处理各种各样的问题,前提是根据问题本身需要设计相关的网络结构,MCNet和vid2vid是17年和18年比较优秀的视频序列处理算法,本文主要分析vid2vid网络与MCNet相比更加优秀的设计,同时尝试解读设计背后的思考和理由。原创 2019-11-28 22:54:12 · 2347 阅读 · 0 评论 -
对抗样本的创建和防御
先列出两个对抗样本创建的github链接:cleverhans百度的AdvBox什么是对抗样本对抗样本产生原因 对抗样本发生的原因:深度学习模型的高度线性性质,导致通过线性模型参数的点乘累积放大输入图像像素值的微小改变。创建对抗样本1. 白盒No-target攻击——FGSM, I-FGSM •固定模型参数W,b,梯度上...原创 2019-07-29 18:30:46 · 5846 阅读 · 0 评论 -
目标检测算法横向比较,包括backbone、特征融合、loss、proposal/anchor/heatmap、NMS、正负样本设置等
目标检测算法发展移步:目标检测算法本文从算法改进的方向,进行横向比较,包括backbone,特征融合、loss、proposal/anchor/heatmap、NMS、正负样本设置等Reference:Object Detection in 20 Years: A Survey Table of ContentsBackbone改进DenseNetResNeXt(gro...原创 2019-05-27 21:37:34 · 10001 阅读 · 1 评论 -
目标检测算法综述,包括two-stage,one-stage,anchor-free等(未完)
2019年初的目标检测算法综述:Object Detection in 20 Years: A Survey本文不包括传统算法,只讲基于深度学习的主要算法。原创 2019-05-26 01:40:22 · 4551 阅读 · 2 评论 -
Batch Normalization详解和momentum参数理解
论文:https://arxiv.org/pdf/1502.03167.pdf以下博客对batch Normalization的原理,优点和代码解析做了非常清晰的讲解:http://blog.csdn.net/hjimce/article/details/50866313batch Normalization公式注意:上式中的γ和β是两个可以学习的参数(μ是求出的均值,σ是求出的...原创 2019-05-20 21:24:00 · 23361 阅读 · 7 评论 -
3D目标检测算法详解_pointnet, pointnet++,frustum-pointnets,VoteNet
知识点回顾什么是点云,如何获得点云。点云包含了很多信息,除了3维坐标数据之外,还可能包括颜色、分类值、强度值、时间等。 点云数据可以由多种方法获得:1.直接由Lidar激光扫描出点云数据。 2.不同角度的2D图像组合成点云3.由深度图(Depth Map)生成点云,即将图像坐标+深度信息从图像坐标系转换为世界坐标系。 点云和深度图都会出现深度信息的缺失,因为往往传感器只能捕捉物体表面...原创 2019-05-10 10:38:30 · 9898 阅读 · 3 评论 -
异常检测/离群点检测算法汇总
不存在普遍意义上的最优模型,不过有些模型的表现一直不错,建议优先考虑。对于大数据量和高纬度的数据集,Isolation Forest算法的表现比较好。小数据集上,简单算法KNN和MCD的表现不错。模型效果和效率往往是对立的,PCA和MCD的理论类似(都是基于协方差),但是前者是后者的“简洁版”,前者速度更快,但是后者效果更好。HBOS的计算速度快,但效果不稳定,在特征独立的情况下,可能有...原创 2019-04-26 18:10:44 · 17865 阅读 · 1 评论 -
深度学习中使用到的数学知识点
Jacobian matrix雅可比矩阵的重要性在于它体现了一个可微方程与给出点的最优线性逼近.Hessian Matrix黑塞矩阵是一个多元函数的二阶偏导数构成的方阵,描述了函数的局部曲率。黑塞矩阵常用于牛顿法解决优化问题,利用黑塞矩阵可判定多元函数的极值问题。在工程实际问题的优化设计中,所列的目标函数往往很复杂,为了使问题简化,常常将目标函数在某点邻域展开成泰勒多项式...原创 2019-05-05 14:42:53 · 510 阅读 · 0 评论