深度学习
文章平均质量分 85
henyaoyuancc
这个作者很懒,什么都没留下…
展开
-
机器学习基础
马尔可夫链(Markov Chain)可以说是机器学习和人工智能的基石,在强化学习、自然语言处理、金融领域、天气预测、语音识别方面都有着极其广泛的应用The future is independent of the past given the present 未来独立于过去,只基于当下。过去所有的信息都已经被保存到了现在的状态,基于现在就可以预测未来。原创 2024-01-11 14:00:16 · 420 阅读 · 0 评论 -
语义分割学习
实力分割学习和总结原创 2023-02-15 15:00:37 · 893 阅读 · 1 评论 -
跟踪算法学习
跟踪算法的学习和总结原创 2022-07-04 13:37:34 · 189 阅读 · 0 评论 -
多任务学习
深度学习学习中,多任务了解原创 2022-06-02 14:55:07 · 338 阅读 · 0 评论 -
目标检测-自动驾驶
目标检测-自动驾驶1 简介2 End-to-End Trainable One-Stage Parking Slot Detection Integrating Global and Local Information2.1 全局特征2.2 局部特征2.3 两分支的信息整合1.11 简介有前视图、后视图、周视图、环视图等概念2 End-to-End Trainable One-Stage Parking Slot Detection Integrating Global and Local Infor原创 2022-05-30 16:13:04 · 977 阅读 · 0 评论 -
以图搜图技术总结
以图搜图1 以图搜图1.11 以图搜图1.1参考github总结原创 2022-02-28 11:48:03 · 510 阅读 · 0 评论 -
DL基础知识
深度学习基础1 归一化1.1 BN1.1 LN1 归一化1.1 BN1.1 LN又叫layer normalization层归一化,一般用在nlp中。LN的主要思想是:是在每一个样本(一个样本里的不同通道)上计算均值和方差,而不是 BN 那种在批方向计算均值和方差!看源码我们也可以看出来,其中outputs的shape=(btz, seq_len, dim)mean = K.mean(outputs, axis=-1, keepdims=True) #mean的shape(btz, seq_l原创 2022-02-14 17:12:05 · 1446 阅读 · 0 评论 -
训练策略介绍
训练策略1 学习率1.1 余弦退火1.2 warm up1 学习率1.1 余弦退火训练时当越来越接近Loss值的全局最小值时,学习率应该变得更小来使得模型尽可能接近这一点,而余弦退火(Cosine annealing)可以通过余弦函数来降低学习率。余弦函数中随着x的增加余弦值首先缓慢下降,然后加速下降,再次缓慢下降。这种下降模式能和学习率配合,以一种十分有效的计算方式来产生很好的效果简单的单步长余弦退火,pytorch中cawb_steps 为 []多 step 重启动,训练时陷入局部最小之后,原创 2022-02-11 18:26:05 · 2006 阅读 · 0 评论 -
DL目标检测
目标检测YOLO系列归并排序YOLO系列NameAcademyscorescoreHarry PotterGryffindor90scoreHermione GrangerGryffindor100scoreDraco MalfoySlytherin90score归并排序归并排序使用归并的思想原创 2022-02-10 15:34:06 · 2170 阅读 · 0 评论 -
聚类算法总结
聚类算法的分类聚类算法有很多种分法,体系也很大,这里举例几种分法:基于划分的聚类:聚类目标是使得类内的点足够近,类间的点足够远,常见的如k-means及其衍生算法基于密度的聚类:当邻近区域的密度超过某个阈值,则继续聚类,如DBSCAN; OPTICS层次聚类:这个下面会具体介绍到,包括合并的层次聚类,分裂的层次聚类,实际上可以看作是二叉树的生成和分裂过程。下面会介绍实际应用中常用的HDBSCAN基于图的聚类: 通过建图来进行聚类,这是聚类算法中的大头,很多较新的聚类算法都有图聚类的思想。这篇文章会原创 2022-01-24 17:17:46 · 1568 阅读 · 0 评论 -
知识蒸馏综述
知识蒸馏简介logit蒸馏开山之作简介蒸馏算法分为多种,基于特征、logit以及基于关系的三种logit蒸馏开山之作论文名称:Distilling the Knowledge in a Neural Network Hilton 2015提出了标签温度的概念,温度T越高,标签越soft具体步骤:1)在T=1时训练教师网络2)在高温下用teancher softmax输出的概率作为soft label,与GT的hard label进行融合训练hard损失使用交叉熵损失,soft损原创 2022-01-07 15:29:18 · 2080 阅读 · 0 评论 -
reid技术总结
rerank,这个讲的比较通俗rerank原创 2021-12-27 17:24:00 · 1615 阅读 · 0 评论 -
特征检索总结
特征检索Product Quantization乘积量化训练量化查询Product Quantization乘积量化PQ系列的算法大致的套路分三个阶段:训练、量化、查询训练假设特征向量维度D=64维,将原始的D维向量分成M=8段,那么每段的子维度subD=8。对每个段的sub特征进行聚类,一般使用KNN,假设聚类中心数k=256,这样也就得到了M*k个聚类中心,也叫码本。量化训练阶段得到了得到了M*k个聚类中心即码本,每个聚类中心都是一个sub向量,这个码本太长了不好表示,我们想有一个类似索引原创 2021-12-09 14:55:17 · 1901 阅读 · 0 评论 -
3D检测算法基础知识学习
3D点云数据大多数点云数据是由3D扫描设备产生的,例如激光雷达(2D/3D),立体摄像头(stereo camera),越渡时间相机(time-of-flight camera) 。这些设备用自动化的方式测量在物体表面的大量的点的信息,然后用某种数据文件输出点云数据。这些点云数据就是扫描设备所采集到的。数据的格式,就是(x,y,z)*n点云数据格式介绍1点云数据格式的可视化点云数据是3D激光雷达扫描仪的基本输出。这通用的点云数据文件形式是3D坐标文件(经常指一个xyz文件)。这些文件是ASC原创 2021-09-19 18:33:05 · 575 阅读 · 0 评论 -
tensorRT加速pytorch模型
pytorch模型保存方法简单的保存方法# 保存整个网络torch.save(net, PATH) # 保存网络中的参数, 速度快,占空间少torch.save(net.state_dict(),PATH)#--------------------------------------------------#针对上面一般的保存方法,加载的方法分别是:model_dict=torch.load(PATH)model_dict=model.load_state_dict(torch.load(原创 2021-08-19 11:04:47 · 349 阅读 · 0 评论 -
seq2seq
学习seq2seq,讲内容记录下来原创 2021-03-16 20:49:48 · 824 阅读 · 0 评论