![](https://img-blog.csdnimg.cn/20201014180756927.png?x-oss-process=image/resize,m_fixed,h_64,w_64)
随笔
文章平均质量分 56
个人随笔记录
PyBigStar
Good Good Study, Day Day Up!
展开
-
ChatGPT为什么会一本正经胡说八道?我们如何改进它?| 文内附有代码
众所周知,在OpenAI平台上的ChatGPT模型目前有两大痛点:1. 它所学习的数据资料都是截止到2021年为止的,因此无法给出2022年之后的发生的事情。2. 有些时候会出现一些常识性的错误,也就是它会一本正经的胡说八道,比如问它一些历史、数学问题,它可能就会回答出。究其原因,主要是ChatGPT是“生成式回复”。它事先学习了大量的人类的知识以及人类对它的引导和奖励的策略。它本质上依托于一个参数量巨大的神经网络模型,其训练过程是基于它的语料库进行的,而ChatGPT。原创 2023-02-27 16:21:10 · 12393 阅读 · 10 评论 -
MMCV学习——基础篇4(Hook)| 八千字:从设计模式到源码解读
> ``Hook`` 机制在**MMCV**的各个开源库中应用的十分广泛,它主要用于**管理和扩展**[Runner](https://blog.csdn.net/qq_42718887/article/details/127983839)的整个生命周期。通过``Hook``机制在**Runner**的各个**生命周期节点**调用自定义的函数,可以实现丰富的**定制功能**。原创 2022-12-08 21:47:24 · 943 阅读 · 0 评论 -
MMCV学习——基础篇3(fileio)| 五千字:含示例代码教程
``fileio``作为**MMCV**的一个文件操作的核心模块,提供了一套**统一的API**根据**不同的后端**实现**不同格式**文件的序列化(dump)和反序列化(load)。**PS:** 从v1.3.16之后,MMCV才开始支持不同后端文件的序列化和反序列化,具体细节在[#1330](https://github.com/open-mmlab/mmcv/pull/1330)可以看原创 2022-12-04 20:35:00 · 1436 阅读 · 0 评论 -
MMCV学习——基础篇2(Runner)| 九千字:含示例代码教程
[Runner](https://mmcv.readthedocs.io/en/latest/understand_mmcv/runner.html)类是MMCV的一个``核心``组件,它是一个用来``管理训练流程``的引擎,并且支持用户用``少量代码``按照它提供的接口定制化修改训练流程。下面博主按照官方Doc的思路再结合自己的理解讲解一下它。原创 2022-11-23 15:40:32 · 2319 阅读 · 3 评论 -
图卷积神经网络学习资源转载
图卷积神经网络学习资源转载图卷积神经网络(GCN)顾名思意,是一个在图上工作的卷积神经网络。就像卷积这个名字一样,图卷积神经网络就是将普通卷积神经网络的思想,从具有固定结构的图像引入到图时,所得到的一种模型。理论【GCN】图卷积网络(GCN)入门详解,中英对照讲解,有数学推导代码深入浅出带你读懂图卷积神经网络原理和pytorch代码实现...转载 2021-05-21 20:10:39 · 154 阅读 · 0 评论 -
MoCo v1原理解析
Momentum Contrast for Unsupervised Visual Representation Learning论文阅读笔记 首先需要明确的是无监督模型的正确使用姿势,即先在较大的、难以很好标注的数据集上利用无监督训练得到一个pre-trained模型,再根据下游具体的任务,在较小的、可以很好标注的数据集上,进行有监督的fine-tuning。 很多DL Reseachers都认为深度学习的本质其实就是在做两类upstream tasks:Representation Learnin原创 2021-02-17 17:47:55 · 4400 阅读 · 0 评论 -
自我知识蒸馏学习论文总结
自我知识蒸馏学习论文总结 博主看了几篇有关自我知识蒸馏的论文,大致将self-distillation划分为两类:第一类就是从时间的前后进行蒸馏,即前面几个epochs的模型去蒸馏后面几个epochs的模型;第二类就与Deep Supervision类似,即深层的part去蒸馏浅层的part。针对这两大类,博主各写了一篇原论文的阅读笔记,整合在这里方便阅读和查找,也欢迎大家一起探讨。第一类,Self-Knowledge Distillation: A Simple Way for Better Ge原创 2021-02-17 11:29:33 · 1720 阅读 · 0 评论 -
澳大利亚海拔数据 澳大利亚海拔DEM数据
2021美赛 2021美国大学生数学建模 B题 数字高程模型(DEM)数据2021美国大学生数据建模B题 数据下载 和 处理说明原创 2021-02-05 16:24:11 · 6171 阅读 · 28 评论 -
Expected Calibration Error (ECE)模型校准原理解析
对于高风险应用来说,机器学习模型对其预测的置信度是至关重要的。``model calibration(模型校准)``就是要让模型结果预测概率和真实的经验概率保持一致。模型校准这个话题比较小众,博主也是在看一篇Self-KD的论文时才看到的。模型校准的metrics有很多,这里博主仅仅讨论``Expected Calibration Error (ECE)``这一个比较经典的模型校准metric。原创 2021-02-05 14:42:47 · 12056 阅读 · 2 评论 -
Transformer学习资源转载
Transformer学习资源转载深入Attention机制attention_output = Attention(Query, Key, Value) 。在机器翻译<x, y>的encoder-decoder结构之中, Query属于Target,<Key, Value>属于Source。Query就是encoder最后一层和decoder隐层状态所代表的中间语义信息。Key和Value在机器翻译中是一样的,都代表输入x。综上,Attention机制就是利用Targe转载 2021-01-19 11:37:59 · 194 阅读 · 0 评论 -
vscode怎么远程连接docker容器舒服地炼丹
vscode怎么远程连接docker容器舒服地炼丹这里先把我参考的博客贴在这里, 后续再更新详细的步骤0. 参考资料vscode 连接远程服务器上的docker容器Linux下SSH-KEY生成原创 2021-01-13 16:13:27 · 448 阅读 · 0 评论 -
TensorRT学习资源转载
TensorRT学习资源转载TensorRT7.0版本在Linux环境安装,以及安装python API接口,测试TensorRT中的测试用例转载 2021-01-13 11:52:45 · 148 阅读 · 0 评论 -
人脸关键点监测学习资源转载
人脸关键点监测看paper的时候看到了一篇人脸关键点监测的一篇paper,现将一些pre-knowledge的学习资源放在这里,方便复习高斯热力图回归知乎,既有热力图回归也有直接的坐标回归讲解知乎,关键点检测中,为什么要生成高斯图,而不是直接与ground_truth比较?知乎,利用热图回归法来进行特征点定位...转载 2021-01-12 18:00:49 · 118 阅读 · 0 评论 -
自监督学习资源转载
自监督学习资源转载*解读自监督学习(Self-Supervised Learning)几篇相关paper, 知乎, 大致介绍转载 2020-12-22 16:53:21 · 122 阅读 · 0 评论 -
TSN(Temporal Segment Networks) 学习资源转载
TSN(Temporal Segment Networks) 学习资源转载 本论文的motivation主要在于:(1)如何设计一个有效的网络结构去捕捉视频级动作识别这样的长范围时间结构的能力;(2)如何利用有限的训练数据去训练卷积网络。 TSN(Temporal Segment Networks)是一个基于stream-network改进的网络。它提出的主要目的是增强长范围时间结构建模能力,并且结合作者提出的稀疏时间采样的策略和视频级别的监督来保证使用整段视频学习的有效性和高效性。 这是acti原创 2020-12-16 20:36:47 · 246 阅读 · 0 评论 -
光流学习
光流学习计算机视觉–光流法(optical flow)简介光流(optic flow)简介原创 2020-12-14 20:52:06 · 211 阅读 · 0 评论 -
Polar Transform学习记录
Polar Transform反极坐标转换代码极坐标转换原理探究opencv-python官方极坐标转换使用APIopencv官方计算公式原创 2020-12-14 19:00:25 · 639 阅读 · 0 评论 -
胶囊神经网络资源转载和Pytorch实现
胶囊神经网络资源转载胶囊神经网络的简介, 介绍了CNN的缺点以及为啥么出现胶囊神经网络胶囊神经网络原理,用图像讲解胶囊神经网络原理,有代码实现胶囊神经网络动态路由算法原创 2020-12-13 11:02:04 · 835 阅读 · 1 评论 -
图像检索中的概念
class-level retrival是类级别的检索,而instance-level retrival是实例级别的检索。即前者能匹配的正确图像在数据库中可能有很多,而后者能匹配的正确图像在数据库中只有一个。**例如,**要找“一个穿蓝色衣服的金发女郎在打车。” 实际上你只有一个正确答案。不像class-level 或category-level的 要找“女性“可能有很多个正确答案。所以这个问题更细粒度,也更需要detail的视觉和文本特征。...原创 2020-12-02 16:39:17 · 504 阅读 · 0 评论 -
计算机视觉顶级会议和期刊
计算机视觉顶级会议和期刊把CV好的会议和期刊搜集到这里方便查看。文章目录计算机视觉顶级会议和期刊公认版本CV顶级会议CV顶级期刊CCF计算机视觉推荐列表CV会议CV期刊公认版本CV顶级会议 大三顶会CVPR:Internaltional Conference on Computer Vision and Pattern Recogintion (每年)ICCV:IEEE International Conference on Computer Vision(奇数年)ECCV: Euro原创 2020-12-01 11:50:07 · 683 阅读 · 0 评论 -
深度图像资源转载
深度图相关深度图像 depth map与图像深度, 博客园真实场景的双目立体匹配(Stereo Matching)获取深度图详解, 其中有相机内外参的讲解视差图Disparity与深度图Depth Map的一点知识什么是视差图?什么是深度图? 知乎,简单解释相机相关相机内外参, CSDN, 手写笔记相机的fx, fy焦距相机内外参介绍, 知乎...原创 2020-11-23 15:14:01 · 143 阅读 · 0 评论