机器学习
文章平均质量分 93
echoKangYL
这个作者很懒,什么都没留下…
展开
-
算法稳定性理论(algorithmic stability theory)与泛化误差(generalization error)
基于Bousquet 2002年发表于JMLR上的文章Stability and Generalization介绍一些稳定性定义以及它们与泛化误差之间的关系,构建算法稳定性理论基本框架,对algorithmic stability theory进行扫盲式科普。原创 2022-07-19 14:56:48 · 2133 阅读 · 1 评论 -
差分隐私相关论文(2) —— Deep Learning with Differential Privacy, Abadi 2016
对Abadi 2016年发表在安全顶会CCS上面的论文Deep Learning with Differential Privacy进行深入分析原创 2022-06-07 11:42:12 · 4694 阅读 · 13 评论 -
差分隐私相关论文(1) —— Differential Privacy, Dwork 2006
之前也有提到过,因为已经转行差分隐私不搞NLP啦,所以之后的博客不会再更新NLP相关内容(尽管曾经的梦想是在NLP领域有所作为哈哈哈),但是如果大家有什么相关问题还是期待着一同讨论哟~好了我们言归正传,本文向大家介绍2006年Dwork大神的一篇文章,文章名字就叫Differential Privacy,应该是差分隐私的开山之作了。首先,差分隐私所描述的隐私保护,针对的都是数据库中的个人数据(...原创 2020-03-13 15:22:22 · 5751 阅读 · 19 评论 -
神经网络基础:DNN、CNN、RNN、RvNN、梯度下降、反向传播
在介绍神经网络之前,首先介绍一下神经元模型。神经元模型可以描述为这样的一张图:对于一个模型而言,我们首先要把握住四个部分:输入、输出、参数以及对应关系。(这一点很重要)在上图所示的神经元模型中,输入为X(X是一个向量【一】DNN...原创 2019-02-01 15:37:47 · 7710 阅读 · 2 评论 -
YOLOv2简述
前些日子看了看YOLOv2算法,算是引领了本人在分类检测算法中的入门吧,综合了一下自己看论文和博客的收获,根据自己的理解简单说一下YOLOv2是怎么回事儿。如果哪里表述有不妥当或者理解偏差欢迎各位大神批评指正。好了那我们进入正题。YOLOv2在原版本的基础上进行改进,在精度上有所提升。为了精度的提升,YOLOv2使用了一些方法和技巧图片中展示了各方法对模型性能的提高:本文主要针对其中几项技术进行分...原创 2018-03-06 13:59:09 · 2559 阅读 · 0 评论 -
机器学习中的一些基本概念
前些日子在学习YOLOv2的过程中,了解了一些机器学习中的基本概念,在此记录下来。如果有些概念理解有误,欢迎各位大神批评指正。【TP、FN、FP、TN】假设某场景:假如某个班级有男生80人,女生20人,共计100人.目标是找出所有女生.现在某人挑选出50个人,其中20人是女生,另外还错误的把30个男生也当作女生挑选出来了.准确率accuracy = (20 + 50) / 100 = 0.7(20...原创 2018-03-06 09:37:17 · 1673 阅读 · 0 评论 -
利用YOLOv2训练数据
在实习期间,需要利用YOLOv2训练自己的一批数据,在网上找了各种博客,其中的方法总是有一些问题。用了很久的时间来解决这些问题,并将解决问题的方法记录下来,希望对大家有所帮助。1.下载YOLOyolo的官网:https://pjreddie.com/darknet/yolo/大概是这样的画风:按照步骤下载并进行图片验证即可。2.数据预处理(该处理方法与参考博客中的方法相同)该阶段建立的文件夹的名称...原创 2018-03-05 15:00:06 · 2775 阅读 · 5 评论 -
初识深度信念网络DBN
第一次接触深度信念网络DBN,结合看到的博客内容简单谈谈理解,如果有哪些地方不太准确,欢迎各位大神批评指正。【概述】周志华老师所著的《机器学习》5.6节对DBN的描述可以用简单一句话来概括:DBN由多层受限Boltzmann机(RBM)堆叠而成,各层RBM预训练完成后,利用一层BP对整个网络进行训练。那么问题来了,RBM是个什么?【受限Boltzmann机(RBM)】每个RBM有两层神经元,显层和...原创 2018-03-02 15:36:50 · 933 阅读 · 0 评论 -
机器学习如何进行调参
调参,真的是让我脱了一层皮的一项工作。调了半天,训练一天,结果什么用都没有的时候真的是绝望……本文总结了自己对于调参的思考和一些常见参数的调整,希望对大家有所帮助。如果本文中有些表述或理解有误,欢迎各位大神批评指正。在实际调整参数之前,我们先要搞清楚两个事情:1.调参的目的是什么?2.调参调的东西具体是什么?第一个问题:调参的最终目的是要使训练之后的模型检测物体更精确,向程序的方向更靠近一步的话,...原创 2018-03-08 16:42:21 · 14907 阅读 · 7 评论 -
物体检测算法SSD简述
其实SSD的论文是在YOLOv2之前看的,但由于那时本人初识机器学习,还不了解基本概念,所以只是囫囵吞枣,没能理解得很透彻,于是今天重新拾起SSD,并编辑出一篇学习记录,希望对大家有所帮助。如果本文中某些表述或理解有误,欢迎各位大神批评指正。下面进入正题。论文原文中提到,作者提出的SSD算法比之前的YOLO算法更快、更精确,精确度可以媲美之前的Faster R-CNN。为了理解方便,本文将原论文中...原创 2018-03-08 14:56:18 · 4597 阅读 · 3 评论 -
新手初识Tensorflow
前些日子偶然接触到Tensorflow,作为一名新手,本人根据Tensorflow中文社区中的文档进行了基础部分的学习,并对学习过程以及学习过程中的问题一并进行了记录。根据本机代码结果整理出这篇文档,希望对大家有所帮助。如果本文任何地方的表述或某些个人理解有所不妥,欢迎各位大神批评指正。注:若本机代码实验运行结果与官方文档不符,本文中的结果记录为本机运行结果。另注:本文有点小长且有些枯...原创 2018-03-07 11:51:44 · 2191 阅读 · 0 评论