自定义博客皮肤VIP专享

*博客头图:

格式为PNG、JPG,宽度*高度大于1920*100像素,不超过2MB,主视觉建议放在右侧,请参照线上博客头图

请上传大于1920*100像素的图片!

博客底图:

图片格式为PNG、JPG,不超过1MB,可上下左右平铺至整个背景

栏目图:

图片格式为PNG、JPG,图片宽度*高度为300*38像素,不超过0.5MB

主标题颜色:

RGB颜色,例如:#AFAFAF

Hover:

RGB颜色,例如:#AFAFAF

副标题颜色:

RGB颜色,例如:#AFAFAF

自定义博客皮肤

-+
  • 博客(18)
  • 收藏
  • 关注

原创 sklearn.metrics.f1_score中micro、macro、samples理解

前言micro_f1、macro_f1、example_f1等指标在多标签场景下经常使用,sklearn中也进行了实现,在函数f1_score中通过对average设置"micro"、“macro”、"samples"便可进行上述指标的计算。关于micro_f1、macro_f1网上有很多资料,但example_f1相关资料较少,为此对sklearn.metrics中_classification.py进行了解读,对上述三种指标的计算过程进行简单总结。可以直接看总结部分,如果能理解的话(主要个人表达能力

2020-10-23 12:27:15 2726

原创 Challenging Common Assumptions in the Unsupervised Learning of Disentangled Representations学习与理解

这篇论文是ICML2019两篇best paper之一,针对无监督解耦进行了分析,从理论上证明无监督解耦是不可能的,虽然知乎上存在一些对这篇论文的负面评论,但个人感觉还是对解耦这个概念理解不一致造成的,单从这篇论文中对解耦的理解,我觉得这篇文章的工作是很有意义的。下面内容仅是个人理解,难免有失偏颇,欢迎指正。1 解耦表示首先简单介绍一下解耦这个概念,并没有一个统一的定义,β−VAE\beta-VAEβ−VAE中有提到:A disentangled representation can be define

2020-07-14 18:26:10 1086 5

原创 VAE学习与理解

VAE假设隐变量z服从正态分布,解码器阶段让隐变量z去生成x服从的正态分布的参数μ,σ\mu ,\sigmaμ,σ,并让μ\muμ与样本x越接近越好,因为均值是样本的概率最大。编码器阶段则使得x生成的隐变量尽量落在z服从的正态分布上之所以要落在z的正态分布上,就是想以后可以直接从这个正态分布上取一个向量,然后去生成新的样本,这也正是VAE与之前auto-encoder的区别所在,VAE强制让encoder的编码结果服从一个分布,以后便可以通过该分布进行采样以生成新样本,而之前的auto-encoder由

2020-06-11 20:37:37 1310 1

原创 胶囊网络的理解:动态路由与聚类

胶囊网络三篇博文:https://spaces.ac.cn/archives/4819、https://spaces.ac.cn/archives/5112、https://spaces.ac.cn/archives/5155/comment-page-11、Dynamic Routing Between Capsules中的动态路由实际上就是一个“软化”的K-means,在K-means中直接...

2020-04-29 00:00:05 3050

原创 visdom+服务器+windows

1、登录服务器,激活当前使用的环境,本人在anaconda中创建了环境:pytorch_36,那么执行conda activate pytorch_36;2、进入环境后执行python -m visdom.server,可能会报错ModuleNotFoundError: No module named ‘jsonpatch’,执行conda install jsonpatch安装该模块即可;3...

2020-04-07 20:35:25 713 1

原创 迁移学习五——GFK

旋转群SO(N):关于这个概念我也不太懂,在知乎上找了很多回答,有一个说法在我的能力范围内可以理解,O(N)代表的是正交群,满足AAT=IAA^{T}=IAAT=I的属于正交群,而SO(N)只取了其中det(A)=1的那一部分,即SO(N)是一类特殊的正交群。当然能力有限,这个说法的正确性我也不能确定,仅供大家参考。...

2020-01-22 12:35:19 3758 12

原创 迁移学习四——ARTL

问题引入

2019-12-04 14:40:53 1138 15

原创 结合KSVM理解再生核希尔伯特空间(RKHS)中的表示定理(Representer Theorem)

1 线性模型与非线性模型在学习表示定理之前我们要先理解什么是线性模型,这个概念听过很多次,但真正追究起来并不是很清楚,在下面参考的第一二篇文章中对广义线性模型进行了讲解,在此我也不做总结,一是能力有限怕带跑偏了,二是本篇内容的重点不在此。其中比较明确的一点就是线性模型始终试图找到一个超平面对数据进行划分,例如逻辑回归,它是用超平面wTx+bw^{T}x+bwTx+b对数据进行划分,只不过对超平面...

2019-11-30 22:44:44 2196

原创 交叉熵的理解

晚上看论文,本来在查表示定理相关的内容,结果莫名其妙地绕到了交叉熵上面来了,之前一直对这个概念一知半解的,看了一些知乎上的讲解,然后做个总结。信息熵在讲交叉熵之前先讲一下信息熵,信息熵的公式如下:H(X)=−∑i=1np(xi)logp(xi)H(X)=-\sum_{i=1}^{n}p(x_{i})log p(x_{i})H(X)=−∑i=1n​p(xi​)logp(xi​)可以把−log...

2019-11-29 22:52:43 315

原创 迁移学习三——BDA和W-BDA

问题引入

2019-11-28 15:58:58 3283

原创 Hive安装与MySql配置

前言最近课上要用到Hive,在网上找安装教程,走了很多坑,现在写一个教程(自己通过这个是可以成功安装配置的);本次环境是ubuntu18.04、hive-2.3.6、MySql-5.7.28。MySql安装一般Hive有内置的Derby数据库,在https://blog.csdn.net/WYpersist/article/details/80101617有对Derby和MySql的优劣进...

2019-11-21 20:41:10 246

原创 饱和和非饱和激活函数

右饱和:当x趋向于正无穷时,函数的导数趋近于0,此时称为右饱和。左饱和:当x趋向于负无穷时,函数的导数趋近于0,此时称为左饱和。饱和函数和非饱和函数:当一个函数既满足右饱和,又满足左饱和,则称为饱和函数,否则称为非饱和函数。常用的饱和激活函数和非饱和激活函数:饱和激活函数有如Sigmoid和tanh,非饱和激活函数有ReLU;相较于饱和激活函数,非饱和激活函数可以解决“梯度消失”的问...

2019-11-11 21:40:04 13250 1

原创 迁移学习二——JDA

问题提出之前我们在学习TCA时提到新的改变我们对Markdown编辑器进行了一些功能拓展与语法支持,除了标准的Markdown编辑器功能,我们增加了如下几点新功能,帮助你用它写博客:全新的界面设计 ,将会带来全新的写作体验;在创作中心设置你喜爱的代码高亮样式,Markdown 将代码片显示选择的高亮样式 进行展示;增加了 图片拖拽 功能,你可以将本地的图片直接拖拽到编辑区域直接展示;...

2019-11-02 14:58:45 3701 1

原创 迁移学习一——TCA和SSTCA

本篇文章是对论文《Domain Adaptation via TransferComponent Analysis》进行学习1 背景首先我们引入域的概念,通常认为域由两部分组成:输入χ\chiχ的特征空间和输入X的边缘概率分布P(X),其中X=(x1,x2,...,xn)∈χX=(x_{1},x_{2},...,x_{n})\in \chiX=(x1​,x2​,...,xn​)∈χ是输入样本...

2019-10-23 22:25:32 6359 2

原创 再生核希尔伯特空间和核方法

前言之前一直以为自己把核方法搞懂了,但读论文的时候遇到核方法,总是有些细节的地方感觉模棱两可,后来才发现自己还有很多东西没学到,现在专门写一篇关于核方法的博客以作记录,也便于后面又学到新的内容时进行扩充。1 符号定义χ\chiχ:输入的特征空间X=(x1,x2,...,xn)∈χX=(x_{1},x_{2},...,x_{n})\in \chiX=(x1​,x2​,...,xn​)∈χ:输...

2019-10-20 22:22:53 2061 3

原创 KPCA推导及理解

最近上课学到了KPCA,之前也有遇到过,但并没有进行详细了解,这次上课老师讲的比较快,感觉糊里糊涂的,课后在网上找了一些资料进行学习,发现https://zhuanlan.zhihu.com/p/59775730这篇文章中讲的很详细,看完后自己也做了一下记录。思路KPCA和PCA一样也是进行降维,但区别在于KPCA处理的问题是非线性的。KPCA先将数据通过映射ϕ\phiϕ映射到高维空间,然后再...

2019-10-17 22:34:38 5337 4

原创 完备空间的理解

之前学习希尔伯特空间时,对其中的“完备空间”这个概念似懂非懂,今天特意查了一下,有了一定的理解,虽然不深刻。。。百度百科如下:完备空间或者完备度量空间是具有下述性质的空间:空间中的任何柯西序列都收敛在该空间之内。柯西序列这段解释中提到了柯西序列,柯西序列的百度百科如下:一个柯西序列是指一个这样一个序列,它的元素随着序数的增加而愈发靠近,如下图所示:以复数序列为例,设复数序列(z1,z...

2019-10-09 21:43:53 7169

原创 SVM学习总结

这里写自定义目录标题SVM学习回顾1 线性可分支持向量机与硬间隔最大化1.1 线性可分支持向量机1.2 函数间隔和几何间隔1.3 间隔最大化1 最大间隔分离超平面2 支持向量和间隔边界1.3 学习的对偶算法2 线性支持向量机与软间隔最大化2.1 线性支持向量机2.2 学习的对偶算法功能快捷键合理的创建标题,有助于目录的生成如何改变文本的样式插入链接与图片如何插入一段漂亮的代码片生成一个适合你的列表...

2019-09-13 15:59:27 719

空空如也

空空如也

TA创建的收藏夹 TA关注的收藏夹

TA关注的人

提示
确定要删除当前文章?
取消 删除