- 博客(16)
- 资源 (42)
- 问答 (4)
- 收藏
- 关注
原创 GAN生成对抗式神经网络实际操作
上一篇文章我们强力推导了GAN的数学公式,它就是:V=Ex∼Pdata[logD(x)]+Ex∼PG[log(1−D(x))]V = E _ { x \sim P _ { \text {data} } } [ \log D ( x ) ] + E _ { x \sim P _ { G } } [ \log ( 1 - D ( x ) ) ]V=Ex∼Pdata[logD(x)]+Ex...
2018-12-28 11:24:13 3205 4
原创 pip换国内源
Win10环境下在"C:\Users\weixin\AppData\Roaming\pip"(weixin是本人的用户名,要换成你自己的。另外,如果没有找到pip这个文件件,那么自己建一个)这个路径下新建文件“pip.ini”,然后写入如下内容:豆瓣源:[global]timeout = 6000 index-url = http://pypi.douban.com/simple...
2018-12-27 14:11:58 325
原创 Windows右键新建菜单中添加md文件
近来一直用Typora这个神器写东西,感觉相当好,但新建一个文件的时候总是要右键新建一个txt文件,然后再改后缀,这样子还蛮烦的,因此最好的做法是右键直接就能新建一个md文件。实现如下,新建一个txt文件,填入如下内容:Windows Registry Editor Version 5.00[HKEY_CLASSES_ROOT\.md\ShellNew]"NullFile"="""File...
2018-12-26 17:00:20 3876 1
原创 GAN生成对抗式神经网络数学推导
由上面一篇文章我们已经知道了,如果我们从真实数据分布里面取n个样本,根据给定样本我们可以列出其出现概率的表达式,那么生成这N个样本数据的似然(likelihood)就是l(θ)=∏i=1Np(xi∣θ)l ( \theta )= \prod _ { i = 1 } ^ { N } p \left( x _ { i } | \theta \right)l(θ)=i=1∏Np(xi∣θ)我...
2018-12-24 17:46:58 3517 7
原创 JS散度
前面我们介绍了相对熵(KL散度)的概念,知道了它可以用来表示两个概率分布之间的差异,但有个不大好的地方是它并不是对称的,因此有时用它来训练神经网络会有顺序不同造成不一样的训练结果的情况(其实个人觉得也就是训练时间差异罢了,也没那么严重)。为了克服这个问题,有人就提出了一个新的衡量公式,叫做JSJSJS散度,式子如下:JS(P1∥P2)=12KL(P1∥P1+P22)+12KL(P2∥P1+P22...
2018-12-23 22:54:10 16378 7
原创 极大似然估计(MLE)
上一篇文章我们已经了解了似然函数是什么,但怎么去把里面的θθθ给求出来是个更加关键的问题。这篇我们将来探讨下这个问题。还是先举一个例子,假设有一个造币厂生产某种硬币,现在我们拿到了一枚这种硬币,想试试这硬币是不是均匀的。即想知道抛这枚硬币,正反面出现的概率(记为θθθ)各是多少?这是一个统计问题,回想一下,解决统计问题需要什么? 数据!于是我们拿这枚硬币抛了10次,得到的数据x0x_0x0...
2018-12-18 22:10:01 3140
原创 似然函数
似然(likelihood)这个词其实和概率(probability)是差不多的意思,但是在统计里面,似然函数和概率函数却是两个不同的概念。对于函数:P(x∣θ)P ( x | \theta )P(x∣θ),输入有两个:xxx表示某一个具体的数据;θθθ表示模型的参数。如果θθθ是确定的,xxx是变量,这个函数叫做概率函数(probability function),它描述对于不同的样本点xx...
2018-12-18 21:12:42 3168 1
原创 交叉熵
上一篇文章我们简单介绍了相对熵的概念,知道了相对熵可以用来表达真实事件和理论拟合出来的事件之间的差异。相对熵的公式如下:DKL(p∥q)=∑i=1Np(xi)logp(xi)−∑i=1Np(xi)logq(xi)D _ { K L } ( p \| q ) = \sum _ { i = 1 } ^ { N }p \left( x _ { i } \right)\log p \left( ...
2018-12-18 14:54:51 583
原创 相对熵(KL散度)
上一篇文章我们简单介绍了信息熵的概念,知道了信息熵可以表达数据的信息量大小,是信息处理一个非常重要的概念。对于离散型随机变量,信息熵公式如下:H(p)=H(X)=Ex∼p(x)[−logp(x)]=−∑i=1np(x)logp(x)H ( p ) = H ( X ) = \mathrm { E } _ { x \sim p ( x ) } [ - \log p ( x ) ] = -\s...
2018-12-18 14:33:55 85047 22
原创 信息熵
上一篇文章我们简单介绍了香农信息量的概念,由香农信息量我们可以知道对于一个已知概率的事件,我们需要多少的数据量能完整地把它表达清楚,不与外界产生歧义。但对于整个系统而言,其实我们更加关心的是表达系统整体所需要的信息量。比如我们上面举例的aaBaaaVaaaaaaaBaaaVaaaaaaaBaaaVaaaaa这段字母,虽然BBB和VVV的香农信息量比较大,但他们出现的次数明显要比aaa少很多,因此我...
2018-12-18 09:09:49 5884 2
原创 香农信息量
如果是连续型随机变量的情况,设ppp为随机变量XXX的概率分布,即p(x)p(x)p(x)为随机变量XXX在X=xX=xX=x处的概率密度函数值,则随机变量XXX在X=xX=xX=x处的香农信息量定义为:−log2p(x)=log21p(x)-log_2p(x)=log_2\frac{1}{p(x)}−log2p(x)=log2p(x)1这时香农信息量的单位为比特。(如果非连续型随机变量,...
2018-12-18 08:40:07 7658
原创 Linux进程间的循环队列内存共享
上一篇文章我们已经介绍了进程间的内存共享。因为篇幅关系,只是做了简单实现,并不适用于实际应用。因此本篇以实际应用为目的,介绍以循环队列实现的内存共享机制。该机制可以快速实现数据的先入先出,方便控制内存的大小,减少数据的拷贝次数,且可以方便的选择是数据完整性优先还是实时性优先实现的原理非常简单,以数据完整性优先为例。我们可以创建如上所示的共享内存,将前面的几个字节定义为信息交流的空间,写...
2018-12-17 21:26:12 2294 1
原创 KITTI数据集的点云格式转PCD格式
参考文章:https://blog.csdn.net/xinguihu/article/details/78922005KITTI数据集应该不用多做介绍了,基本上做自动驾驶的都知道这个东西。最近本人用到这个数据集想看看里面的点云长什么模样,却发现有点别扭,没有直接可以看的工具。因此想着转成PCD文件,然后用PCLViewer来看。因为不想用PCL,总感觉这东西配起来好烦,因此就想写纯C++的代...
2018-12-16 20:48:42 5597 3
翻译 《Machine Learning Yearning》翻译---绪论(1~4)
近来一直在看"深度学习"相关的东西,为了调节整天看论文和代码后几近抑郁的心情,每天会抽出时间看看吴恩达大神的新书《Machine Learning Yearning》,也尝试着自己进行翻译。这样一则可以提高英文,二则可以加深自己对神经网络的理解。不知道是不是因为自己的水平不够,总感觉这本书的语言流畅性比较一般,因此在翻译过程中,本人并不是完全直译,会加入自己的理解并补充一点内容,因此如果要原汁...
2018-12-11 10:44:43 414
原创 protobuf安装和简单使用demo
一直以来对于程序的数据管理都是自己写程序的实现的,大多就是读写文件的操作,感觉还好。近来发现谷歌有一个数据管理的神器,叫做Protobuf,可以轻松帮我们完成这些操作,因此乘着闲暇弄起来玩玩。因为本人比较喜欢VS,因此在Windows上编程的多,本篇先在Windows上实现protobuf的安装和简单的demo使用,后面Ubuntu的实现也会放上来。本文参考的是这篇博客,谢谢这位老哥,...
2018-12-10 16:23:11 1582
原创 numpy与tensor基础
numpy基础#numpyimport numpy as np'''numpy定义'''a=np.array([2,3,4]) #创造秩为1,内容为2,3,4的数组b=np.array([(2,3,4), (4,5,6)]) #创造秩为2的数组,也就是二维数组c=np.array([[2,3,4], [4,5,6]]) #同上,只是写法不一样d=np.array([[2,3,...
2018-12-03 15:16:06 1376
利用FFmpeg将Jpeg图片转为任意视频容器格式
2015-05-20
利用libjpeg库解码内存中的jpeg数据范例
2015-01-24
libjpeg库的示例工程,实现Jpeg转Bmp
2015-01-19
MFC全屏显示demo
2014-08-13
FFmpge视频解码(从H264视频流到图像)
2014-07-13
FFmpge视频压缩(从图像到H264视频流)
2014-07-12
FFmpeg开发包,适用VS各版本
2014-07-11
notepad++二进制(十六进制)查看插件
2014-05-20
RGB色彩空间转CMYK色彩空间工具.zip
2021-11-24
C++PCM音频格式录音(双缓存MFC版本)
2017-07-26
填完坑,配置好并写完bat的caffe深度学习
2017-05-07
opencv dnn模块的demo
2017-04-29
VS2015 X64+OpenCV3.2.0+opencv_contirb
2017-04-29
利用FFmpge进行视频压缩(从图像到H264视频流)新版
2016-09-11
MFC 多语言环境的实现
2016-04-20
几何绘图工具GeoGebra
2016-01-31
最新版本FFmpeg库x64平台解码h264视频demo
2016-01-23
图像的球面投影工程和可执行程序
2016-01-10
C# WPF DataGrid控件实现三级联动
2015-10-27
C# WPF 模拟键盘输入与UI控件进行交互
2015-10-26
MFC实现RS232串口通信程序和辅助程序
2015-09-04
PDFDemo和资料
2015-08-26
多进程接收UDP广播的丢包问题
2020-10-27
MFC框架下自定义类中定义多线程问题
2020-01-06
用dxflib开源库打开dxf文件出错
2016-12-03
DirectX 关于球体纹理映射该怎么做
2016-05-24
TA创建的收藏夹 TA关注的收藏夹
TA关注的人