- 博客(5)
- 资源 (2)
- 收藏
- 关注
原创 信息熵的理解
信息熵即确定一件不确定的事情的信息量的大小。问题:比如世界杯比赛,总共32只球队,如果让你猜哪只球队夺冠需要猜多少次?解答:假设每支队伍夺冠概率相同,则可以根据二分查找,需要5次,其用信息熵计算便是下面的公式:-1/32 *(log(1/32))=5;假设概率不同,则必须按照下面的公式计算,数学系的应该可以证明一下,下面的结果总是小于5的。结论:夺冠概率一样,说明夺冠这件事不确定性很大,相应的信息...
2018-03-30 15:49:53 630 1
转载 减少过拟合(高方差)的方法
转载自点击打开链接1、过拟合概述在训练数据不够多时,或者overtraining时,常常会导致overfitting(过拟合)。其直观的表现如下图所示,随着训练过程的进行,模型复杂度增加,在training data上的error渐渐减小,但是在验证集上的error却反而渐渐增大——因为训练出来的网络过拟合了训练集,对训练集外的数据却工作不好。常用的解决过拟合的方法有:增加数据量、L1L2正则化、...
2018-03-29 17:40:30 5870 1
原创 ubuntu安装theano(排除各种坑后的实锤)
按照miniconda方式的安装是一个明智的选择,如果按照pip安装,后面的一大堆包安装,你懂得,会有一堆坑等着你。1、安装miniconda官网下载文件,并且执行bash Miniconda3-latest-Linux-x86_64.sh然后回车按照默认的要求安装就好,安装完重启电脑。2、配置清华镜像(下面选择之一就好)conda config --add channels https://m...
2018-03-28 19:58:52 2944
转载 了解Linux环境变量设置--总结
1、引言 在 linux系统 下,如果你下载并安装了应用程序,很有可能在键入它的名称时出现“ command not found ”的提示内容。如果每次都到安装目标文件夹内,找到可执行文件来进行操作就太繁琐了。这涉及到环境变量 PATH 的设置问题,而 PATH 的设置也是在 linux 下定制环境变量的一个组成部分。本文基于 RedHat 9.0 ,详细讲解了环境变量定制的问题。 2、变量简...
2018-03-28 09:51:16 256
原创 逻辑回归二分类理解
一、问题描述假设我们要分类一个问题,且只是是与不是的问题,比如是否是一只猫,只能是(1)或(0)。而且这个目标拥有n个特征,我们得到的是一个关于输入x的线性函数,我们可以得到:z= w1*x1+w2*x2+....+wn*xn+b上述的公式对于描述我们要得到0和1并不是一个很好的描述,因为结果可能有很多种结果,非常大的数或很小的负数。所以将上述的结果作为sigmoid函数自变量,公式及图形如下,当...
2018-03-27 17:26:14 14591
tensorflow官方中文文档
2017-09-15
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人