Ontheway的博客

在路上,只为温暖我的人

排序:
默认
按更新时间
按访问量

梯度下降优化算法综述

转载:梯度下降优化算法综述 该文翻译自An overview of gradient descent optimization algorithms。    总所周知,梯度下降算法是机器学习中使用非常广泛的优化算法,也是众多机器学习算法中最常用的优化方法。几乎当前每一个先进的(st...

2017-02-17 15:13:50

阅读数:370

评论数:0

if __name__ == '__main__' 如何正确理解?

出处:凌孜 貌似昨天还是前天看过这个~现学现卖一下,有错误的话大家走过路过请指正一下~谢谢! 我的理解是,呜呜为什么我感觉我可以理解但是说不出来。。。我是看下面这段代码懂了的,引用自python - What does if __name__ == "__main__"...

2017-02-15 19:25:21

阅读数:517

评论数:0

径向基网络(RBF network)之BP监督训练

原文作者:zouxy09@qq.com 原文出处:http://blog.csdn.net/zouxy09        之前看了流行学习的时候,感觉它很神奇,可以将一个4096维的人脸图像降到3维。然后又看到了可以用径向基网络来将这3维的图像重构到4096维。看到效果的时候,我和小伙伴们...

2017-01-03 21:01:37

阅读数:629

评论数:0

交叉熵

原文链接:点击打开链接 交叉熵(Cross-Entropy) 交叉熵是一个在ML领域经常会被提到的名词。在这篇文章里将对这个概念进行详细的分析。 1.什么是信息量? 假设X是一个离散型随机变量,其取值集合为X,概率分布函数为p(x)=Pr(X=x),x∈X,我们定义事件X=...

2016-12-20 16:49:58

阅读数:1384

评论数:0

目标函数优化中的三种梯度

原文出处:点击打开链接  考虑一个关于参数矩阵 W 的标量目标函数 J(W) 的极小化问题,即 Wopt=argminWJ(W)     通常,给定 W 的一个初值 W0 ,通过“迭代更新”的方法来搜索求解 Wopt 。设第 k步迭代的矩阵为 W(k) ,...

2016-12-19 15:05:16

阅读数:3055

评论数:0

大白话解析模拟退火算法

转载出处:大白话解析模拟退火算法 优化算法入门系列文章目录(更新中):   1. 模拟退火算法   2. 遗传算法 一. 爬山算法 ( Hill Climbing )          介绍模拟退火前,先介绍爬山算法。爬山算法是一种简单的贪心搜索算法,...

2016-10-11 19:53:19

阅读数:250

评论数:0

空空导弹发展及作战特点

原文出处:空空导弹介绍   作战飞机上都有挂架,可挂载导弹。跟踪瞄准的过程就是要将机头(也就是炮口)“对着目标”,但实际上不是“正对着目标”。目标是有速度的,炮弹飞到目标的位置需要时间,所以应对着的目标前面的某一点,使炮弹飞零点几秒钟之后正好飞机也飞到这一位置,于是炮弹与目标碰在一起,也就是“命...

2016-10-10 21:35:22

阅读数:399

评论数:0

神经网络隐含层的选取

1、神经网络算法隐含层的选取 1.1 构造法 首先运用三种确定隐含层层数的方法得到三个隐含层层数,找到最小值和最大值,然后从最小值开始逐个验证模型预测误差,直到达到最大值。最后选取模型误差最小的那个隐含层层数。该方法适用于双隐含层网络。 1.2 删除法 单隐含层网络非线性映射能力较弱,相同...

2016-09-29 00:22:58

阅读数:5003

评论数:2

什么是超参数

什么是超参数 当参数时随机变量时,该参数分布中的参数就是超参数,简单的说就是参数的参数,感觉一般在贝叶斯方法中出现 所谓超参数,就是机器学习模型里面的框架参数,比如聚类方法里面类的个数,或者话题模型里面话题的个数等等,都称为超参数。它们跟训练过程中学习的参数(权重)是不一样的,通常是手...

2016-09-29 00:21:01

阅读数:631

评论数:0

深度强化学习:基于像素的乒乓游戏

转载出处:深度强化学习:基于像素的乒乓游戏 英文原文:Deep Reinforcement Learning: Pong from Pixels 作者:Andrej Karpathy (Stanford University)  译者:郭江 这是一篇早就应该写的关于强化学习的文章。强化学...

2016-09-29 00:16:43

阅读数:3097

评论数:0

win64环境下sklearn的配置

Python环境配置所需工具下载地址:PyPI: Python Package Index 需要下载的文件: scipy-0.15.1-cp27-none-win_amd64 scikit_learn-0.17-cp27-none-win_amd64 前提安装pip工具...

2016-09-19 19:17:17

阅读数:695

评论数:0

Python基础-字典详解

转自:Python学习之字典详解  在元组和列表中,都是通过编号进行元素的访问,但有的时候我们按名字进行数据甚至数据结构的访问,在c++中有map的概念,也就是映射,在python中也提供了内置的映射类型--字典。映射其实就是一组key和value以及之间的映射函数,其特点是:key的唯一性...

2016-09-19 15:33:05

阅读数:251

评论数:0

JSON数据格式的解析

转自:python-Json模块【解析Json】 1,Json模块介绍 JSON(JavaScript Object Notation) 是一种轻量级的数据交换格式。易于人阅读和编写。同时也易于机器解析和生成。它基于JavaScript Programming Language, ...

2016-09-19 15:09:00

阅读数:2350

评论数:0

Unicode和UTF编码:编码的发展历程

原文出处:Unicode 和 UTF-8 有何区别? 作者:于洋 链接:https://www.zhihu.com/question/23374078/answer/69732605 来源:知乎 著作权归作者所有,转载请联系作者获得授权。 =============很久以前保...

2016-09-18 17:42:03

阅读数:188

评论数:0

Python基础-Json编码和解码操作

什么是json: JSON(JavaScript Object Notation) 是一种轻量级的数据交换格式。易于人阅读和编写。同时也易于机器解析和生成。它基于JavaScript Programming Language, Standard ECMA-262 3rd Edition - ...

2016-09-18 16:53:31

阅读数:1730

评论数:0

关于raw_input()和sys.stdin.readline()的区别

关于raw_input( )和sys.stdin.readline( )的区别 之前一直认为用raw_input( )和sys.stdin.readline( )来获取输入的效果完全相同,但是最近在写程序时有类似这样一段代码: import sys line = sys.stdin.read...

2016-09-18 15:54:25

阅读数:1637

评论数:0

机器学习中的数学(3)-模型组合(Model Combining)之Boosting与Gradient Boosting

版权声明:     本文由LeftNotEasy发布于http://leftnoteasy.cnblogs.com, 本文可以被全部的转载或者部分使用,但请注明出处,如果有问题,请联系wheeleast@gmail.com   前言:     本来上一章的结尾提到,准备写写...

2016-09-16 13:21:07

阅读数:212

评论数:0

随机森林-RandomForest

http://www.36dsj.com/archives/32820 简介 近年来,随机森林模型在界内的关注度与受欢迎程度有着显著的提升,这多半归功于它可以快速地被应用到几乎任何的数据科学问题中去,从而使人们能够高效快捷地获得第一组基准测试结果。在各种各样的问题中,随机森林一...

2016-09-16 13:12:14

阅读数:2179

评论数:0

决策树-信息增益,信息增益率,Gini

原文出处:信息增益,信息增益率,Gini 话说今天《机器学习》上课被很深地打击了,标名为“数据挖掘”专业的我居然连个信息增益的例子都没能算正确。唉,自看书以来,这个地方就一直没有去推算过,每每看到决策树时看完Entropy就直接跳过后面增益计算了。因而,总想找个时间再回过来好好看一下,这...

2016-09-14 19:53:17

阅读数:9148

评论数:0

决策树-剪枝

原文出处:分类回归树CART(上) 剪枝 当分类回归树划分得太细时,会对噪声数据产生过拟合作用。因此我们要通过剪枝来解决。剪枝又分为前剪枝和后剪枝:前剪枝是指在构造树的过程中就知道哪些节点可以剪掉,于是干脆不对这些节点进行分裂,在N皇后问题和背包问题中用的都是前剪枝,上面的χ2方法也可...

2016-09-14 17:19:44

阅读数:573

评论数:0

提示
确定要删除当前文章?
取消 删除
关闭
关闭