- 博客(8)
- 资源 (4)
- 收藏
- 关注
原创 Kaggle比赛-Otto Group Product Classification-打败一半参赛队伍的简单解法
简介Otto Group Product Classification Challenge是Kaggle上目前正在进行的一个比赛,目前已1000+队伍参赛,由Otto公司赞助1W美刀,数据也是来自于该公司的产品,提供了train.csv、test.csv、samplesubmission.csv三份数据。train.csv里包含了6万多个样本,每个样本有一个id,93个特征值feat_1~feat_
2015-03-24 23:02:45 7221 2
原创 《Python核心编程》数字类型
1、数字类型简介Python中数字类型包括:整型、长整型、布尔型、双精度浮点型、十进制浮点型、复数。这些数字类型都是不可变类型,也就是说,改变了数字的值会生成新的对象。在Python中删除数字对象,可以用语句:del aInt,aLong,aFloat,aComplex2、整型布尔型取值范围只有两个值,True和False。它们在数学运算中对应1和0.对于值为0的任何数字或空集(空列表、空元
2015-03-16 00:58:04 3657
原创 机器学习算法中如何选取超参数:学习速率、正则项系数、minibatch size
本文是《Neural networks and deep learning》概览 中第三章的一部分,讲机器学习算法中,如何选取初始的超参数的值。(本文会不断补充)学习速率(learning rate,η)运用梯度下降算法进行优化时,权重的更新规则中,在梯度项前会乘以一个系数,这个系数就叫学习速率η。下面讨论在训练时选取η的策略。固定的学习速率。如果学习速率太小,则会使收敛过慢,如果学习速率太大,则
2015-03-14 23:49:23 70263 7
原创 正则化方法:L1和L2 regularization、数据集扩增、dropout
本文是《Neural networks and deep learning》概览 中第三章的一部分,讲机器学习/深度学习算法中常用的正则化方法。(本文会不断补充)正则化方法:防止过拟合,提高泛化能力在训练数据不够多时,或者overtraining时,常常会导致overfitting(过拟合)。其直观的表现如下图所示,随着训练过程,网络在training data上的error渐渐减小,但是在验证集上
2015-03-14 18:12:20 129416 43
原创 交叉熵代价函数
本文是《Neural networks and deep learning》概览 中第三章的一部分,讲machine learning算法中用得很多的交叉熵代价函数。1.从方差代价函数说起代价函数经常用方差代价函数(即采用均方误差MSE),比如对于一个神经元(单输入单输出,sigmoid函数),定义其代价函数为: 其中y是我们期望的输出,a为神经元的实际输出【 a=σ(z), where z=wx+
2015-03-13 13:18:56 156088 19
原创 《Neural networks and deep learning》概览
最近阅读了《Neural networks and deep learning》这本书(online book,还没出版),算是读得比较仔细,前面几章涉及的内容比较简单,我着重看了第三章《Improving the way neural networks learn》,涉及深度神经网络优化和训练的各种技术,对第三章做了详细的笔记(同时参考了其他资料,以后读到其他相关的论文资料也会补充或更改),欢迎有
2015-03-12 12:34:05 30218 5
原创 OpenCV人脸检测(C++代码)
OpenCV人脸检测(C++代码)—— By wepon这篇文章简单总结一下人脸检测的代码实现,基于OpenCV,C++版本。之所以强调C++版本是因为OpenCV有很多其他语言的接口,之前我也写过人脸检测的Python实现《Python-OpenCV人脸检测(代码)》,这篇文章则讲C++实现,其实大同小异,C++相比于Python实现代码写起来会繁琐一点,这也是语言本身决定的吧。为了保持代码风格一
2015-03-05 14:24:05 24535 4
原创 《Python核心编程》笔记 Python对象
第4章 Python对象1、Python对象Python使用对象模型来存储数据,构造任何类型的值都是一个对象。所有的对象都有三个特性:身份,可通过内建函数id()查看,这个值即该对象的内存地址。类型,可通过内建函数type()查看。值,对象表示的数据项。>>> p = 12>>> id(p)31108092>>> type(p)<type 'int'>>>> p12>>> 2、标
2015-03-04 01:14:44 2516
CNN卷积神经网络应用于人脸识别(带详细流程+代码实现)
2015-01-30
Kaggle入门——使用scikit-learn解决DigitRecognition问题
2014-12-17
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人