- 博客(9)
- 收藏
- 关注
RSS订阅原创 LFU算法
1，基本原理LFU（Least Frequently Used）算法根据数据的历史访问频率来淘汰数据，其核心思想是“如果数据过去被访问多次，那么将来被访问的频率也更高”。LFU的每个数据块都有一个引用计数，所有数据块按照引用计数排序，具有相同引用计数的数据块则按照时间排序。具体实现如下： 1. 新加入数据插入到队列尾部（因为引用计数为1）；2. 队列中的数据被访问后，引用计数增加，队列重新排序；3...
2018-03-30 16:08:05
15476
1
转载 DL神经网络权值初始化
前言深度学习中参数的初始化也有很多trick，这些trick却对训练结果起到了至关重要的作用，本文介绍一个权值初始化的策略。介绍针对神经网络权值初始化许多的方法，其中最常用的方法是用随机数进行初始化。用代码表示就是W=randn(D,H)，其中randn从均值为0，标准差为1的单位高斯分布中采样，因此神经节点在初始化时有一个随机的方向。这种初始化有一个问题就是，每个神经元节点输出值的方差会随着神经...
2018-03-28 09:19:05
479
原创 感知机算法的对偶形式
4,算法代码/************************************************************************* > File Name: durl.cpp > Author:zhangtx > Mail: [email protected] > Created Time: 2018年01...
2018-03-16 16:33:17
396
原创 感知机算法
/************************************************************************* > File Name: normal.cpp > Author:zhangtx > Mail: [email protected] > Created Time: 2018年01月05日...
2018-03-15 17:56:00
301
转载 机器学习中正则化项L1和L2的直观理解
标签：机器学习 /正则化 /过拟合 /稀疏矩阵 正则化（Regularization）机器学习中几乎都可以看到损失函数后面会添加一个额外项，常用的额外项一般有两种，一般英文称作ℓ1-norm和ℓ2-norm，中文称作L1正则化和L2正则化，或者L1范数和L2范数。...
2018-03-11 13:36:59
275
原创 机器学习，参数之-学习率设置
1，机器学习中的学习率设置 学习率控制的是参数的更新速度，学习率设置过大，会导到损失函数在极小值附近来回变化，不收敛， 学习率设置过小，会导到学习速度变慢。 tensorflow中提供了学习率衰减机制，可以开设置一个较大的学习率和一个衰减系数，让损失函数在刚开始 以的较快的速度下降，随着训练次数增加，学习率也逐渐变小，使用损失函数以一个比较慢的速度收敛。2，公式 de...
2018-03-09 14:39:13
5736
原创 解锁lintcode数字图像识别
1，题目来源http://www.lintcode.com/ai/digit-recognition/overview做为机器学习&python初学者，给大字分享一下,后面会继续解锁其它题目2，源码介绍 Common.py:one-hot函数 Reader.py:csv文件成batch格式读取 inference.py:三层神经网络算法 train.py:训练脚本 eval.py:交叉验证...
2018-03-08 11:43:14
791
原创 求子数组的最大和
1，求子数组的最大和2，代码/************************************************************************* > File Name: MaxSumOfSubArray.cpp > Author:zhangtx > Mail: [email protected] > Cr...
2018-03-07 11:18:23
256
原创 凸集与凸函数
凸集的定义为： 其几何意义表示为：如果集合C中任意2个元素连线上的点也在集合C中，则C为凸集。其示意图如下所示： 常见的凸集有： n维实数空间；一些范数约束形式的集合；仿射子空间；凸集的交集；n维半正定矩阵集；这些都可以通过凸集的定义去证明。 凸函数的定义为： 其几何意义表示为函数任意两点连线上的值大于对应自变量处的函数值，示意图如下： 凸函数的一阶充要条件为：...
2018-03-07 10:20:44
7192
2
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人