- 博客(6)
- 收藏
- 关注
RSS订阅原创 简述 TensorFlow 计算模型——计算图
Tensorflow 是一个通过计算图的形式来表述计算的编程系统，计算图也叫数据流图，可以把计算图看做是一种有向图，Tensorflow 中的每一个计算都是计算图上的一个节点，而节点之间的边描述了计算之间的依赖关系。一个计算图实例：relu = tf.nn.relu(tf.matmul(w, x) + b)TensorFlow 的计算机制TensorFlow 中的 Tenso r表示张量（多维数组）
2018-03-26 15:54:12
5269
原创 浅谈 SVM
SVM，全称是 support vector machine，中文名叫支持向量机。SVM 是一个面向数据的分类算法，它的目标是为确定一个分类超平面，从而将不同的数据分隔开。 如上图所示，w⃗ \vec{w} 为分割线（红线）的法向量，对平面上的某个样本点（向量 u⃗ \vec{u}），如果满足： w⃗ ⋅u⃗ ≥c时,则该样本属于正样本.\vec{w}\cdot\vec{u}\geq c 时
2018-03-25 17:11:33
577
原创 牛顿迭代法求解开方问题
五次及以上多项式方程没有根式解（就是没有像二次方程那样的万能公式），这个是被伽罗瓦用群论做出的最著名的结论。没有根式解不意味着方程解不出来，数学家也提供了很多方法，牛顿迭代法就是其中一种。资源来源于 LeetCode69——Sqrt(x)。题目描述如下所示： 题目要求实现库函数 sqrt()，并返回整数，实际上是降低了迭代次数，减少了计算量。解决该问题的一个较优也是很经典的方法就是牛顿迭代法。牛顿
2018-03-23 10:43:25
2574
原创 常用的激活函数对比
神经网络中激活函数的主要作用是提供网络的非线性建模能力，如不特别说明，激活函数一般而言是非线性函数。假设一个示例神经网络中仅包含线性卷积和全连接运算，那么该网络仅能够表达线性映射，即便增加网络的深度也依旧还是线性映射，难以有效建模实际环境中非线性分布的数据。加入（非线性）激活函数之后，深度神经网络才具备了分层的非线性映射学习能力。因此，激活函数是深度神经网络中不可或缺的部分。在ICML2016的一篇
2018-03-19 16:04:58
9726
1
原创 谈一谈正则化
要理解正则化，首先需要了解过拟合的概念，关于过拟合，笔者在前面的博文中有专门提到，详情可参见博文：过拟合与欠拟合简要总结 以及 如何解决过拟合问题。下面结合 NG 的公开课、网络上资源解读以及自己的一些理解，对正则化做相关阐述：以 NG 公开课中的房价预测问题为背景，展开讨论。 在机器学习中，过多的变量（特征），同时只有非常少的训练数据，会导致出现过度拟合的问题。因此为了解决过度拟合，有以下两个办
2018-03-17 21:23:32
649
原创 如何解决过拟合问题？
如何降低过拟合？这是深度学习中非常重要的问题。关于过拟合的相关概念和过拟合带来的危害，可参考笔者之前的博客：过拟合与欠拟合简要总结。如何解决过拟合？1. 获取和使用更多的数据集对于解决过拟合的办法就是给与足够多的数据集，让模型在更可能多的数据上进行“观察”和拟合，从而不断修正自己。然而事实上，收集无限多的数据集几乎是不可能的，因此一个常用的办法就是调整已有的数据，添加大量的“噪音”，或者对图像进行锐
2018-03-04 14:50:26
28863
1
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人