- 博客(6)
- 收藏
- 关注
RSS订阅转载 梯度下降
在求解机器学习算法的模型参数，即无约束优化问题时，梯度下降（Gradient Descent）是最常采用的方法之一，另一种常用的方法是最小二乘法。这里就对梯度下降法做一个完整的总结。1. 梯度 在微积分里面，对多元函数的参数求∂偏导数，把求得的各个参数的偏导数以向量的形式写出来，就是梯度。比如函数f(x,y), 分别对x,y求偏导数，求得的梯度向量就是(∂f/∂x, ∂f/∂y)T,简称gr...
2018-04-24 20:58:24
100
转载 逻辑回归模型的两种定义与参数估计思路
1. 逻辑斯谛回归模型定义在 Andrew NG 的 Machine Learning 课程和李航的统计学习方法中，都有对逻辑斯谛回归模型的介绍，然而二者却对模型有着不同的定义。1.1 决策函数Andrew NG 课程中，对二项逻辑回归模型的决策函数如下：hθ(x)=g(θTx)hθ(x)=g(θTx)g(z)g(z) 为Sigmoid函数： g(z)=11+e−zg(z)=11+e−z. 其中 ...
2018-04-24 20:56:46
2289
转载 如何简单形象又有趣地讲解神经网络是什么
如何简单形象又有趣地讲解神经网络是什么？ - 知乎https://www.zhihu.com/question/22553761
2018-04-17 20:55:02
266
转载 Java中在特定区间产生随机数
Java中在特定区间产生随机数这个是最常用的技术之一。程序员希望通过随机数的方式来处理众多的业务逻辑，测试过程中也希望通过随机数的方式生成包含大量数字的测试用例。问题往往类似于：如何随机生成 1~100 之间的随机数，取值包含边界值 1 和 100。以 Java 语言为例，我们观察其 Random 对象的 nextInt(int) 方法，发现这个方法将生成 0 ~参数之间随机取值的整数。例如（假设...
2018-04-11 09:54:38
129
转载 牛顿法与拟牛顿法学习笔记（一）牛顿法
机器学习算法中经常碰到非线性优化问题，如 Sparse Filtering 算法，其主要工作在于求解一个非线性极小化问题。在具体实现中，大多调用的是成熟的软件包做支撑，其中最常用的一个算法是 L-BFGS。为了解这个算法的数学机理，这几天做了一些调研，现把学习过程中理解的一些东西整理出来。目录链接(1) 牛顿法(2) 拟牛顿条件(3) DFP 算法(4) BFGS 算法(5) L-...
2018-04-03 10:08:35
111
转载 条件随机场(CRF) - 2 - 定义和形式
声明： 1，本篇为个人对《2012.李航.统计学习方法.pdf》的学习总结，不得用作商用，欢迎转载，但请注明出处（即：本帖地址）。 2，由于本人在学习初始时有很多数学知识都已忘记，所以为了弄懂其中的内容查阅了很多资料，所以里面应该会有引用其他帖子的小部分内容，如果原作者看到可以私信我，我会将您的帖子的地址付到下面。 3，如果有内容错误或不准确欢迎大家...
2018-04-03 10:05:08
530
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人