- 博客(7)
- 资源 (1)
- 问答 (1)
- 收藏
- 关注
RSS订阅转载 机器学习(5)之牛顿算法
机器学习(5)之牛顿算法1. 牛顿迭代算法简介 牛顿方法应用于机器学习： 1. 使用这个方法需要f满足一定条件，适用于Logistic回归和广义线性模型2. 一般初始化为02. 在Logistic的应用 在Logistic回归中，我们要使得对数最大似然值最大，即求为0时的Θ，根据上述推论，更新规则如下： 牛顿方法的收敛速度：二次收敛 每次迭代使解的有效数...
2018-03-30 09:42:53
368
转载 机器学习(4)之Logistic回归
机器学习(4)之Logistic回归1. 算法推导 与之前学过的梯度下降等不同，Logistic回归是一类分类问题，而前者是回归问题。回归问题中，尝试预测的变量y是连续的变量，而在分类问题中，y是一组离散的，比如y只能取{0,1}。 假设一组样本为这样如图所示，如果需要用线性回归来拟合这些样本，匹配效果会很不好。对于这种y值只有{0,1}这种情况的，可以使用分类方法进行。 假设，...
2018-03-30 09:35:40
434
转载 机器学习(1)之梯度下降(gradient descent)
机器学习(1)之梯度下降(gradient descent)题记:最近零碎的时间都在学习Andrew Ng的machine learning，因此就有了这些笔记。 梯度下降是线性回归的一种(Linear Regression)，首先给出一个关于房屋的经典例子，面积(feet2)房间个数价格（1000$）2104340016003330240033691416223230004540...........
2018-03-30 09:32:43
315
转载 机器学习(2)之正规方程组
机器学习(2)之正规方程组上一章介绍了梯度下降算法的线性回归，本章将介绍另外一种线性回归，它是利用矩阵求导的方式来实现梯度下降算法一样的效果。1. 矩阵的求导首先定义表示m×n的矩阵，那么对该矩阵进行求导可以用下式表示，可以看出求导后的矩阵仍然为m×n这里要用到矩阵迹的特性，trace. 对于一个n阶的方阵（n×n）,它的迹(tr)为对角线元素之和：1. 对于一个实数，它的迹即为它本身tr a =...
2018-03-30 09:31:46
428
转载 机器学习(3)之最小二乘法的概率解释与局部加权回归
机器学习(3)之最小二乘法的概率解释与局部加权回归1. 最小二乘法的概率解释在前面梯度下降以及正规方程组求解最优解参数Θ时，为什么选择最小二乘作为计算参数的指标，使得假设预测出的值和真正y值之间面积的平方最小化？ 我们提供一组假设，证明在这组假设下最小二乘是有意义的，但是这组假设不唯一，还有其他很多方法可以证明其有意义。 （1） 假设1：假设输入与输出为线性函数关系，表示为： 其中，为误...
2018-03-30 09:31:11
593
原创 ccf20141202 Z字形扫描
试题编号：201412-2试题名称：Z字形扫描时间限制：2.0s内存限制：256.0MB问题描述：问题描述 在图像编码的算法中，需要将一个给定的方形矩阵进行Z字形扫描(Zigzag Scan)。给定一个n×n的矩阵，Z字形扫描的过程如下图所示： 对于下面的4×4的矩阵， 1 5 3 9 3 7 5 6 9 4 6 4 7 3 1 3 对其进行Z字形扫描后得到长度为16的序列： 1 ...
2018-03-12 21:04:18
285
原创 希尔排序
1、基本思想：希尔排序也成为“缩小增量排序”，其基本原理是，现将待排序的数组元素分成多个子序列，使得每个子序列的元素个数相对较少，然后对各个子序列分别进行直接插入排序，待整个待排序列“基本有序”后，最后在对所有元素进行一次直接插入排序。因此，我们要采用跳跃分割的策略：将相距某个“增量”的记录组成一个子序列，这样才能保证在子序列内分别进行直接插入排序后得到的结果是基本有序而不是局部有序。希尔排序是对...
2018-03-12 09:38:41
213
空空如也
Java读取相对路径文件怎么读取不了？求助
2017-10-20
TA创建的收藏夹 TA关注的收藏夹
TA关注的人