- 博客(7)
- 资源 (3)
- 收藏
- 关注
RSS订阅原创 最小二乘法 最小二乘问题
一般所讲最小二乘是一大类问题，而不是方法。Ng所讲的最小二乘法，是一种切结线性最小二乘问题的方法。线性回归目标函数简单，可以用直接利用最小二乘的矩阵公式：对于逻辑回归，其目标函数比较复杂，则无法像线性回归一步直接算出最终解，而采用梯度下降法或牛顿法来求解。总结最小二乘的目标：求误差的最小平方和，对应线性和非线性对于线性最小二乘的解释closed-form,即x=;对于非
2016-05-14 22:14:00
1064
原创 逻辑回归-梯度下降法 python实现
机器学习的基本框架：模型、目标(cost function)、算法Step1：对于一个问题，需要首先建立一个模型，如回归或分类模型；step2：通过最小分类误差、最大似然或最大后验概率建立模型的代价函数；step3：最优化问题求解a.如果优化函数存在解析解，则可以通过一般的求值方法-对代价函数求导，找到倒数为0的点，即是最大值或者最小孩子；b.如果上述方法求优化函数导数比较
2016-05-14 21:58:49
5473
1
原创 最小二乘法及C++实现
最小二乘法--使得观测值与理论值得偏差平方和最小。以一元线性回归说明：假设从总体中获取了n组观察值（x1,y1）,（x2,y2）......（xn,yn）。则对于这n个点，选择最佳拟合曲线的标准为：使得总的残差最小。则有三个标准：（1）使用“残差和最小”。缺点：残差和存在相互抵消的问题；（2）使用“残差绝对值和最小”。缺点：计算麻烦；（3）使用“残差平方和最小”（最小二乘）
2016-05-14 10:01:16
4728
原创 二分K均值c++实现
二分k均值原理及Python实现请见：（1）http://blog.csdn.net/u013593585/article/details/51280052（2）http://blog.csdn.net/u013593585/article/details/51263980 Python实现C++代码：基于python的思路写的(求指点)#include #inc
2016-05-12 21:08:02
1411
1
原创 knn算法C++实现
knn的C++实现，有不对的地方请各位指正！谢谢！knn原理请见：http://blog.csdn.net/u013593585/article/details/51284537#include #include #include #include #include using namespace std;typedef vector Tuple;const int k =
2016-05-12 21:02:39
2784
1
原创 k近邻算法识别手写数字Python实现
数据集：（参见python实战教程）训练数据：trainingDigits 2000多个.txt文件测试数据：testDigits 约900个.txt文件均为32*32大小from numpy import *import osimport knnOperatorimport pdbdef img2vector(filename,d): #d=32 return
2016-05-10 21:49:47
1713
1
原创 Python数据可视化
首先show一个示例：from numpy import *import matplotlibimport matplotlib.pyplot as pltfr = open("datingTestSet.txt")lines = fr.readlines()n = len(lines)datingDataset = zeros((n,3))datingLabels = []
2016-05-03 11:15:03
588
Eclipse教程
2014-05-15
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人