机器学习
pluszzh
这个作者很懒,什么都没留下…
展开
-
机器学习(二)Logistic回归和拟合的正则化
1.之前在线型回归中通过假设函数预测的Y值可能远远小于0,或远远小于1,在分类算法模型中不合适。这时通过logistic函数来使y值在0~1之间。2.logistic函数输出的是在给定的参数x,假设函数h(θ)输出y=1的可能性3.决策边界由logistic函数可知 当θ的转置X>=0 h(θ)>=0.5 suppose y =1画出 θ的转置X矩阵 >0 ...原创 2019-04-27 14:50:47 · 561 阅读 · 0 评论 -
吴恩达机器学习machine-learning-ex2题解及经验
1.2.2 Cost function and gradient% J是输出经过costFunction后的代价函数的值%% grad矩阵是经过costFunction后θ更新的矩阵值%% Step1 首先要把传入的X矩阵经过sigmoid函数进行转换A = sigmoid(X*theta);% Step2 求J(θ)J = sum(-y.*log(A)-(1-y).*log(1-A)...原创 2019-04-27 15:08:48 · 672 阅读 · 0 评论 -
机器学习(三)——神经网络学习
神经网络是一种以人脑为模型的机器学习,简单地说就是创造一个人工神经网络,通过一种算法允许计算机通过合并新的数据来学习。在前面学习了线性回归和logistic回归后,在应对多特征值时往往需要庞大的计算量,而且可能存在过拟合现象。神经网络的学习就显得尤为重要。我们大脑中有许多神经元,神经元包含轴突和树突,树突作为输入信号端,轴突的主要功能是将神经冲动由胞体传至其他神经元。而我们大脑之间的神经元相互...原创 2019-04-27 23:57:07 · 371 阅读 · 0 评论 -
吴恩达机器学习machine-learning-ex1题解及经验
第一题1 Simple Octave/MATLAB functionThe first part of ex1.m gives you practice with Octave/MATLAB syntax and the homework submission process. In the file warmUpExercise.m, you will find the outline o...原创 2019-04-24 16:01:30 · 630 阅读 · 0 评论 -
吴恩达机器学习machine-learning-ex3题解及经验
第一题与上一次一样,求出代价函数的值。注意:A = sigmoid(X*theta);J = sum(-y.*log(A)-(1-y).*log(1-A))/m+lambda/(2*m)*sum(theta(2:1:size(theta)(1),:).^2);步骤:1通过sigmoid激活函数对是预测的值在0~1之间2.得到预测值,按照代价函数公式进行求和,注意j是从1开始的,是...原创 2019-05-08 14:40:52 · 974 阅读 · 0 评论 -
[机器学习]无监督学习——K-Means算法
1.K-Means算法的定义。k均值聚类算法(k-means clustering algorithm)是一种迭代求解的聚类分析算法,其步骤是随机选取K个对象作为初始的聚类中心,然后计算每个对象与各个种子聚类中心之间的距离,把每个对象分配给距离它最近的聚类中心。聚类中心以及分配给它们的对象就代表一个聚类。每分配一个样本,聚类的聚类中心会根据聚类中现有的对象被重新计算。这个过程将不断重复直到满足某...原创 2019-05-13 20:25:47 · 1845 阅读 · 0 评论 -
[机器学习]神经网络及反向传播算法的步骤和实现思路
实现神经网络前向传播和反响传播的步骤及心得1.初始化参数矩阵的值目的:防止神经网络参数的高度冗余。在线性回归和logistic回归中,通常把初始化参数设置为0,但如果神经网络把初始化参数设置为0,就无法得到一个很好的拟合参数集。2.实现向前传播算法 对每一个输入值得到对应的假设输出值步骤:1.根据输入样本通过对应的参数矩阵的计算得到输出值,并且要对每一层的假设输出值代入sigmoi...原创 2019-05-09 00:26:03 · 619 阅读 · 0 评论 -
机器学习算法的性能评估常用的几种方式
1.获取更多的样本2.减少或增加特征量3.减少或增加lamda的值现在来说如何找到有效的方法使训练集的偏差变小。一.通常把训练样本分为训练集(60%),交叉验证集(20%),测试集(20%)。训练集:找到对应拟合的θ验证集:在训练集应用找到的θ后计算出验证误差(最后一般选验证误差较小的参数作为假设参数)测试集:对测试集所有的误差进行平均加权,得到测试误差。二.选择合适的模型。...原创 2019-05-09 14:59:27 · 1924 阅读 · 0 评论 -
[机器学习]谈谈对向量机和核函数的理解
1.在logistic回归中,如果预测y=1,我们希望hθ(x)接近1,θ的转置x远大于1如果预测y=1时同理,我们希望hθ(x)接近0,θ的转置x远小于12 观察logistic回归的代价函数。为了使代价函数最小,我们需要找到图像上纵坐标较小的点作为分界点。图中找的是Z=1 ,Z=-1,两个点。当Z>=1时,代价函数的值为0,在进行预测时,如果Y=1时,通过优化函数求θ,使θ...原创 2019-05-13 17:42:34 · 384 阅读 · 0 评论