![](https://img-blog.csdnimg.cn/20190918140053667.png?x-oss-process=image/resize,m_fixed,h_224,w_224)
Machine Learning Andrew Ng
学习笔记
西檬饭
这个作者很懒,什么都没留下…
展开
-
Machine Learning - Coursera week1
what is machine learning? “A computer program is said to learn from experience E, with respect to some task T, and some performance measure P, if its performance on T as measured by P improves wit...原创 2018-06-21 15:26:42 · 319 阅读 · 0 评论 -
Machine Learning - Coursera week4 model representation
模拟人的神经元建立的感知机模型。 (1)神经元的模式表示逻辑回归 需要注意的是输入层有4个unit,实际输入为3个,x0表示偏置,设为1. (2)神经网络 主要是要注意每一层的偏置单元在向量化的时候对矩阵尺寸的影响。 从图中我们很容易将表达式转为矩阵相乘的形式。我们在写表达式的时候总是倾向于使用简化的表达,a=g(z)a=g(z)a = g(z), 其中z=θTXz=θTXz...原创 2018-08-04 00:05:49 · 211 阅读 · 0 评论 -
Machine Learning - Coursera week5 cost function and backpropagation 1
1. cost function 这个多类别分类的神经网络和二分类的输出个数不同,二分类只有一个输出,二多分类模型有多个输出。多分类模型的输出也用one-hot码表示。 变量的定义: L = total number of layers in the network slsls_l = number of units (not counting bias unit) in layer...原创 2018-08-05 12:20:05 · 188 阅读 · 0 评论 -
Machine Learning - Coursera week5 cost function and backpropagation 2
1. 回归cost function cost function for a neural network is: J(Θ)=−1m∑t=1m∑k=1K[y(t)k log(hΘ(x(t)))k+(1−y(t)k) log(1−hΘ(x(t))k)]+λ2m∑l=1L−1∑i=1sl∑j=1sl+1(Θ(l)j,i)2J(Θ)=−1m∑t=1m∑k=1K[yk(t)&amp原创 2018-08-05 17:23:50 · 216 阅读 · 0 评论 -
Machine Learning - Coursera week5 Backpropagation in Practice
1. Gradient Checking 我们讨论了如何进行前向传播以及后向传播,从而计算导数。但有一个不幸的消息是,它们有很多细节会导致一些BUG。 如果你用梯度下降来计算,你会发现表面上它可以工作,实际上, J 虽然每次迭代都在下降 但是可能表面上关于theta的函数J在减小而你最后得到的结果实际上有很大的误差。有一个想法叫梯度检验Gradient Checking。 假设我们有一个...原创 2018-08-05 18:49:45 · 279 阅读 · 0 评论 -
Machine Learning - Coursera week6 Evaluating a learning algorithm
Evaluating a learning algorithm 1. Design what to do next 在预测房价的学习例子,假如你已经完成了正则化线性回归,也就是最小化代价函数J的值。假如在你得到你的学习参数以后把它应用到放到一组新的房屋样本上进行测试,发现在预测房价时产生了巨大的误差。 要想改进这个算法,应该怎么办? 其中一种办法是使用更多的训练样本,但是这个办法不总...原创 2018-08-06 14:59:33 · 352 阅读 · 0 评论 -
Machine Learning - Coursera week6 Bias vs Variance
Bias vs Variance 1.Diagnosing bias vs variance 有关偏差和方差的问题,也就是欠拟合与过拟合的问题。能够判断一个算法是偏差还是方差有问题对于如何改进学习算法的效果非常重要。下面看一个常见的欠拟合与过拟合的例子。 对训练集数据进行预测或对验证集数据进行预测产生的平均平方误差来衡量模型的好坏。 左边的模型只使用了阶数为1的线性函数去拟合数...原创 2018-08-06 15:00:27 · 249 阅读 · 0 评论 -
Machine Learning - Coursera week6 Error analysis
1. Error analysis 如果你准备研究机器学习的东西或者构造机器学习应用程序,最好的实践方法不是建立一个非常复杂的系统拥有多么复杂的变量,而是构建一个简单的算法 这样你可以很快地实现它.通过画出学习曲线以及检验误差来找出算法是否有 高偏差和高方差的问题或者别的问题。在这样分析之后再来决定用更多的数据训练或者加入更多的特征变量。 除了画出学习曲线之外,一件非常有用的事是误差分析。...原创 2018-08-06 18:05:13 · 191 阅读 · 0 评论