机器学习
文章平均质量分 95
磁生电
这个作者很懒,什么都没留下…
展开
-
最小二乘法
前言参考博客:半小时学习最小二乘法最小二乘法在统计学的地位不必多言。本文的目的是全面地讲解最小二乘法,打好机器学习的基础。本文主要内容是最小二乘法的思想及在线性回归问题中的应用。后面的系列文章会继续讲解最小二乘的正则化。至于非线性最小二乘和广义线性模型,如果以后有时间会进行整理。核心思想最小二乘法是勒让德( A. M. Legendre)于1805年在其著作《计算慧星轨道的新方法》中提出的。它的主要思想就是求解未知参数,使得理论值与观测值之差(即误差,或者说残差)的平方和达到最小:E=∑i=原创 2022-05-12 11:08:47 · 1011 阅读 · 0 评论 -
字典学习(Dictionary Learning, KSVD)详解
参考资料1、字典学习思想字典学习的思想应该源来实际生活中的字典的概念。字典是前辈们学习总结的精华,当我们需要学习新的知识的时候,不必与先辈们一样去学习先辈们所有学习过的知识,我们可以参考先辈们给我们总结的字典,通过查阅这些字典,我们可以大致学会到这些知识。为了将上述过程用准确的数学语言描述出来,我们需要将“总结字典”、“查阅字典”做出一个更为准确的描述。就从我们的常识出发:我们通常会要求的我们的字典尽可能全面,也就是说总结出的字典不能漏下关键的知识点。查字典的时候,我们想要我们查字典的过程尽.原创 2022-05-11 20:42:33 · 3476 阅读 · 3 评论