学习目标:
机器学习基础概念、最小二乘法、正则化
学习内容:
机器学习公众号讲义:
机器学习基本概念:
第一讲 基本概念part2 (其中也提及最小二乘相关知识,讲的不错)
机器学习基础 (上):
最小二乘法:
最小二乘法(Least square method)_Tonywu2018的博客-CSDN博客
最小二乘法(least sqaure method) - 知乎
正则化:
机器学习之正则化(Regularization) - Acjx - 博客园
重点学习内容:
例一:曲线拟合
对于模型复杂度与最终拟合程度好坏的讲解,对原始样本的学习能力越强,其实会增大样本中噪声部分(异常值)产生的影响,产生过拟合。对于未来数据的预测(泛化能力)反而不利
如何在保持很好的泛化能力的同时,抑制过拟合呢?结构风险最小化就是为了防止过拟合而提出的,结构风险在经验风险的基础上加上表示模型复杂度的正则化项,比如说,模型参数的一范数,二范数等。这个时候结构风险函数就是我们要最优化的目标函数。
最小二乘法(least sqaure method) - 知乎
关于最小二乘法的解释及简单推导过程
目的及常用方法
机器学习的分类(重点)
学习小笔记:
相关名词解释及链接
lambda:机器学习可以用希腊字母λ来概括,即机器学习=Lambda。其中L表示损失函数(Loss)、第一个A表示算法(Algorithm)、M表示模型(Model)、BD表示大数据(Big Data)、第二个A表示应用(Application)。
解析解:是指通过严格的公式所求得的解。
数值解:是采用某种计算方法,如有限元的方法,数值逼近,插值的方法,得到的解。别人只能利用数值计算的结果,而不能随意给出自变量并求出计算值。
奥卡姆剃刀原理:这个原理称为“如无必要,勿增实体”,即“简单有效原理”。正如他在《箴言书注》2卷15题说“切勿浪费较多东西去做,用较少的东西,同样可以做好的事情。”
下次学习内容
初步了解马尔科夫模型相关知识(本次学习第一讲 基本概念part2 中曾提到)
学习第一讲 基本概念Part3内容