qq_31254785的博客

第三章 线性模型2022/5/16 雾切凉宫 至3.2节/视频P3文章目录第三章 线性模型3.1 基本形式3.2 线性回归P2 一元线性回归P2.1 最小二乘法P2.2 极大似然估计误差ε极大似然估计解法P2.3 求解w和bP2.4 机器学习三要素P3 多元线性回归P3.1 由最小二乘法导出w3.1 基本形式线性模型(linear model)试图学得一个通过属性的线性组合来进行预测的函数，即f(x)=w1x1+w2x2+……+wdxd+bf(x)=w_1x_1+w_2x_2+……+w_dx_d

第5章 神经网络2022/5/28 雾切凉宫 至5.3节/视频P7文章目录第5章 神经网络5.1 神经元模型p7 神经网络p7.1 M-P神经元5.2 感知机与多层网络p7.2 感知机感知机模型感知机学习策略感知机学习算法p7.3 神经网络多层前馈网络误差逆传播算法（BP）误差逆传播算法（BP）5.1 神经元模型p7 神经网络p7.1 M-P神经元M-P神经元：接收n个输入(通常是来自其他神经元)，并给各个输入赋予权重计算加权和，然后和自身特有的阈值θ进行比较(作减法)，最后经过激活函数f(模拟

第6章 支持向量机6.1 间隔与支持向量p8 支持向量机超平面几何间隔支持向量机6.2 对偶问题凸优化问题/拉格朗日对偶解算支持向量机6.4 软间隔与正则化p9 软间隔与支持向量回归p9.1 软间隔6.5支持向量回归p9.1 支持向量回归

第一章 绪论2022/5/15 雾切凉宫1.2 基本术语中文名英文名意义数据集data set一组记录的集合示例/样本/特征向量instance/sample/feature vector一条记录（对对象的描述）属性/特征attribute/feature对象的表现或性质属性值attribute value属性上的取值属性空间/样本空间/输入空间attribute space/sample space属性张成的空间标记label

第四章 决策树2022/5/26 雾切凉宫 至4.2节/视频P6文章目录第四章 决策树4.1 基本流程p6 决策树p6.1 算法原理4.2划分选择p6.2 ID3决策树自信息信息熵(自信息的期望)纯度条件熵信息增益ID3决策树p6.3 C4.5决策树增益率p6.4 CART决策树基尼值基尼指数CART决策树4.1 基本流程p6 决策树p6.1 算法原理从逻辑角度，-堆if else语句的组合从几何角度，根据某种准则划分特征空间最终目的:将样本越分越“纯”4.2划分选择p6.2 ID3决策

第二章 模型评估与选择2022/5/15 雾切凉宫 至2.3.3节2.1 经验误差与过拟合中文名英文名意义训练误差/经验误差training error/empirical error学习器在训练集的误差泛化误差generalization error在新样本上的误差过拟合overfitting学习能力过于强大欠拟合underfitting学习能力低下2.2 评估方法通过实验测试来对学习器的泛化误差进行评估2.2.1 留出法留出法(h