机器学习笔记
hit_lance
哈工大计算机学院本科在读学生,曾在南京大学交流了一学期。
展开
-
PSML Ch5 神经网络(Neural Networks)
1. 典型的神经网络结构2. 提高泛化性能(generalization)隐藏层的参数应该大于输入/输出层,否则会损失信息使用非线性激活函数(use nonlinear active function)包含跳层 (include skip-layer connection) 注:skip-layer与CNN常用的drop out类似.3. 神经网络的输出形式回归问题,线性输...原创 2020-02-27 21:08:12 · 247 阅读 · 0 评论 -
NJU机器学习导论课程笔记之决策树
目录1 基本流程2 划分选择3 剪枝4 C4.5算法中的连续与缺失值处理5 多变量决策树6 sklearn中的DecisionTreeClassifier1 基本流程 1. 决策树(decision tree):决策树是一类常见的机器学习方法,主要用于分类。一般的,一棵决策树包含一个根节点、若干个内部结点和若干个叶结点。叶结点对应于决策结果,其它每个节点...原创 2019-06-05 14:10:55 · 468 阅读 · 0 评论 -
NJU机器学习导论课程笔记之写作缘由
写在前面 本人在NJU交流期间修了机器学习导论这门课,教材就是大家熟知的西瓜书。因为带了“导论”两个字,我本以为是一门比较水的课,就欣然地选了它。事实上,即便是入门级的课程,这门课的内容十分丰(困)富(难),涉及了决策树、神经网络、支持向量机、聚类分析等各种机器学习算法。老师上课时也只是蜻蜓点水地将重要的内容提一下(因为内容太多且难度大),所以想真正学好这门课需要课后付出很多时间去...原创 2019-06-02 19:59:44 · 643 阅读 · 0 评论 -
NJU机器学习导论课程笔记之模型评估与选择
目录1 经验误差与过拟合2 评估方法3 调参4 性能度量5 方差与偏差1 经验误差与过拟合 1. 错误率(error rate):分类错误的样本数占样本总数的比例,即如果在m个样本中有a个样本分类错误,则错误率E=a/m。 2. 精度(accuracy):精度=1-错误率,即1-a/m,常写为百分比形式。 3. 误差(error):这里说的误差...原创 2019-06-02 20:00:54 · 299 阅读 · 0 评论 -
NJU机器学习导论课程笔记之线性模型
目录1 线性回归2 对数几率回归3 线性判别分析4 多分类学习1 线性回归 线性回归(linear regression)试图学得一个线性模型以尽可能准确地预测实值输出标记。 1. 线性模型 给定由d个属性描述的示例, 其中是在第i个属性上的取值,线性模型(linear model)试图学得一个通过属性的线性组合来进行预测的函数,即...原创 2019-06-04 15:39:47 · 503 阅读 · 0 评论