机器学习|吴恩达的机器学习笔记
文章平均质量分 80
不止于课堂
怪&
让我们一起从菜鸟开始……
展开
-
【吴恩达机器学习-笔记整理】课程知识点汇总(按视频章节)与学习笔记分享(附链接)
一、分享最近学完了B站了:[中英字幕]吴恩达机器学习系列课程共19章,112个视频。关于《机器学习》,收获颇丰,特来分享与总结,方便学习与回顾。学习笔记会持续更新,会在此文中附上对应章节学习笔记文章链接。二、课程学习一览(章节知识点总结)“P数字-P数字”对应视频的目录。若需要学某一知识,看对应章节视频即可~1、章节目录及知识点整理P1-P4:介绍什么是机器学习、监督学习、无监督学习P5-P11:代价函数,线性回归的梯度下降P12-P17:线性代数知识(矩阵乘法,逆,转置)P18原创 2022-08-23 10:12:39 · 806 阅读 · 0 评论 -
【吴恩达机器学习-笔记整理】OCR,滑动窗口,数据扩增,上限分析,计算机视觉
一、什么是OCR步骤二、滑动窗口以较简单的人行检测为例切割出人区域文字检测:字符分割三、获取大量数据和人工数据人工数据合成==机器学习问题必做:==四、天花板分析:下一步工作的pipeline原创 2022-08-24 10:57:23 · 1097 阅读 · 0 评论 -
【吴恩达机器学习-笔记整理】大规模机器学习,随机/批量/小批量梯度下降,在线学习,数据并行
一、处理大数据集的算法二、随机梯度下降-批量梯度下降三、Mini-batch 梯度下降1、三种梯度下降的不同:2、步骤:四、随机梯度下降收敛1、步骤2、不同的情况3、学习速率的设置五、在线学习1、有连续的数据流(例如有新的用户不断涌入)2、产品搜索的应用六、减少映射与数据并行原创 2022-08-24 10:14:38 · 1246 阅读 · 0 评论 -
【吴恩达机器学习-笔记整理】推荐算法,协同过滤,均值规范化
一、推荐系统二、基于内容的推荐算法三、协同过滤四、协同过滤算法五、矢量化:低秩矩阵分解六、实施细节:均值规范化原创 2022-08-24 09:42:03 · 430 阅读 · 2 评论 -
【吴恩达机器学习-笔记整理】异常检测与高斯分布
一、异常检测二、高斯分布/正态分布三、异常检测算法四、异常检测系统(开发与评估)划分五、异常检测VS监督学习六、选择要使用的功能1、变换为高斯分布2、异常算法的特征七、多变量高斯分布八、使用高斯分布的异常检测多元高斯模型,在捕捉特征方面的关系有较多优点当在拟合多元高斯模型的时候,若协方差矩阵为奇异矩阵(不可逆)时:原创 2022-08-23 19:53:41 · 535 阅读 · 0 评论 -
【吴恩达机器学习-笔记整理】降维,数据压缩与PCA
一、数据压缩(降维目的之一)1、二维降一维2、三维降二维二、可视化1、50维降至2维三、主成分分析(PCA)1、均值归一化和特征规范化2、PCA与线性回归的关系3、数据预处理4、PCA算法总结5、主成分数量选择6、压缩重现7、PCA的应用原创 2022-08-23 17:21:31 · 744 阅读 · 2 评论 -
【吴恩达机器学习-笔记整理】k-means(k-均值聚类算法)
一、应用市场分割,社交网络分析,组织计算机集群(更好的组织数据集),银河系构成二、k-means如果遇到没有点的簇中心,则随机初始化两部分:最小化J关于c的变量(找该点距离最小的簇中心)最小化J关于u的变量然后保持迭代避免局部最优k均值算法可能会收敛至不同的结果,这取决于聚类的初始化状态初始化不好,会陷入局部最优(畸变函数J落入局部最优):可以初始化k均值算法多次并运行,以此来确保我们最终能得到一个足够好的结果(尽可能好的局部最优和全局最优)聚类相对较少时,2/3/4,随机初始原创 2022-08-23 16:48:08 · 547 阅读 · 0 评论 -
【吴恩达机器学习-笔记整理】SVM-支持向量机(新的代价函数,最大间隔,高斯核函数,特征数与样本数不同大小关系时的选择)
一、优化目标1、新的代价函数2、构建支持向量机二、最大间隔2、只使用最大间隔分类器时,学习算法会对异常点很敏感三、数学原理四、核函数1、以高斯核函数为例2、运行原理3、高斯核函数的参数变化:4、带入参数为例5、如何选择l6、如何选择参数五、使用SVM1、常用的核函数2、满足的条件3、多分类4、特征数n与样本数m不同相对大小关系时的选择原创 2022-08-23 15:52:49 · 870 阅读 · 0 评论 -
【吴恩达机器学习-笔记整理】设计复杂的机器学习系统(执行的优先级,误差分析,不对称性误差评估,精确度和召回率)
一、执行的优先级以垃圾邮件分类为例四种制作优先级的方法二、误差分析的思想1、先实现一个简单粗暴的方法,然后手动去寻找优化点找占比最大的错误信息,去找其优化方式2、通过数值,评估算法的效果单一规则的数值评价指标,强烈推荐在交叉验证集上来做误差分析是否用词干提取请添加图片描述三、不对称性分类的误差评估例如癌症预测,正负样本比例差别巨大请添加图片描述若有偏斜类,用分类精确度并不能很好的衡量算法评估此类模型方法:查准率(越高越好)召回率(越高原创 2022-08-23 15:25:06 · 332 阅读 · 0 评论 -
【吴恩达机器学习-笔记整理】诊断偏差较大(欠拟合)、方差较大(过拟合)的情况及其解决方案
一、评估假设将样本划分为训练集和测试集 随机选择 比例建议:7:3学习的是如何分辨偏差与方差的问题,与评估假设,如何解决偏差较大(欠拟合)、方差较大(过拟合)的问题1、线性回归和平方误差标准时,测量误差的定义最小化训练集的J(θ)得到θ带入测试集求误差......原创 2022-08-14 20:02:02 · 1637 阅读 · 0 评论