吴恩达机器学习笔记9-大规模机器学习

最新推荐文章于 2024-07-09 10:08:23 发布
最新推荐文章于 2024-07-09 10:08:23 发布
阅读量163 收藏
点赞数
分类专栏： 吴恩达机器学习
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/zic234gh9/article/details/81590405
版权

最强的机器学习方法：使用低偏差的算法和大量的数据

使用大量数据前先检查一下使用少量的数据行不行，也要通过训练集和验证集的cost图来判断是否需要继续增加数据

随机梯度下降

很多学习算法使用了梯度下降的算法。当m很大时，计算梯度就会变得很复杂，这种算法叫做批量梯度下降，每次考虑所有的样本。假如有3亿的数据，每次求梯度都会很慢。
而随机梯度下降每次只考虑一个训练样本
1. 将所有数据打乱，将m个样本重新排列
2. 遍历每个样本，对所有参数进行梯度下降
实际上就是每次只学习一个样本

Mini-batch梯度下降

每次学一个batch,batch size一般在[10,100]范围内
Mini batch比随机梯度更快
额外的缺点是参数batch size，需要花时间来确定

SGD是否收敛

在训练第i个样本之前测试一下它的cost，最后把所有的cost画出来，观察是否在下降

在线学习

连续的数据流输入的时候

repeat forever
{
  Get (x,y) from user
  update parameters using (x,y)
}

它可以对用户的改变进行自动适配

Map Reduce

将数据划分为几个子集，分给每个计算机
假如有400个样本，在计算线性回归的梯度时每台计算机只计算梯度公式中求和的一部分，最后把4个部分和加起来求梯度

如果想要应用到其它算法上，应该看是否可以表示为训练样本的一个求和。

在同一台电脑的不同CPU上也可以实现并行

REFunc
关注
  • 0
    点赞
  • 踩
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
专栏目录
吴恩达机器学习笔记-人工智能机器学习算法入门笔记
01-26
此外，数据并行和分布式计算也是解决大规模机器学习问题的关键。 【机器学习系统的应用】 机器学习广泛应用于搜索引擎排名、图像识别、自然语言处理、邮件过滤、社交网络分析等领域。在实际应用中，需要考虑模型...
吴恩达机器学习作业-Notes-ML-AndrewNg-master.zip
01-03
《吴恩达机器学习作业-Notes-ML-AndrewNg-master》是针对吴恩达教授的机器学习课程的一份详尽的学习资源，包含了他在课程中所讲授的重要概念、理论和实践练习。吴恩达教授是斯坦福大学的计算机科学家，也是在线教育...
吴恩达机器学习学习笔记 --- 神经网络
Galaxy_Su的博客
05-23 347
神经网络
吴恩达机器学习----大规模机器学习
weixin_42533852的博客
06-09 247
吴恩达机器学习教程学习笔记 （15/16） 吴恩达教授（Andrew Ng）的机器学习可以说是一门非常重视ML理论基础的课程，做做一些简单的笔记加上个人的理解。本笔记根据吴恩达的课程顺序，以每章内容作为节点进行记录。（共18章，其中第3章“线性代数回顾”与第5章“Octava教程”的笔记就不总结了） 第十七章 大规模机器学习(Large Scale Machine Learning) 1、大型数据...
吴恩达机器学习笔记
weixin_43807601的博客
06-14 2777
吴恩达机器学习笔记
吴恩达机器学习笔记2.1 - 什么是机器学习
Yophan的博客
07-09 434
吴恩达机器学习笔记2.1 - 什么是机器学习
吴恩达机器学习笔记DAY-6（自用版）
weixin_52591187的博客
07-02 1141
①梯度下降：不仅用于线性回归，还用于训练一些先进的神经网络模型，也被成为深度学习模型。②梯度下降是一种可用于尝试最小化任何函数的算法，不仅仅是最小化。线性回归的成本函数。③事实证明，梯度下降适用于更一般的函数，
吴恩达 - 机器学习课程笔记（持续更新）
做一只猫的博客
02-26 2万+
吴恩达机器学习
【机器学习】吴恩达机器学习学习笔记(1)
qq_53099119的博客
12-24 1237
代码函数将告诉我们模型的运行情况。在线性方程中，w和b称为模型的参数，参数是我们在训练期间通过调整来改进模型的变量。根据所选择的参数的不同，可以得到不同的x的函数f。在线性回归中，所要做的是选择参数w和b的值，以便从函数f所获得的直线以某种方式更好的拟合数据。重点问题是，如何找到w和b的值，以便于许多可能的所有训练示例xi和yi的预测y-hati更接近于真实目标yi。如何衡量一条直线与训练数据的拟合程度？
【学习笔记】吴恩达机器学习 | 汇总 | 已完结！！！
热门推荐
BenjaminChen的博客
07-16 10万+
【学习笔记】吴恩达机器学习 | 汇总 | 已完结！！！
吴恩达机器学习笔记（10-19章）
椰椰拿铁不加糖的博客
01-20 951
机器学习笔记
吴恩达机器学习笔记---持续更新
haha110ha的博客
06-23 73
2022吴恩达机器学习笔记汇总(共10章节).zip
12-27
2022吴恩达机器学习笔记汇总(共10章节).zip2022吴恩达机器学习笔记汇总(共10章节).zip2022吴恩达机器学习笔记汇总(共10章节).zip2022吴恩达机器学习笔记汇总(共10章节).zip2022吴恩达机器学习笔记汇总(共10章节).zip...
吴恩达机器学习个人笔记-黄海广-完整版
01-25
吴恩达机器学习个人笔记-黄海广，完整版，最新版，具体更新可以去黄海广博客查找。
pi_heif-0.17.0-pp310-pypy310_pp73-macosx_12_0_x86_64.whl
07-27
pip install 直接安装，无需再下载，直接用。pip install 直接安装，无需再下载，直接用。pip install 直接安装，无需再下载，直接用。pip install 直接安装，无需再下载，直接用。pip install 直接安装，无需再下载，直接用。pip install 直接安装，无需再下载，直接用。pip install 直接安装，无需再下载，直接用。pip install 直接安装，无需再下载，直接用。pip install 直接安装，无需再下载，直接用。pip install 直接安装，无需再下载，直接用。pip install 直接安装，无需再下载，直接用。pip install 直接安装，无需再下载，直接用。pip install 直接安装，无需再下载，直接用。pip install 直接安装，无需再下载，直接用。pip install 直接安装，无需再下载，直接用。pip install 直接安装，无需再下载，直接用。pip install 直接安装，无需再下载，直接用。pip install 直接安装，无需再下载，直接用。pip install 直接安装，无需再下载，直接用。pip install 直接安装，无需再下载，直接用。pip install 直接安装，无需再下载，直接用。pip install 直接安装，无需再下载，直接用。pip install 直接安装，无需再下载，直接用。pip install 直接安装，无需再下载，直接用。pip install 直接安装，无需再下载，直接用。pip install 直接安装，无需再下载，直接用。
mmexport1722080103662.jpg
07-27
mmexport1722080103662.jpg
matlab 20244a 6
07-27
matlab 20244a 6
pi_heif-0.17.0-cp310-cp310-macosx_12_0_x86_64.whl
最新发布
07-27
pip install 直接安装，无需再下载，直接用。pip install 直接安装，无需再下载，直接用。pip install 直接安装，无需再下载，直接用。pip install 直接安装，无需再下载，直接用。pip install 直接安装，无需再下载，直接用。pip install 直接安装，无需再下载，直接用。pip install 直接安装，无需再下载，直接用。pip install 直接安装，无需再下载，直接用。pip install 直接安装，无需再下载，直接用。pip install 直接安装，无需再下载，直接用。pip install 直接安装，无需再下载，直接用。pip install 直接安装，无需再下载，直接用。pip install 直接安装，无需再下载，直接用。pip install 直接安装，无需再下载，直接用。pip install 直接安装，无需再下载，直接用。pip install 直接安装，无需再下载，直接用。pip install 直接安装，无需再下载，直接用。pip install 直接安装，无需再下载，直接用。pip install 直接安装，无需再下载，直接用。pip install 直接安装，无需再下载，直接用。pip install 直接安装，无需再下载，直接用。pip install 直接安装，无需再下载，直接用。pip install 直接安装，无需再下载，直接用。pip install 直接安装，无需再下载，直接用。pip install 直接安装，无需再下载，直接用。pip install 直接安装，无需再下载，直接用。
pillow-10.4.0-cp312-cp312-musllinux_1_2_aarch64.whl
07-27
基本介绍 名称与起源：Pillow，原名为PIL（Python Imaging Library），但PIL只支持Python 2版本。随着Python 3的普及，Pillow作为PIL的一个分支出现，兼容Python 3并提供更多的功能和改进。 主要功能：Pillow支持多种图像格式的打开、保存、显示以及基本的图像操作和处理，如裁剪、缩放、旋转、翻转、滤镜应用等。 跨平台性：Pillow库可以在不同的操作系统上运行，包括Windows、Linux和MacOS等。 主要功能模块 Pillow库包含多个功能模块，每个模块都提供了特定的图像处理功能。以下是一些常用的模块： Image：用于处理图像文件，提供打开、保存、调整大小、旋转、裁剪、滤镜等功能。 ImageDraw：提供在图像上绘制各种形状（如线条、矩形、圆形）和文本的功能。 ImageFont：用于加载和使用TrueType字体文件，以便在图像上绘制文本时设置字体样式、大小和颜色。 ImageFilter：提供各种滤镜效果，如模糊、锐化、边缘增强等，用于图像增强、特效处理和图像识别等应用。 ImageEnhance：用于调整图像的亮度、对比度、颜色饱和度等参数，使图像更加清晰、明亮或具有特定的调色效果。 高级功能 除了基本的图像处理功能外，Pillow还支持一些高级功能，如色彩空间转换、直方图均衡化等。这些功能可以帮助用户进行更复杂的图像处理和分析。
吴恩达机器学习课程笔记-深度解析回归与模型选择
"吴恩达机器学习课程笔记包含了作者在2011年学习斯坦福大学CS229机器学习课程的个人笔记，主要基于Andrew Ng教授的讲义和视频。笔记涵盖了广泛的机器学习主题，如线性回归、逻辑回归、支持向量机(SVM)、规则化和模型...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值