跟李沐学AI-动手学深度学习-感知机+多层感知机

最新推荐文章于 2024-07-16 16:54:05 发布
最新推荐文章于 2024-07-16 16:54:05 发布
阅读量607 收藏
点赞数
分类专栏： 跟李沐学AI-动手学深度学习 文章标签： 深度学习 pytorch 神经网络
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/qq_42505741/article/details/120187388
版权

目录

感知机

训练感知机

 收敛定理

XOR问题

 总结

多层感知机

学习XOR

单隐藏层

单隐藏层-单分类

激活函数

sigmoid激活函数

 Tanh激活函数

ReLU激活函数

 多类分类

 多隐藏层

总结

感知机

给定输入x，权重w，和偏移b，感知机输出：

  二分类：-1或1。

回归输出实数、softmax回归输出概率。

训练感知机

等价于使用批量大小为1的梯度下降，并使用如下的损失函数：

 收敛定理

数据在半径r内。

余量p分类为两类，

 对于

最低0.47元/天 解锁文章
洋-葱
关注
  • 0
    点赞
  • 踩
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
专栏目录
跟李沐学AI-动手学深度学习-线性回归+基础优化算法
哇哈哈哈的博客
09-06 495
回归（regression）是指⼀类为⼀个或多个⾃变量与因变量之间关系建模的⽅法。在⾃然科学和社会科学领域，回归经常⽤来表⽰输⼊和输出之间的关系。 在机器学习领域中的⼤多数任务通常都与预测（prediction）有关。当我们想预测⼀个数值时，就会涉及到 回归问题。常⻅的例⼦包括：预测价格（房屋、股票等）、预测住院时间（针对住院病⼈）、预测需求（零售 销量）等。但不是所有的预测都是回归问题。 线性回归 eg：房价预测：一个简化模型 假设1：影响房价的关键因素是卧室个数、卫生间个数和居住面积，记为x
动手学深度学习v2笔记-Day4-多层感知机
CabbSir的技术成长之路
10-04 488
李沐 动手学深度学习v2 多层感知机
跟李沐学AI：多层感知机
Landy_Jay的博客
07-16 722
感知机是一个二分类模型，是最早的AI模型之一它的求解算法等价于使用批量大小为1的梯度下降它不能拟合Xor函数，导致第一次AI寒冬多层感知机在输出层和输入层之间增加一个或多个全连接隐藏层，并通过激活函数转换隐藏层的输出。常用的激活函数包括ReLU函数、sigmoid函数和tanh函数。使用Softmax来处理多类分类超参数为隐藏层数和各个隐藏层大小W_1b_1b_2%5Csigmab_1%29b_2。
【跟李沐学AI】
qq_44733876的博客
07-03 315
安装配置anaconda时遇到的问题
跟李沐学AI-动手学深度学习-深度学习计算
哇哈哈哈的博客
09-16 677
深度学习计算 层和块 单个神经元： 接收一组输入。 生成相应的标量输出。 具有一组相关参数（这些参数可以更新以优化感兴趣的目标函数）。 层： 接受一组输入。 生成相应的输出。 有一组可调整参数描述。 为了实现这些复杂的⽹络，我们引⼊了神经⽹络块的概念。块可以描述单个层、由多个层组成的组件或整个 模型本⾝。使⽤块进⾏抽象的⼀个好处是可以将⼀些块组合成更⼤的组件，这⼀过程通常是递归的。 import torch from torch import nn from torch.nn import functi
跟李沐学AI-动手学深度学习-模型选择+过拟合和欠拟合
哇哈哈哈的博客
09-10 523
模型选择 训练误差和泛化误差 训练误差：模型在训练数据上的误差。 泛化误差：模型在新数据上的误差。 验证数据集：一个用来评估模型好坏的数据集。 测试数据集：只用一次的数据集。 K-折交叉验证 在没有足够多数据时使用(这是常态) 算法：将训练数据分割成K块， for i = 1,....K. 使用第i块作为验证数据集，其余的作为训练数据集。 报告K个验证集误差的平均。 常用：K=5或10. 总结 训练数据集...
跟李沐学AI——实用机器学习（入门版）
日常发呆
04-24 1142
机器学习目录 2.1 探索性数据分析 2.2 数据清理 2.3 数据变换 2.4 特征工程 2.5 数据科学家的日常 Stanford University Practical machine learning 2.1 探索性数据分析 ​ 对目标的ftr数据进行处理，针对不同的信息做出不同的图形 输出数据集的行数和列数以及前十行元素 import numpy as np import pandas as pd import matplotlib.pyplot as plt import seabor
【动手学深度学习v2】深度学习-李沐老师课程中代码详解-10多层感知机
最新发布
08-09
【动手学深度学习v2】深度学习——李沐老师课程中代码详解——10多层感知机
李沐-动手学深度学习笔记
01-05
李沐老师b站课程的笔记，
李沐深度学习第四章多层感知机总结
07-26
### 李沐深度学习第四章多层感知机总结 #### 一、感知机与多层感知机基础 **1.1 感知机简介** 感知机是一种基本的线性分类器，它试图通过找到一个超平面来划分不同类别的样本。在二分类问题中，感知机的目标是...
动手学深度学习d2l-zh_李沐1
08-03
动手学深度学习d2l-zh 李沐1 本书是深度学习领域的经典教材，作者李沐等人将深度学习的基础知识和实践经验融汇其中，为读者提供了全面的深度学习知识体系。本书共分为十四章，分别介绍深度学习的基本概念、神经网络...
《动手学深度学习》2020正式版本-李沐_深度学习
09-11
《动手学深度学习》是李沐博士撰写的一本深度学习领域的经典教材，旨在帮助读者通过实践来提升在深度学习方面的技能。这本书2020年的正式版本提供了最新的深度学习理论和应用，对于初学者和有一定基础的学习者来说，...
跟李沐学AI-动手学深度学习-数值稳定性+模型初始化和激活函数
哇哈哈哈的博客
09-11 554
数值稳定性 神经网络的梯度 考虑如下有d层的神经网络 计算损失l关于参数Wt的梯度 数值稳定性的常见两个问题 梯度消失 和 梯度爆炸 例子： MLP 加入如下MLP（为了简单省略了偏移） 梯度爆炸 使用ReLU作为激活函数。 梯度爆炸的问题 值超出值域(infinity) 对于16位浮点数尤为严重（数值区间6e-5 - 6e4）。 对学习率敏感 如果学习率太大 -> 大参数值 -> 更大的梯度。 如果学习率太...
跟李沐学AI-动手学深度学习-现代卷积神经网络
哇哈哈哈的博客
09-22 1327
AlexNet 深度学习之前最火的是机器学习： 特征提取。 选择核函数来计算相关性。 凸优化问题。 漂亮的定理。 计算机视觉方面之前关注的不是机器学习而是几何学： 抽取特征。 描述几何（例如多相机）， （非）凸优化。 漂亮定理。 假设满足了，效果很好。 在十几年前，计算机视觉中最重要的是特征工程： 特征工程是关键。 特征描述子：SIFT，SURF。 视觉词袋（聚类）。 最后用 SVM。 数据集ImageNet(2010)：自然物体的彩色图片。 AlexNet赢得了2012年ImageNet竞赛。
动手学深度学习在线课程-跟着李沐学AI
Cl2212的博客
08-15 853
动手学深度学习在线课程-跟着李沐学AI http://courses.d2l.ai/zh-v2/
跟李沐学AI--多层感知机
wwssjj_12345678的博客
03-18 1179
跟着李沐学AI之多层感知机
跟李沐学AI——动手学深度学习 PyTorch版——学习笔记pycharm版本（第三天——08-09）2023.2.28
shuige515的博客
02-27 1176
我认为，沐神的第七节课和第八节课十分的重要，是后面的基础。一定要掌握牢固了。先处理几个问题：1、图片不显示的问题因为沐神使用的是jupyter，而我使用的是pycharm，所以在原本的d2l.plt…后面需要添加一行代码，比如或者在 调用d2l的时候，后面添加d2l.plt.show()解决办法是，下载d2l包d2l包里面包含这几个文件，沐神的GitHub里面3、多线程的问题。
跟李沐学AI——动手学深度学习 PyTorch版——学习笔记pycharm版本（第一天——00-03）2023.2.26
shuige515的博客
02-26 1585
跟李沐学AI——动手学深度学习 PyTorch版——学习笔记pycharm版本 前言+第一天
跟李沐学AI-动手学深度学习-softmax回归+损失函数+图片分类数据集
哇哈哈哈的博客
09-07 775
softmax回归 虽然softmax的名字是回归，但是其实它是一个分类问题。 回归VS分类 回归估计一个连续值 分类预测一个离散类别 eg: MNIST：手写数字识别（10类） ImageNet：自然物体分类（1000类） Kaggle上的分类问题：将人类的蛋白质显微镜图片分成28类、将恶意软件分成9个类别、将恶意的Wikipedia评论分成7类。 从回归到多类分类 回归 单连续数值输出 自然区间R 跟真实值的区别作为损失 分类 通常多个输出 输出i是预测为第i类的置信度 从.
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值