跟李沐学AI -10 多层感知机+代码实现

已于 2023-11-21 20:59:47 修改
阅读量38 收藏
点赞数
分类专栏： 机器学习 文章标签： 算法
于 2023-11-21 12:53:26 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/2302_79772492/article/details/134519638
版权

1、感知机 

  • 如果分类正确，条件语句中：y(w,x)应该的大于0 的。-y(w,b)<0。此时max(0,条件)的取值就为0 . 梯度为常数，就不会去做更新。---对应的上面的if语句不成立
  • 如果分类错误，此时max(0,条件)的取值就为y(w,b) 。这时候就有梯度了。if语句成立，更新梯度。

存在一定的空余，即允许模型有一定的错误机会。

 

2、多层感知机  MLP

激活函数：

1、sigmoid

2、tanh

3、relu

多类分类：softmax多加了一层隐藏层

3、代码实现

甜果儿
关注
  • 0
    点赞
  • 踩
  • 0
    收藏
    觉得还不错? 一键收藏
  • 1
    评论
专栏目录
跟李沐学AI-动手学深度学习-感知机+多层感知机
哇哈哈哈的博客
09-10 462
感知机 给定输入x，权重w，和偏移b，感知机输出： 二分类：-1或1。 回归输出实数、softmax回归输出概率。 训练感知机 等价于使用批量大小为1的梯度下降，并使用如下的损失函数： 收敛定理 数据在半径r内。 余量p分类为两类， 对于 ， 感知机保证在 步后收敛。 XOR问题 感知机不能拟合XOR函数，它只能产生线性分割面。 总结 感知机是一个二分类模型，是最早的AI模型之一。 它的求解算法等价于使用批量大小为1的梯度下降。 它不能拟...
跟李沐学AI--多层感知机
wwssjj_12345678的博客
03-18 1168
跟着李沐学AI之多层感知机
动手学PyTorch（李沐）4 ---- 多层感知机（附代码实现）
qq_46381729的博客
07-19 517
输入依然是长为n的向量隐藏层W1依然是m*n的矩阵，对于m个神经元，和长为n的输入向量，每个神经元都要对输入进行计算输出层W2是m*k的矩阵，输出层接受长为n的向量的输入，输入长为k的向量最后需要softmax对输出向量进行处理神经网络中的一层实际指的是带权重的一层，出去输入层，剩下的就是层数。每一层包含了该层的权重 W，b 和激活函数，以及当前层的计算方法SVM替代了感知机，多层感知机解决了XOR的问题，但多层感知机没有流行是因为要解决隐藏层数量、大小、收敛等问题，工作量太大。
李沐《动手学深度学习》课程笔记：10 多层感知机 + 代码实现
weixin_44850744的博客
02-28 2169
目录 10 多层感知机 + 代码实现 1.感知机 ​​​2.多层感知机 ​​​3.多层感知机的从零开始实现 4.多层感知机的简洁实现 10 多层感知机 + 代码实现 1.感知机 2.多层感知机 3.多层感知机的从零开始实现 # 多层感知机的从零开始实现 import torch from torch import nn from d2l import torch as d2l import os import ma
李沐pytorch学习-多层感知机及其实现
qq_26545507的博客
08-16 1105
介绍多层感知机的定义，原理及pytorch实现。
跟李沐学AI：多层感知机
Landy_Jay的博客
07-16 688
感知机是一个二分类模型，是最早的AI模型之一它的求解算法等价于使用批量大小为1的梯度下降它不能拟合Xor函数，导致第一次AI寒冬多层感知机在输出层和输入层之间增加一个或多个全连接隐藏层，并通过激活函数转换隐藏层的输出。常用的激活函数包括ReLU函数、sigmoid函数和tanh函数。使用Softmax来处理多类分类超参数为隐藏层数和各个隐藏层大小W_1b_1b_2%5Csigmab_1%29b_2。
李沐-动手学深度学习-多层感知机的实现
qq_60678226的博客
06-06 599
简单介绍了多层感知机的原理，及各个层之间的对应关系，多层感知机的代码实现。
【d2l动手学深度学习】 Lesson 10 多层感知机 + 代码实现 试验结果对比
LeungSr的博客
10-11 610
在第十节课 多层感知机 的代码实现部分，做的小实验，介绍了对（衣物）数据集进行十分类的神经网络实现效果，主要展示的是训练的Loss以及准确度的训练批次图，10个epoch可以看到，调用torch内部实现的Softmax函数经过优化之后，相比手写的Softmax函数，迭代的过程更加稳定（抖动更小）
多层感知机 + 代码实现 - 动手学深度学习v2 | 李沐动手学深度学习课程笔记
qq_53826699的博客
03-02 395
感知机≈二分类问题感知机和其他问题的对比训练感知机如果小于等于零，说明预测错啦 ，其实就是同号为正，异号为负举个分类的例子增加样本，改变分类线继续分类感知机的收敛定理XOR问题XOR问题其实就是第1、3象限数值为-1， 第2、4象限数值为1 （即同一类），但是感知机不能拟合XOR问题，总有一个数据会分类错误。【但是下面所描述的多层感知机可以解决这个问题】感知机的小结。
(leetcode学习)50. Pow(x, n)
m0_54888411的博客
08-05 150
快速幂，第一次写的时候用 n%2==1，这样不能处理负数的问题。
嵌入式初学-C语言-十五
MaBaB的博客
08-05 483
函数：实现一定功能的，独立的代码模块，我们的函数一定是先定义后使用使用函数的优势可以通过函数提供功能给别人使用，当然我们也可以使用别人提供的函数，减少代码量借助函数可以减少重复性代码。实现结构化（模块化）程序设计思想结构化程序设计思想：将大型的任务功能，划分为相互独立的小型的任务模块来设计3.函数是c语言程序的基本组成单元：C语言程序是由一个（必然是main函数）或多个函数组成。语法：返回类型 函数名(形参列表) -- 函数头 | 函数首部。
PageRank算法与TextRank算法
最新发布
weixin_74254879的博客
08-06 255
PageRank 是一种用于计算网页重要性的算法，其核心思想源自随机浏览模型。这个模型假设一个网络中的用户通过随机点击链接在网页之间跳转，并根据网页的链接结构计算每个网页的重要性。假设三个网页按以下方式连接，计算每个网页的PR值。2最终的 PageRank 值---> tensor([[0.8575, 0.0925, 0.0500]])从结果得出，网页重要性。
HDU - 2057 (纯C语言模拟16进制加减法)
qq_62224565的博客
08-05 200
首先将16进制转成10进制，再将10进制转成16进制。有个问题就是题目说输入不超过15位，但是。第二，使用abs函数时注意，当数爆int时，用long long 储存使用abs会有误。第一，多组输入注意清空字符数组，令每个字符等于’\0’即可。纯模拟，过了后发现可以用%x，直接输入输出。第三，模拟时记得用long long。以前做题没有怎么用C写过HDU的题。就是求16进制的加法。
差分专题的练习
wniuniu_的博客
08-05 117
神经，树状数组做多了一开始还想着用树状数组来查询差分数组，但是我们要进行所有元素的查询，直接过一遍就好啦。就好像这个题目，我们可以小试牛刀直接进行树状数组。
代码随想录算法训练营day34：动态规划02：62.不同路径；63. 不同路径 II；343. 整数拆分；96.不同的二叉搜索树
weixin_65180740的博客
08-05 657
这里要看一下递推公式dp[i][j] = dp[i - 1][j] + dp[i][j - 1]，dp[i][j]都是从其上方和左方推导而来，那么从左到右一层一层遍历就可以了。那么很自然，dp[i][j] = dp[i - 1][j] + dp[i][j - 1]，因为dp[i][j]只有这两个方向过来。这样就可以保证推导dp[i][j]的时候，dp[i - 1][j] 和 dp[i][j - 1]一定是有数值的。表示从（0 ，0）出发，到(i, j) 有dp[i][j]条不同的路径。
手搓交换排序、归并排序、计数排序
sparrowfart的博客
08-02 1685
不同于hoare版本的找基准值，通过挖坑法，在循环里，当left == right就直接跳出，hoare版本的left和right相等时需要判断，当前它们所指的值比基准值大还是小，而挖坑法就不需要考虑，left和right相等时，同时指向的位置是一个坑，坑内不存在有效数据，最后直接将基准值填坑即可。先根据最大值最小值的差值开辟空间，若是根据最大值开辟，当最大值为109万，最小值为100，一共有10个数据，此时根据最大值直接开辟空间会很浪费，109个整形大小的空间，只用来存放10个数据。
【算法系列】双指针
GOATLong的博客
08-05 431
常⻅的双指针有两种形式，⼀种是对撞指针，⼀种是左右指针。对撞指针：⼀般⽤于顺序结构中，也称左右指针。• 对撞指针从两端向中间移动。⼀个指针从最左端开始，另⼀个从最右端开始，然后逐渐往中间逼近。• 对撞指针的终⽌条件⼀般是两个指针相遇或者错开（也可能在循环内部找到结果直接跳出循环），也就是：◦ left == right （两个指针指向同⼀个位置）◦ left > right （两个指针错开）
网络流算法：最大流问题
qq_40254606的博客
08-05 313
在一个流网络中，每条边有一个容量，表示该边能够承载的最大流量。容量限制：流量不能超过边的容量。流量守恒：除源点和汇点外，每个顶点的流入量等于流出量。Ford-Fulkerson算法是一种贪心算法，用于解决最大流问题。其核心思想是不断寻找增广路径，直到找不到新的增广路径为止。Edmonds-Karp算法是Ford-Fulkerson算法的一个具体实现，使用广度优先搜索（BFS）来寻找增广路径。该算法的时间复杂度为 (O(VE^2))，其中 (V) 是顶点数，(E) 是边数。
跟李沐学ai安装pytorch
10-15
要安装PyTorch，可以按照以下步骤进行： 1. 确认已经安装了Python环境，建议使用Python 3.6或以上版本。 2. 打开PyTorch官网（https://pytorch.org/），选择合适的PyTorch版本和对应的CUDA版本（如果需要GPU加速）。 3. 根据官网提供的命令，使用pip或conda安装PyTorch。 例如，如果要安装PyTorch 1.9.0版本，CUDA 11.1版本，可以使用以下命令： ``` pip install torch==1.9.0+cu111 torchvision==0.10.0+cu111 torchaudio==0.9.0 -f https://download.pytorch.org/whl/cu111/torch_stable.html ``` 安装完成后，可以在Python中导入torch模块进行测试。
评论 1
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值