机器学习——神经网络

最新推荐文章于 2023-04-20 07:08:38 发布
最新推荐文章于 2023-04-20 07:08:38 发布
阅读量253 收藏
点赞数
分类专栏： 机器学习
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/weixin_41572488/article/details/99736975
版权

神经网络的介绍

神经网络是为了模拟人的大脑

神经网络起源于1943年，A Logical Calculus of Ideas Immanent in Nervous Activity , 使用一个间划过的计算模型来描述在动物的大脑中，神经元如何通过命题逻辑来实现复杂的计算
在80年代流行过一阵，但是到了90年代后期，由于各种原因，应用逐渐消失了

近几年，神经网络又火了起来
在这里插入图片描述
在这里插入图片描述

生物神经元：由包含细胞核和大部分细胞复合成分的细胞体组成。有许多分枝延伸的部分称为树突，一个非常长的延伸称为轴突。轴突的长度肯呢个比细胞体长几倍，或者长达几万倍，在其极端附近，轴突分裂成许多被称为终树突的分支，在这些分支的尖端是称为突触终端的微小结构，它会连接到其他神经元的树突（或者直接连接到细胞体）。生物神经元通过这些突触接受从其他细胞发来的很短的电脉冲，这种脉冲被称为信号。当一个神经元在一定的时间内收到足够多的信号，就会发出它自己的信号

单个神经元
在这里插入图片描述

生物神经网络的多个层次
在这里插入图片描述
一只猫大约有10亿个神经元，一只老鼠大约有7500万个神经元，一只蟑螂大约有100万个神经元。相比之下，许多人工神经网络包含的神经元要少得多，通常只有几百个，所以我们在不久的将来随时创建一个人工大脑是没有危险的
在这里插入图片描述

在这里插入图片描述
在这里插入图片描述

http://playground.tensorflow.org
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述

感知器与神经网络

在这里插入图片描述
在这里插入图片描述

用符号标识神经网络

在这里插入图片描述

一个神经元的数学表示

在这里插入图片描述
在这里插入图片描述

激活函数

在这里插入图片描述

为什么需要非线性激活函数

如果你使用线性激活函数，或者没有激活函数，那么无论你的神经网络有多少层，

你一直在做的只是计算线性激活函数（两个线性组合的本身就是线性组合），

所以隐藏层就没有用了
在这里插入图片描述
在这里插入图片描述

激活函数和他们的导数

在这里插入图片描述
在这里插入图片描述

反向传播的理解

在这里插入图片描述

在这里插入图片描述

幸郝吖
关注
专栏目录
机器学习——神经网络(Neural Network)
qq_41562426的博客
07-03 1600
1、MP模型 Mp模型是最基础，最原始的神经网络模型。MP模型是1943年心理学家W.S.McCulloch和数理逻辑学家W.Pitts建立的。它的主要结构如图1所示。 图1 (来源于浙江大学胡浩基老师的机器学习课程) 2、感知器算法 感知器算法是在MP模型的基础上发展来的，主要可以解决我们在上一节中提到的线性可分问题。主要的算法流程如下所示： (1) 随机选取和; (2) 选取一个训练样本(X,y), 对于这个训练样本作如下判断： if, if, ......
机器学习——神经网络（neural networks）
Xpy_021101的博客
12-28 2676
他的作用是设置输出层，只使用线性激活函数，将交叉熵损失函数和损失函数都封装进了这里特殊的损失函数里，logits=z，TensorFlow会把z作为中间值来计算，这可以让TensorFlow的数字舍入误差小一点，因为当涉及到softmax时，数值舍入误差可能会变得更糟。第一个隐藏层的神经元用相对较小的窗口来寻找这些边缘，第二个隐藏层是用大点的窗口(在图像的搜寻范围更大)，第三个隐藏层用的窗口还要更大，这些经过可视化后的小神经元，实际上对应于图像中不同大小的区域。
论文笔记：A LOGICAL CALCULUS OF THE IDEAS IMMANENT IN NERVOUS ACTIVITY
绯荔榭•少年
11-04 7636
神经网络M-P模型
机器学习之神经网络
angengguo7895的博客
08-28 169
前言 以下内容是个人学习之后的感悟，转载请注明出处~ 　　由于神经网络内容有点儿多，所以在此处建立以下目录，方便读者浏览。 简介 神经网络原理 BP神经网络 梯度检验 参数随机初始化 简介 神经细胞和人身上任何其他类型细胞十分不同，每个神经细胞都长着一根像电线一样的称为轴突（axon）的东西，它的 长...
人工智能基础课17人工神经网络-一个青年才俊的意外死亡：神经元与感知器
fegus的博客
04-20 288
而当两个输入相同时，输出为假。更重要的是，大量来自政府的经费都涌向罗森布拉特的项目，也许这才是让明斯基不爽的真正原因。异或问题是最简单的逻辑问题之一，如果连异或的分类都无法解决，这样的模型存在的意义就颇为有限了。这样一来，MP神经元的工作形式就类似于数字电路中的逻辑门，能够实现类似“逻辑与”或者“逻辑或”的功能，因而又被称为“阈值逻辑单元”。通俗地说，两个神经细胞之间通过神经元进行的交流越多，它们之间的联系就会越来越强化，学习的效果也在联系不断强化的过程中逐渐产生。都是固定不变的，不能做出动态的调整。
前馈神经网络
weixin_43595036的博客
11-23 917
神经元模型 神经元（M-P） 1943 年，美国芝加哥大学的神经科学家沃伦·麦卡洛克和他的助手沃尔特·皮茨发表了论文《神经活动中思想内在性的逻辑演算》（A Logical Calculus of Ideas Immanent in Nervous Activity），首次提出了一种形式神经元模型，并命名为McCulloch-Pitts模型，即后 来广为人知的M-P模型。 在M-P模型中，神经元接受其他n个神经元的输入信号(0或1)，这些输入信号经过权重加权并求和，将求和结果与阈值(threshold) θ
论文A LOGICAL CALCULUS OF THE IDEAS IMMANENT IN NERVOUS ACTIVITY的学习
jinhualun911的博客
09-09 1346
Abstract: Because of the “all-or-none” character of nervous activity, neural events and the relations among them can be treated by means of propositional logic. It is found that the behavior of every net can be described in these terms, with the addition
A logical calculus of the ideas immanent in nervous activity
04-23
神经网络一篇特别经典的文章，1943年的，老师鼎立推荐，可以了解一下神经网络的发展
机器学习——神经网络（反向传播）与整体框架
weixin_43201090的博客
01-28 1019
一、反向传播 **前向传播：**从输入数据到计算损失的过程 网络模型最终的结果完全是由其中的权重与偏置参数来决定的，所以神经网络中最核心的任务就是找到最合适的参数 当确定损失函数之后，就转化成了下山问题。但是神经网络是层次结构，不能一次梯度下降就得到所有参数更新的方向，需要逐层完成更新参数工作。 反向传播：在神经网络中，并不是所有参数的梯度都能一步计算出来，要按照其位置顺序，一步步进行传递计算，这就是反向传播 由于网络层次的特性，在计算梯度的时候，需要遵循链式法则，也就是逐层计算梯度，并且梯度是可以传
A Logical Calculus of Ideas Immanent in Nervous Activity
07-14
McCulloch and Pitts 的经典文章。
机器学习——BP神经网络例子（二维输入，单输出）
04-13
内容概要：本程序利用BP神经网络进行了二维输入，单输出的机器学习，代码中含有详细注释 压缩包内含数据集，下载后在MATLAB中打开文件夹，运行BP.m文件即可出结果 结果包含预测值与实际值对比图，以及如下误差参数：...
神经网络的发展历史
qq_45387772的博客
09-11 8138
论文中提出了人工神经网络的概念，并给出了人工神经元的数学模型，从而开创了人工神经网络研究的时代。
论文原文解读汇总(持续更新中)
微电子学与固体电子学-俞驰
01-06 1188
以下是自己对一些论文原文的解读: 机器学习: 《XGBoost: A Scalable Tree Boosting System》 《CatBoost:gradient boosting with categorical features support》-2018 《LightGBM:A Highly Efficient Gradient Boosting Decision Trees》 主流剪...
神经网络 I：概述及发展
热门推荐
AI_BigData_WH的博客
10-23 1万+
人脑是如何工作的？人类能否制作模拟人脑的人工神经元？多少年以来，各类科学家试图从医学、生物学、生理学、哲学、信息学、计算机科学、认知学、组织协同学等各个角度认识并解答上述问题。在寻找上述问题答案的研究过程中，逐渐形成了一个新兴的多学科交叉技术领域，称之为“神经网络”。神经网络的研究涉及众多学科领域，这些领域互相结合、相互渗透并相互推动。
Java 代码实现了一个简单的文本编辑器-可运行
最新发布
10-17
Java 代码实现了一个简单的文本编辑器
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值