神经网络基础与感知机

8期:chatGPT时代到来了,该如何跟上  

chatGPT越来越火,目前大多还是停留在概念上,未来趋势,势不可挡。目前国内都在争这个蛋糕,那对于搞技术的我们,未来又该何去何从呢。如果说早两年AI可能还遥不可及,有了AI的技术能力,是块金钻,没有AI,老本行也影响不了多少。那么随着chatGPT越来越颠覆式的运作,未来,AI能力必不可少!抓紧机会,跟上我们的课程吧~

  1. 人工智能、机器学习关系图
     


一张图读懂常听到的人工智能、机器学习、深度学习之间的关系。

2.第一个感知机

研究表明,一元编码用于负责鸟鸣产生的神经回路。在生物网络中使用一元可能是由于编码固有的简单性。另一个影响因素可能是一元编码提供了一定程度的纠错。

说人话,就是这个感知机来源于生物学,也就是人体突触的启发,人的脑回路。比如当你看到下雨,你就会想到要带伞,这是人体神经看到雨被触发了。人体神经有千千万,就相当于N个输入,N个输入最后汇聚成一个你的决定。

用公式表示即为:

yk = (x1 * wk1 + x2 * wk2 + x3 * wk3)

3.问题来了

学过数学的人都知道,以上是一个线性函数,那么问题来了,线性函数怎么解决异或问题呢。也就是下图。

如果转化成坐标图形,就是这样:

请问:以上图形进行分类,如何用一条直线对它进行划分?

结论就是:感知机无法解决异或问题,因为感知机是线性的,对于非线性的问题怎么处理呢?因为这个问题的出现,导致人工智能停滞了好长一段时间。

4.多层感知机--激活函数(引入非线性,万能逼近定律)

有问题的地方,就有解决的江湖!

单层感知机包含的问题太浅显,不够深入,模拟人类需要精密思考,因此就出现了多层感知机。

以上就是多层感知机,其实就是两层,输出层不算。中间层也叫做隐藏层。

有了多层感知机之后,不还是线性函数吗,问题并没有解决,那么重点来了,激活函数。

以下为几个经典的激活函数:

加入激活函数有啥好处呢:

4.1 隐藏层加入激活函数,可避免网络退化;

4.2 让感知机成为真正的多层,否则等同于一层;

4.3 引入非线性,使网络可以逼近任意非线性函数;

同时激活函数也需要具备以下几点性质:

4.4 连续并可导 (为后期反向传播做准备);

4.5 函数尽可能简单;

4.6 值域要在一定的区间上;

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 2
    评论
评论 2
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值