IEArch-基础知识

一、总论

​ 智能体系结构(Intelligent Architecture)是我大三上学期报的一门选修课。这门课的主要实验目的是搭建一个人工神经网络(可能是卷积神经网络)的加速器。在接触这门课前我对于这个名词一无所知。

​ 现在来看,大概是这个意思,人工神经网络是一种模拟人脑神经结构的数学模型,这个数学模型需要计算机辅助实现。但是这个数学模型跟计算机原有的冯诺依曼体系有些不搭配。我们常见的计算机一般将存储和数据处理分离,但是显然我们脑子不是这样的,我们的脑子的存储和数据架构并没有分开,而且存储的形式也不是一种固态的仓库,而更像是一种数据加工过程的趋势。所以我们考虑搭建新的硬件架构,去适应人工神经网络这个数学模型,一旦适应了,就起到了“加速”的作用,这也是被称为“加速器”的原因。


二、计算机的抽象

​ 这个思考在和香老师聊天的过程中逐渐清晰起来。香老师醉心于量子信息和量子计算,她考虑到我对于这些东西一窍不通,所以特别贴心地给我翻译成了“用量子的方式学一遍计组”,据香老师的说法,这种新的量子架构可能可以解决 NP 问题(或者 NP == P 问题,主要是我也不清楚)。我之前也接触过一些 GPU,当时感觉 GPU 的架构虽然与 CPU 有些差距,但是还是可以生搬硬套一个理论抽象出共性。现在我初步看了看这个加速器的架构,感觉很多特点已经没法用计组的那一套理论去理解了。

​ 量子计算机,GPU,加速器,这三个东西的架构或多或少都远离了传统的计算机处理器,那么我们要不要还将其判定为计算机呢?当遇到一个难以解决的问题的时候,是不是如果软件解决不了,我们就可以从硬件上直接对其进行改造呢?如果将计算机的抽象前进一步,是不是就可以将思路更加打开呢?

​ 抽象更进一步的同时,是对于“学科”的迷茫,我到底是学什么的?我的能力的极限在哪里?比如说如果猪肉不好吃,我应该去骂养猪的是傻逼;如果我是一个胆大妄为的人,我或许会黑掉一家银行,让我的余额变得多多的,可以买最好吃的猪肉;如果我是一个有理想的人,或许我会用我的计算机技术辅助对于猪肉基因的改造,让猪肉更加可口。无论我是怎样的人,我觉得有一个原则是不会变的,就是:我绝不会去碰任何一口活着的猪,这是农学生干的事情。

​ 智能体系结构就是这样一个模糊的东西,我之前理解的人工智能,是用软件模拟人脑,这很计算机,因为计算机软件的一大功能就是对于客观世界的模拟,我没有任何意见。但是硬件模拟,而且似乎甚至为了这个数学模型,我们去开发新的材料,新的元器件,来做加速器。看上去就像是在搭建一个人工的神经元,实在是太震撼了。

​ ReRAM 对于电压敏感的特性与神经元细胞膜上离子门控通道的特性很像,CrossBar 的设计与灰质的解剖结构也很像。可以说,我们在亲手搭建一个人脑。一个硅基的人脑。那么这个硅脑,是否还是计算机的范畴呢?


三、人工神经网络 (Artificial Neural Network)

3.1 神经元 (Neural)

在这里插入图片描述

​ 正如我们所见,这是一个神经元,神经元有很多个树突,用于接受其他神经元或者感觉细胞传递而来的神经递质,一般只有一个轴突,用于向其他神经元传递递质。神经元通过收集各个树突传递来的神经递质,打开不同的离子门控通道,当细胞膜电位超过阈值,就会触发动作电位,释放神经递质。我们可以利用这样的一个模型来对这个神经元建模。
o = f ( W I − b ) o = f(WI-b) o=f(WIb)
​ 其中 I I I 是输入信号向量, W W W 是输入信号权值向量, b b b 是阈值, f f f 是非线性映射关系, o o o 是输出信号。我们用这个式子很精炼的概括了一个神经元的特征。

在这里插入图片描述

3.2 神经网络 (Neural Network)

​ 很多个神经元在不同层(指信号迭代的次数)就可以构成神经网络。我们对其进行模型训练,训练可以通过影响权值的大小,来获得更加精确的结果,这个过程与人脑的记忆过程具有很高的相似性。

在这里插入图片描述

​ 我们称第一层为输入层,最后一层是输出层,中间的层我们称其为隐层

在这里插入图片描述

​ 在训练中,我们一般不改变非线性映射,而只改变权重向量。

​ 我们管比较简单的网络叫做感知机

在这里插入图片描述

3.3 学科坐标

​ 人工神经网络在学科坐标中大概是这个位置,顺带说一句“启发”的英文是 inspiration,启发式在我粗浅的理解下,似乎就是人们已经没法硬钢解决这个问题了,所以就通过模仿或者瞎猜一个算法路径去解决问题。

在这里插入图片描述

​ 这幅图还没有画全,神经网络里还有一个包含是深度学习,深度学习又名“深度学习网络”。所谓的“深度“指的是神经网络的层数很多。

3.4 反向传播 (Back Propagation)


四、数学原理

开始前先放上大佬的话

年轻人,你不曾真正懂得数学,你只是习惯了而已。—冯诺伊曼

Young man, in mathematics you don’t understand things. You just get used to them.—John von Neumann

4.1 卷积

​ 认输,根本学不会。

深度学习是机器学习的一个子领域,它基于人工神经网络的研究,特别是利用多层次的神经网络来进行学习和模式识别。深度学习模型能够学习数据的高层次特征,这些特征对于图像和语音识别、自然语言处理、医学图像分析等应用至关重要。以下是深度学习的一些关键概念和组成部分: 1. **神经网络(Neural Networks)**:深度学习的基础是人工神经网络,它是由多个层组成的网络结构,包括输入层、隐藏层和输出层。每个层由多个神经元组成,神经元之间通过权重连接。 2. **前馈神经网络(Feedforward Neural Networks)**:这是最常见的神经网络类型,信息从输入层流向隐藏层,最终到达输出层。 3. **卷积神经网络(Convolutional Neural Networks, CNNs)**:这种网络特别适合处理具有网格结构的数据,如图像。它们使用卷积层来提取图像的特征。 4. **循环神经网络(Recurrent Neural Networks, RNNs)**:这种网络能够处理序列数据,如时间序列或自然语言,因为它们具有记忆功能,能够捕捉数据中的时间依赖性。 5. **长短期记忆网络(Long Short-Term Memory, LSTM)**:LSTM 是一种特殊的 RNN,它能够学习长期依赖关系,非常适合复杂的序列预测任务。 6. **生成对抗网络(Generative Adversarial Networks, GANs)**:由两个网络组成,一个生成器和一个判别器,它们相互竞争,生成器生成数据,判别器评估数据的真实性。 7. **深度学习框架**:如 TensorFlow、Keras、PyTorch 等,这些框架提供了构建、训练和部署深度学习模型的工具和库。 8. **激活函数(Activation Functions)**:如 ReLU、Sigmoid、Tanh 等,它们在神经网络中用于添加非线性,使得网络能够学习复杂的函数。 9. **损失函数(Loss Functions)**:用于评估模型的预测与真实值之间的差异,常见的损失函数包括均方误差(MSE)、交叉熵(Cross-Entropy)等。 10. **优化算法(Optimization Algorithms)**:如梯度下降(Gradient Descent)、随机梯度下降(SGD)、Adam 等,用于更新网络权重,以最小化损失函数。 11. **正则化(Regularization)**:技术如 Dropout、L1/L2 正则化等,用于防止模型过拟合。 12. **迁移学习(Transfer Learning)**:利用在一个任务上训练好的模型来提高另一个相关任务的性能。 深度学习在许多领域都取得了显著的成就,但它也面临着一些挑战,如对大量数据的依赖、模型的解释性差、计算资源消耗大等。研究人员正在不断探索新的方法来解决这些问题。
【6层】4837.9平米六层框架综合办公楼(含计算书、建筑、结构图纸) 1、资源项目源码均已通过严格测试验证,保证能够正常运行; 2、项目问题、技术讨论,可以给博主私信或留言,博主看到后会第一时间与您进行沟通; 3、本项目比较适合计算机领域相关的毕业设计课题、课程作业等使用,尤其对于人工智能、计算机科学与技术等相关专业,更为适合; 4、下载使用后,可先查看README.md或论文文件(如有),本项目仅用作交流学习参考,请切勿用于商业用途。 5、资源来自互联网采集,如有侵权,私聊博主删除。 6、可私信博主看论文后选择购买源代码。 1、资源项目源码均已通过严格测试验证,保证能够正常运行; 2、项目问题、技术讨论,可以给博主私信或留言,博主看到后会第一时间与您进行沟通; 3、本项目比较适合计算机领域相关的毕业设计课题、课程作业等使用,尤其对于人工智能、计算机科学与技术等相关专业,更为适合; 4、下载使用后,可先查看README.md或论文文件(如有),本项目仅用作交流学习参考,请切勿用于商业用途。 5、资源来自互联网采集,如有侵权,私聊博主删除。 6、可私信博主看论文后选择购买源代码。 1、资源项目源码均已通过严格测试验证,保证能够正常运行; 2、项目问题、技术讨论,可以给博主私信或留言,博主看到后会第一时间与您进行沟通; 3、本项目比较适合计算机领域相关的毕业设计课题、课程作业等使用,尤其对于人工智能、计算机科学与技术等相关专业,更为适合; 4、下载使用后,可先查看README.md或论文文件(如有),本项目仅用作交流学习参考,请切勿用于商业用途。 5、资源来自互联网采集,如有侵权,私聊博主删除。 6、可私信博主看论文后选择购买源代码。
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值