神经网络的基础

目录

一、神经网络概述

二、神经网络的组成

三、神经网络的学习过程

四、神经网络的魅力

五、学习总结

---

本文文章链接：CSDN

一、神经网络概述

神经网络，作为深度学习的基础和核心，其灵感来源于生物神经网络的结构和功能。简单来说，神经网络是由大量神经元（节点）相互连接而成的复杂网络，这些神经元通过权重和偏置进行信息传输和处理，从而实现对输入数据的识别、分类和预测等功能。

 现代的“人工神经网络”是受生物神经的启发才逐步发展而来，生物神经网络中最基本的组织是神经元，以脊椎动物神经细胞为例，其组织的一般形态如图7-1所示。
组织虽然复杂，但是功能却比较简单，当“突触”接收的信号(能够引发电位变化的化学物质)传导到细胞体中并积累到一定程度，它就被“激发”，激发的结果是这个神经元会向其他神经元发送化学物质。
1943年eCullach利用将上述过程描述成简单的模型，这就是沿用至今的M-P神经元模型，如图7-2所示。

图中节点Q的值为y，为Q设定一个阈值k，而x1，x2，····，xn皆为Q的输入，当x1，x2，···，xn输入积累超过k时，y的值将发生一个明显的变化。这个过程可以用一个函数式表达： 

       函数中表达输入量的积累，那么当积累超过k时，什么样的函数能让人工神经元有一个“激发”的响应呢？这个功能可以由图7-3中虚线所示的“阶跃函数”完成。观察阶跃函数，它的特点是只有两个状态，而状态的变化只有在x=0时才发生。用通俗的话讲，神经元的功能就是对所有输入信号求和，到达一定量之前隐忍不发，超过限度后激发一下。                                                        阶跃函数虽然可以完成“激发”的功能，但是，由于它是分段函数，不连续，因此不利于计算，所以在实际使用中用sigmod函数代替它。sigmod函数是一个连续的函数，如图7-3所示的实线所示。                                                                                                                                                           最复杂的神经网络也要从最简单的单个神经元开始，而只包括输入和输出的两层神经就是最简单的神经网络了。这种简单的两层网络被称为“感知机”，观察只包夸3个神经单元的双层网络，如图7-4所示   

图7-4中的网络由2个输入单元和1个输出单元组成，只将x1和x2考虑作输入节点，则无须考虑它们的表达式，所以在整个网络中只考虑y节点，为了简化分析，使用sgn函数，该函数只判断参数是否“非负”，那么节点的表达式可以写作：

这时可以设置，为1，Q的值为2，于是公式7-2变为：

这时得到了一个可以作最简单的“或逻辑”网络，如用1和0代表是与否，那么y端的输出见表7-1

二、神经网络的组成

1. 神经元（节点）：神经网络的基本单元，负责接收输入信号，通过激活函数产生输出信号。
2. 权重（Weight）：连接神经元之间的参数，决定了输入信号对输出信号的影响程度。
3. 偏置（Bias）：神经元内部的参数，用于调整神经元的输出阈值。
4. 激活函数（Activation Function）：用于将神经元的输入信号转换为输出信号的非线性函数，常见的激活函数有Sigmoid、ReLU等。

三、神经网络的学习过程

神经网络的学习过程是通过训练数据来不断调整网络中的权重和偏置，使得网络能够更好地拟合训练数据。这个过程通常使用反向传播算法（Backpropagation）和梯度下降算法（Gradient Descent）来实现。在训练过程中，网络会不断迭代优化，直至达到预设的停止条件（如训练轮数、损失函数值等）。

四、神经网络的魅力

1. 强大的非线性拟合能力：神经网络可以拟合任意复杂的非线性函数，这使得它在处理复杂问题时具有独特的优势。
2. 自适应性：神经网络能够根据训练数据自动调整网络参数，从而适应不同的任务和场景。
3. 并行处理能力：神经网络中的神经元可以并行计算，这使得网络在处理大规模数据时具有很高的效率。
4. 泛化能力：经过充分训练的神经网络能够对未见过的数据进行合理预测和推断，具有很强的泛化能力。

五、学习总结                                  

学习神经网络后的心得体会

自从我开始深入探索神经网络的世界，每一次的学习都像是一次全新的冒险。在此之前，我对于人工智能和机器学习的理解主要停留在理论层面，但当我真正开始接触和实践神经网络时，我深感其强大的魅力和无尽的潜力。

学习过程中，我首先被神经网络复杂的结构和精妙的设计所吸引。每一个神经元、每一个连接、每一个权重，都似乎蕴含着无尽的智慧和可能性。我开始意识到，神经网络不仅仅是一种算法或工具，更是一种全新的思维方式和解决问题的方法。

在理解神经网络的基本原理后，我逐渐开始尝试构建和训练自己的模型。这个过程充满了挑战和困难。数据预处理、模型选择、参数调整、过拟合与欠拟合的处理……每一个步骤都需要我仔细思考和实践。有时，我会因为一个小小的参数调整而花费数小时的时间，但当我看到模型性能的提升时，那种喜悦和成就感是无法用言语表达的。

在这个过程中，我也深刻体会到了团队合作的重要性。与同学们一起讨论、分享经验和知识，不仅让我更快地解决了问题，也让我收获了更多的友谊和成长。我们一起探讨神经网络的最新研究成果，一起探索新的应用场景，这种氛围让我感到无比振奋和激动。

回顾整个学习过程，我深感自己在知识和技能方面都有了很大的提升。我不仅掌握了神经网络的基本原理和构建方法，还学会了如何分析和解决实际问题。更重要的是，我学会了如何保持对学习的热情和好奇心，如何在困难和挑战面前保持坚韧和毅力。

未来，我计划继续深入学习神经网络和其他相关领域的知识，不断提高自己的技能和能力。我相信，在不久的将来，神经网络将在更多领域发挥更大的作用，为人类带来更多的便利和惊喜。我也希望自己能够成为这个领域的一员，为推动人工智能的发展贡献自己的力量。