神经网络学习笔记

凉月松心

已于 2022-09-21 11:15:10 修改

阅读量131

点赞数

文章标签：神经网络学习机器学习

于 2022-09-10 23:12:14 首次发布

本文链接：https://blog.csdn.net/m0_52555753/article/details/126771664

版权

这篇博客介绍了神经网络的基础知识，包括正向迭代和反馈修正两个核心过程。正向迭代涉及线性代数中的矩阵乘法，而反馈机制通过选择平方差误差函数和梯度下降法来寻找极值点。博主已经开始构建神经网络的模板代码，定义了神经网络类并初始化了网络结构，创建了一个包含3个节点的简单神经网络实例。

摘要由CSDN通过智能技术生成

2022.9.8

神经网络算法数学原理是非常难的，但好在我们只需要掌握代码逻辑还有思路就可以了

神经网络算法的实现过程大体主要分为两块: 正向迭代和反馈修正

1. 正向迭代部分只需要用到大二学到的线性代数知识（矩阵乘法）

2. 反馈机制部分：

主要考虑（1）误差函数的选择（2）极值点的判定

误差函数的选择是选择经验函数：平方差函数

极值点的判定选择的是梯度下降法，也是最经典的求单峰极值的函数

通过对表达式的微分，我们可以得到经验公式

2022.9.9

经过昨日的学习，今天自己开始对于神经网络模板代码的构建

神经网络初始化：

# neural network class definition
class neuralNetwork():
    # 初始化网络
    def __init__(self,inputnodes,hiddennodes,outputnodes,learningrate):
        # 输入层 隐藏层 输出层
        self.inodes= inputnodes
        self.hnodes= hiddennodes
        self.onodes= outputnodes

        # 学习率
        self.lr= learningrate
    # 训练网络
    def train(self):
        pass
    # 查询网络
    def query(self):
        pass

    # 尝试创建3个节点，每一层各有三个的小型神经网络对象
inputnodes=3
outputnodes=3
hiddennodes=3
learningrate=0.3
n=neuralNetwork(inputnodes,hiddennodes,outputnodes,learningrate)