theano 模块 MLP示例

最新推荐文章于 2021-10-11 16:09:03 发布

闻DD

最新推荐文章于 2021-10-11 16:09:03 发布

阅读量1.1k

点赞数

分类专栏： python 文章标签： python

本文链接：https://blog.csdn.net/deepexpert_wendongdi/article/details/43908067

版权

这篇博客介绍了如何利用Theano库构建一个多层感知器(MLP)。通过定义`Layer`类表示神经网络层，包含权重、偏置和激活函数，以及`MLP`类整合所有层并实现输出和误差平方计算。文章还涵盖了梯度下降法的动量更新，以优化网络训练过程。

摘要由CSDN通过智能技术生成

theano 教程
Example: MLP：

约定数组为列向量，

层级：
将多层传感器定义为一连串的层级，每个层级定义为一个类。类属性包括：权重、偏差矢量、以及计算这一层输出的函数。
如果不使用Theano，我们可能希望输出函数会接收一个向量并返回图层的激活来响应输入。然而在Theano中输出函数反而是为了创造能够接收向量并返回图层激活的函数而创建的。因此我们要创建一个在类外部计算图层的激活。
Layer类：neural network 的一层用于计算非线性误差s = Wx+b 。其中x就是输入的向量。

class Layer(object):
    def __init__(self,W_init,b_init,activation):
        '''
        W_init 是需要初始化的权重矩阵的值 (n_output,n_input)
        b_init 是需要初始化的偏差向量的值 (n_output,)
        activation 是图层激活函数
        '''
        #基于W的初始化来获得输入和输出的维度
        n_output,n_input = W_init.shape
        #确定b是output的大小
        assert b_init.shape == (n_output,)
        #所有参数都应该是共享变量，在类里用于计算图层的