Tensorflow笔记之深层神经网络

 前面的学习中已经介绍了Tensorflow的基本概念。下面会学习深层神经网络。深层神经网络的定义为：一类通过多层非线性变换对高复杂性数据建模算法的合集。因为深层神经网络是实现“多层非线性变换”最常用的一种方法。深度学习具有两个非常重要的特性：多层和非线性。

（1）线性模型的局限性

在线性模型中，模型的输出为输入的加权和。假设一个模型的输出y和输入满足以下关系，那么这个模型就是一个线性模型。

                                            

当模型的输入有n个时，x和y形成了n+1维空间中的一个平面。而一个线性模型中通过输入得到输出的函数称之为一个线性变换。线性模型任意组合仍为线性模型。因此只通过线性比啊暖，任意的全链接神经网络和单层神经网络模型的表达能力没有任何区别，解决问题能力有限，这就是线性模型最大的局限性。

（2）激活函数实现去线性化