TensorFlow入门教程(13)反向传播BP

#
#作者：韦访
#博客：https://blog.csdn.net/rookie_wei
#微信：1007895847
#添加微信的备注一下是CSDN的
#欢迎大家一起学习
#

1、概述

我们在第3讲学习《深度学习基本概念和知识点》时讲过反向传播的概念，在第11讲学习《循环神经网络RNN》时，用RNN写了一个二进制减法时，就用到过反向传播。反向传播分为BP和BPTT，全连接神经网络和卷积神经网络用的是反向传播（BackPropagation，BP），而卷积神经网络用的是随时间反向传播（BackPropagation Through Time，BPTT），这一节先讲BP。

2、网络结构

假设有如下网络，假设有如下网络，