2021李宏毅机器学习笔记--16 Recursive Network

摘要

刚接触RNN的时候根本分不清recursive network和recurrent network，一个是递归神经网络，一个是循环神经网络，傻傻分不清。但是实际上，recursive network是recurrent network的一般形式。递归神经网络（recursive neural network）被视为循环神经网络（recurrent neural network）的推广 。当递归神经网络的每个父节点都仅与一个子节点连接时，其结构等价于全连接的循环神经网络 。

一、Application: Sentiment Analysis(应用：情绪分析)

Recursive Network是比RNN更一般型式的神经网路。

RNN来看情绪分析的案例，将Word Sequence输入神经网路，经过相同的function-f最后经过function-g得到结果。

如果是Recursive Network的话，必需先决定这几个Sequence的关联，上图下案例来看，我们将x¹,x²丢到function-f得到h¹再将x³,x⁴丢入相同的function-f，得到h²，再将h¹,h²丢到function-f得到h³，再经过function-g得到最后结果。

在实作Recursive Network的时候要注意， x , h 的维度必需要相同(因为用的是同一个f)。

事实上RNN是Recursive Network的一种结构模式。