深度学习项目（二）对话机器人

深度学习项目（二）对话机器人

项目背景

对话聊天机器人是一个热门话题，许多研究者都希望能够开发出让人无法分辨真假的聊天机器人，许多人声称可以使用自然语言处理和深度学习技术来实现这一点。 现如今也出现了聊天机器人，比如小度等智能助手，本项目是使用电影对话语料库，使用Seq2Seq模型+注意力机制训练模型，并进行测试，可以使用模型进行对话。

项目步骤

本项目从以下五个步骤进行：

1. 注意力机制：编写本项目中的重点，注意力机制的完成过程。
2. 数据处理：对数据进行读取并处理，将数据全部处理为相同的长度，方便作为神经网络的输入。
3. 创建词向量：词向量是用来表示词的向量，也就是将文本转化为相应的特征向量。
4. 搭建模型并训练：搭建本次项目所使用的神经网络，并进行训练，得出训练的模型。
5. 模型测试：使用训练好的模型进行测试，试试使用训练的模型是否可以进行对话。

导入第三方库

import numpy as np 
import pandas as pd 
import os
import tensorflow as tf
from tensorflow.python.keras.layers import Layer
from tensorflow.python.keras import backend as K

注意力机制

1. Attention的出现就是为了两个目的：1. 减小处理高维输入数据的计算负担，