点击查看完整代码http://www.daimapi.com/neuralnetwork3_1/
LSTM(Long Short-Term Memory)是长短期记忆网络,是一种时间递归神经网络,适合于处理和预测时间序列中间隔和延迟相对较长的重要事件。LSTM 已经在科技领域有了多种应用。基于LSTM的系统可以学习翻译语言、控制机器人、图像分析、文档摘要、语音识别图像识别、手写识别、控制聊天机器人、预测疾病、点击率和股票、合成音乐等等任务。
该代码不使用任何第三方深度学习工具包实现,利用Python3实现。
# -*- coding: utf-8 -*-
import copy, numpy as np
np.random.seed(0)
# 计算sigmoid函数的值
def sigmoid(x):
output = 1/(1+np.exp(-x))
return output
# 利用sigmoid函数计算误差
def sigmoid_output_to_derivative(output):
return output*(1-output)
# 训练数据集并进行迭代
int2binary = {}
binary_dim = 8
largest_number = pow(2,binary_dim)
binary = np.unpackbits(np.array([range(largest_number)],dtype=np.uint8).T,axis=1)
for i in range(largest_number):
int2binary[i] = binary[i]
# 设置LSTM的参数
alpha = 0.1
input_dim = 2
hidden_dim = 16
output_dim = 1
# 初始化神经网络的权重
synapse_0 = 2*np.random.random((input_dim,hidden_dim)) - 1
synapse_1 = 2*np.random.random((hidden_dim,output_dim)) - 1
synapse_h = 2*np.random.random((hidden_dim,hidden_dim)) - 1
synapse_0_update = np.zeros_like(synapse_0)
synapse_1_update = np.zeros_like(synapse_1)
synapse_h_update = np.zeros_like(synapse_h)
# 进行训练
for j in range(10000):