tensorflow
文章平均质量分 96
晨丢丢
这个作者很懒,什么都没留下…
展开
-
基于LSTM的Chatbot实例(1) — 研究背景及数据准备
一、背景 一直想写一篇面对初学者的文章从上层应用到底层的机器学习基础方面全流程的阐释当下流行的深度学习算法(CNN,RNN等)。刚好春节前有同学工作内容涉及对话机器人,我也从零开始接触学习了下,所以就借这个案例展开说一些自己的学习过程吧。 对话系统根据实际的任务需求,所要用到的主要技术手段也不尽相同。具体来说,对话系统大致可分为两种:任务导向型(task-oriented)对话系...原创 2018-05-28 14:15:07 · 2458 阅读 · 2 评论 -
基于LSTM的Chatbot实例(2) — tensorflow LSTM模型创建
一、总体分析 感觉很多chatbot的博文都是直接拿seq2seq开刀,上来就堆了一堆RNN(或者LSTM,Attention)模型的原理和公式。本篇从初学者的角度出发更想将机器学习基础(目标函数,优化方法,正则化等思想)贯穿始终。并结合Tensorboard可视化tensorflow中相关的模型算法。 在Machine Learning by Mitchell(1997)中,给出了机...原创 2018-05-29 09:19:57 · 2569 阅读 · 2 评论 -
基于LSTM的Chatbot实例(3) — tensorboard可视化分析LSTM
一、计算图 上一篇文章中已经完成了基于tensorflow的chatbot模型建立和训练,并保存训练日志在指定目录。在命令行使用”tensorboard –logdir=‘XXX’”,根据提示打开指定url,即可可视化整个模型计算图及训练过程的参数的变化情况。这里先将选项卡切换在”GRAPHS”栏位,查看整个计算图 整个序列非常的长,下面将分别展开来说。...原创 2018-05-29 19:09:36 · 3406 阅读 · 0 评论 -
基于LSTM的Chatbot实例(4) — 基于SGD的模型参数训练及优化
一、SGD基本知识 前几篇文章中已经介绍了我们的seq2seq模型使用均方误差作为损失函数,使用SGD算法(随机梯度下降)算法来训练模型参数,实例中代码如下:net = tflearn.regression(real_output_sequence, optimizer='sgd', learning_rate=0.1, loss='mean_square') 大多数机器学习任务最...原创 2018-05-31 17:01:59 · 3419 阅读 · 0 评论