NLP | 自动问答练习(DEEPQA调参)

最好结果

在这里插入图片描述

所做工作

主要对chatbot.py的network options和training options部分的参数进行了修改。

在这里插入图片描述

  • 每个参数都调过,最后numLayers从2调为10,learningRate为0.0001,其他的都还是原来的值。

  • 感觉对结果影响较大的是learningRate和dropout,随着loss越来越小,learningRate也要跟着减小,dropout原来是0.9,改小的话loss会变大,所以没怎么改它。

  • 不过最有效的还是多跑几个小时,我一共跑了4万多个step,大概花了一整天的时间,Loss从5点几降到0点几。

  • 据说把embedding_rnn_seq2seq改为 embedding_attention_seq2seq会很有效,但是我一改就会OOM,暂时没找到解决办法。。。

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值