“人生最痛苦的事情，不是我不行，而是我本可以”。
- --- ----- --- -------- ------- -------- --------- - --------- ---
阅读目录https://www.jianshu.com/nb/21403842
2019-08-27[46h] 机器学习\AI应用方向主要有：推荐\文本\语音\图像\机器人\无人驾驶，后续关注推荐系统，主要看微信公众号“小小挖掘机"文章（简书："文哥的学习日记"，推荐相关文章共60+篇，一天1篇得看2个月）
2019-08-26[48h] "动态训练"、"应用示例" # 完成 "机器学习简单课程"
2019-08-23[44h] "Embedding"、
2019-08-22[40h] "训练神经网络"、 交叉熵损失函数、梯度不稳定、ReLU激活函数、候选采样、"多类别神经网络"
2019-08-21[36h] "正则化:稀疏性"、"神经网络简介"
2019-08-20[32h] "正则化:简单性" 、"逻辑回归"、"分类"
2019-08-19[28h] "特征组合"，from_tensor_slices
2019-08-16[24h] “泛化”、"训练集和测试集"、"验证"、"表示法"
相关概念其实和统计专业课程里学的一样，只是tensorflow的接口需要熟悉一下
2019-08-15[20h] 完成“降低损失”、"tensorflow基本步骤"练习
2019-08-14[15h] 2.4 mnist-vanillaRNN , conv2d卷积接口，padding边界，max_pool池化接口
扩充阅读：注意力模型 ,卷积核个数、大小、层数决定, Dropout, Targeted Dropout,
2019-08-13[10h] 刷网站教程 ，跑了2.3 mnist入门、进阶
http://www.tensorfly.cn/tfdoc/tutorials/mnist_pros.html （https://tensorflow.google.cn/guide）
2019-08-12[8h] 在本机(windows10)上安装了tensorflow(cpu版)，cpu版直接pip安装，再调整了一下numpy版本，除了AVX2不能使用运行慢一点，没其他什么问题；按csdn上的博客文章跑手写数字识别，测试集效果很好，自己下了几个图片识别很差，原因未知。
2019-08-06[5h] 在微信上打开"喜马拉雅"小程序，听机器学习的普及文章。了解了反向传播。
查阅网上资料，了解反向传播 https://www.cnblogs.com/yanshw/p/10461330.html
梯度消失：（1）隐藏层的层数过多；（2）采用了不合适的激活函数(更容易产生梯度消失，但是也有可能产生梯度爆炸)
梯度爆炸：（1）隐藏层的层数过多；（2）权重的初始化值过大
sigmold改为relu，避免梯度消失；添加正则项，避免梯度爆炸；
2019-08-05[2h]今天开始看书。AI、神经网络啥都不懂啊
593
被折叠的 条评论
为什么被折叠?
到【灌水乐园】发言
