增强学习 GAN 深度学习用于其他
隐马尔科夫模型:参数过多
RNN:
梯度裁剪:防止梯度爆炸
绝对值很大会以一定比例减小 绝对值很小 保持不变
正向传播 反向传播:
正向传播是已知输入和参数求中间值和输出值,反向是利用求出来的值去反推参数W和B的导数,然后梯度下降
批量采样:图片直接一个或几个取 这里取一次取几个词 保证了随机,也保证了局部连续
把原来的汉字用对应的字符编号代替
随机采样
连续采样
增强学习 GAN 深度学习用于其他
绝对值很大会以一定比例减小 绝对值很小 保持不变
正向传播是已知输入和参数求中间值和输出值,反向是利用求出来的值去反推参数W和B的导数,然后梯度下降
把原来的汉字用对应的字符编号代替