引用:https://zhuanlan.zhihu.com/p/25743759
https://zhuanlan.zhihu.com/p/29213893
https://zhuanlan.zhihu.com/p/84758659
等
动态规划此处不介绍,是一种理想化方法。主要介绍强化学习方法
(1)蒙特卡洛法。为何会诞生这种方法,因为动态规划法需要P矩阵(概率转移矩阵)来求价值函数,这几乎是理想情况。蒙特卡洛法通过样本实验来确定价值函数矩阵,也就是Q矩阵
(2)TD法。为何会诞生TD法,因为蒙特卡洛法更新Q值都要在实验结束之后(完成所有决策过程)。TD方法更新Q可以决策一次更新一次。也就是在每次实验中,它是不断更新的。
蒙特卡洛法:
TD算法:
。
源代码代码问题背景:
具体实现代码见本人所上传资源