目录
考题0:Batch RL Solution
考题1: table lookup model
1答:若使用MC算法,那么访问的奖励和/访问次数,那么V(A)=0/1=0;V(B)=6/8=3/4
若使用TD算法,那么V(A)=3/4
2答:MC方法未必收敛到相同的解。MC方法将收敛于使观测值的MSE最小的解。
考题2 :model-free RL、TD
考题3 : MCTS的理解
考题4 : 上置信树(UCT)搜索
在上置信树(UCT)搜索中,我们将每个树节点视为一个多摇臂(MAB)问题,并使用对每个动作/行为的未来的上置信值来帮助选择的动作/行为。选择所有正确的选项()
第一个选项:它考虑动作的优先级,这对于获得良好奖励很有用。
第二个选项:UCB降低遗憾值。(如果这是真的,想想这是否是一个好主意?)
考题5:蒙特卡洛树搜索的优点