21、 [多选] 关于 DoubleDQN 说法正确的是()。
• A : Q 值的目标值中的 max 操作会产生过估计,从而影响找到最佳策略
• B : DoubleDQN 可以减小偏差• C :DoubleDQN 的目标函数与 DQN 的完全相同
• D :DoubleDQN 引入了优势函数(advantage function)
正确答案:A,B
解析:DoubleDQN 是在 DQN(DeepQ-Network)的基础上进行改进的算法,主要解决
DQN 算法中 Q 值过高的问题。对于选项,A 正确,因为在 DQN 中,Q 值的目标值中的
max 操作会产生过估计,从而影响找到最佳策略;B 正确,因为 DoubleDQN 通过引入两
个 Q 网络,一个用于选择行动,一个用于估计目标价值,从而减小了偏差;C 错误,因为
DoubleDQN 的目标函数与 DQN 的不同,其中利用了另一个 Q 网络的输出;D 错误,因为
DoubleDQN 没有引入优势函数,只是通过引入第二个 Q 网络来减少 Q 值的过估计。因此,答案为 AB。