强化学习
概念
强化学习是一种机器学习的方法,用于训练智能体(agent)在与环境交互的过程中学习最优的行为策略。在强化学习中,智能体通过观察环境的状态,执行动作,接收奖励或惩罚来学习如何做出最优的决策。其目标是使智能体在与环境的交互中获得最大的长期奖励。
强化学习算法通常基于价值函数或策略函数来进行学习和决策。
利用环境评估当前策略,以此为依据进行优化
其数据在与环境的交互中产生
决策是前后关联的
策略评估
动态规划
蒙特卡洛采样
时序差分
算法求解(Q-learning)
Q-learning算法直接记录和更新动作-价值函数、只有动作-价值函数、无价值函数
学习中的探索与利用的平衡
博弈论
囚徒困境
表明稳定局势并不一定是最优局势
在这个问题中,最优解是两人沉默(上帝视角),实际倾向于选择同时认罪(均衡解)
博弈论的分类
合作博弈、非合作博弈:参与者合不合作
静态博弈、动态博弈:参与者同不同时,参与者知不知道
完全信息博弈、不完全信息博弈:参与者知不知道
纳什均衡(稳定的局势)
参与者所作出的一种策略组合,任何参与者单独改变策略都不会得到好处
囚徒困境两人同时认罪就是纳什均衡(合作总是对自己有害)