MCTS是Monte Carlo tree search的缩写,这里就不翻译了。这里我先不直接讲MCTS是什么。我们先从之前学习的minimax的缺陷出发,看下我们能够怎么去弥补这些缺陷,然后MCTS的做法和我们想到的又有什么不同。
假设我们要用minimax写一个五指棋的AI,展开层数至少要对单个玩家向前看5步吧。那么对于游戏树就是10层了。假设我们用一个10×10的棋盘。那么需要展开的游戏树的节点就是个,已经是很大了哈。
于是我们想能不能牺牲一些搜索范围来加大层数呢?能不能没一层只随机抽取一些操作来展开。比如要知道某个节点的值,我们只抽取20%的可能操作来计算。这是一个办法。
如果再多研究下问题,我们发现其实有的节点更不不用再去展开。比如有的节点明显会比其它的节点不符合要求。有没有一种策略可以判断哪些节点我们可以多抽取一些样本来计算值。最简单的方法就是先抽取5%的操作计算一遍节点值。然后把丢弃20%的节点(我方节点选最大的前80%,他方节点选最小的前20%)。然后再按照5%抽取,再筛选。
那么除了上面提出的方法,还有没有更好的筛选方法呢?这个就可以祭出本章的主题MCTS。
图表说明见minimax的说明:https://b