DeepMind发布多智能体协作最新评估方法α-Rank，登上Nature

大数据文摘出品

来源：Nature

编译：魏子敏、宁静

 

在开发通用人工智能的过程中，训练和评估算法同样重要。

 

评估指标不仅仅在培训结束时发挥作用，并且也是整个培训过程中智能体进化的关键驱动因素。

 

错误的排序和不合理的限制可能会让AI自行进化出奇怪的“心眼”。在之前我们的一篇报道中就总结了错误的评估方式导致的AI“钻空子”训练法，比如在让AI玩俄罗斯方块的时候，发现最佳完成任务的方式是直接暂停游戏；在玩井字棋的时候，AI发现它如果做出奇怪的步骤，对手会非常崩溃。