2018/12/19
原来的时候,就看了那片博士论文,将机器学习嵌套为搜索的框架;那篇论文的题目是“机器学习为什么能工作”。文章[1]是将构造一个学习系统作为了搜索问题。
他的搜索目的,是选择算法、模型、参数、数据等这些内容。
原来的时候,那本《集体智慧编程》的书,中间穿插了一个章节的启发式算法来讲搜索问题,我当时就不太理解为什么。现在看了这里就有点明白了。举一个范例,可能不太恰当。在我进行一些参数设置的时候,利用爬山算法,将模型的准确率作为评价指标,这样我搜索的时候,就是在一个参数空间中,搜索这些参数,然后达到最优解。其实我感觉我当初就这么想过,但是从来没有过实践过的过程,也就导致没有这方面的映射。
2019/01/28
机器学习最开始提出的时候,并不是为了解决分类问题,而是作为提供游戏中的解决方案,作为搜索算法的继承人,就是最开始的AI研究领域。
他这里的研究角度,明显是跟文章[1]的视角是不一样的;文章[1]侧重于利用,
是一致的,只不过游戏中的搜索算法可能会按照某个目标来进行前进,这里的分类算法可能事先也不知道怎么样才算是一种比较好的目标。但同样按照那种搜索树的构造往下走,本质上是一个道理,只不过每层的状态空间变成了各种参数的选择。
但说实话,因为整体上机器学习没有那种搜索的气息,所以你不是那么容易理解。
而且,我在谷歌上也搜了不少次,基本上没有搜到过很相近的,估计那篇博士论文就是最相近的把。
我有时候也觉得我纠结这个问题有些不值得。
[1].A Gentle Introduction to Applied Machine Learning as a Search Problem