山东大学软件学院2018机器学习期末考试（回忆版）

山东大学软件学院2018机器学习期末考试（回忆版）

总分一百分，开卷。

一、名词解释（5*4）

1、机器学习

2、主动学习

3、ID3

4、神经网络

二、简答题（10*3）

1、简述Parzen窗方法的原理和过程。证明为什么可以用高斯概率密度函数作为窗函数。

2、简要说明梯度下降法和牛顿法的基本思想和区别。解释为什么梯度下降法能够保证一定是下降的？

3、什么是过拟合？为什么会出现过拟合？如何解决过拟合问题？

三、综合题（20+30）

1、证明AdaBoost算法的合理性。

2、在SVM支持向量机中，简述为什么要使margin最大化？求下列函数的对偶函数（PPT上原公式）。对于非线性问题该如何解决又什么方法吗？