1、怎么解决过拟合
过拟合:提升训练表现力时,测试表现力下降。
- 正则化(L1、L2正则化)
- 数据增强(数据集越多,过拟合的概率越小,可以通过旋转、缩放、剪切、添加噪声等操作进行数据增强。)
- dropout(神经元以一定概率不工作)
- early stopping(验证集准确率不再提高时结束训练)
2、1*1卷积核的作用
- 跨通道的特征整合
- 特征通道的升维和降维(增加或减少channels)
- 减少卷积核参数
- 增加非线性(后接非线性激活函数)
3、使用大卷积核的好处
- 卷积和越大,感受野越大,看到的图片信息越多,学习全局特征,因此获得的特征越多。 (缺点:计算量暴增,不利于模型深度加深。)
4、SVM如何实现多分类
- 直接法,直接在目标函数上进行修改,将多个分类面的参数求解合并到一个最优化问题中,通过求解该最优化问题“一次性”实现多类分类。(这种方法看似简单,但其计算复杂度比较高,实现起来比较困难,只适合用于小型问题中。)
- 间接法,主要是通过组合多个二分类器来实现多分类器的构造,常见的方法有一对一和一对多两种。
5、logistic与线性回归的异同
相同点:
- 都是线性模型(logistic是广义的线性回归)
- 表达形式,逻辑回归是线性回归套上一个sigmoid函数
- 参数估计,都用了极大似然估计
区别:
- 线性回归优化均方差(最小乘二),逻辑回归优化似然函数(交叉熵)
- 线性回归要求成线性关系
- 逻辑回归处理分类问题(0-1),线性回归处理回归问题(实数域)
- 逻辑回归假设响应变量服从伯努利分布,线性回归假设相应变量服从正态分布