机器学习笔记-参数调优和评价指标

2种参数定义

在机器学习应用中，我们有两种类型的参数：
一个是从训练集中学得的参数，例如逻辑回归的权重;
另一个是为了使学习算法达到最优化可调节的参数，例如逻辑回归中的正则化参数或决策树中的深度参数。这种可调节的参数称为超参数（hyperparameters）。

grid_search优化参数

我们可以用验证曲线调节超参数中的一个参数来优化模型。现在，我们要用网格搜索这个更加强大的超参数优化工具来找到超参数值的最优组合从而进一步改善模型的性能。

网格搜索的思路其实很简单，就是列举出所有你想要调节的参数，然后穷举出所有参数组合，最后得出一个使模型性能最好的参数组合。

其他参考

以下博客讲解了几种常用的机器学习参数调优方法，包括：

• holdout和k-fold交叉验证评估模型
• 学习曲线和验证曲线
• grid search
• 性能指标之 precision, recall, 和 F1-score，ROC

http://blog.csdn.net/xlinsist/article/details/51344449

更多总结

更多相关总结，见后续。