机器学习策略篇：详解如何改善你的模型的表现（Improving your model performance）

如何改善模型的表现

学过正交化，如何设立开发集和测试集，用人类水平错误率来估计贝叶斯错误率以及如何估计可避免偏差和方差。现在把它们全部组合起来写成一套指导方针，如何提高学习算法性能的指导方针。

所以想要让一个监督学习算法达到实用，基本上希望或者假设可以完成两件事情。首先，的算法对训练集的拟合很好，这可以看成是能做到可避免偏差很低。还有第二件事可以做好的是，在训练集中做得很好，然后推广到开发集和测试集也很好，这就是说方差不是太大。

在正交化的精神下，可以看到这里有第二组旋钮，可以修正可避免偏差问题，比如训练更大的网络或者训练更久。还有一套独立的技巧可以用来处理方差问题，比如正则化或者收集更多训练数据。

总结一下前面博客见到的步骤，如果想提升机器学习系统的性能，建议看看训练错误率和贝叶斯错误率估计值之间的距离，让知道可避免偏差有多大。换句话说，就是觉得还能做多好，对训练集的优化还有多少空间。然后看看的开发错误率和训练错误率之间的距离，就知道的方差问题有多大。换句话说，应该做多少努力让的算法表现能够从训练集推广到开发集，算法是没有在开发集上训练的。

如果想用尽一切办法减少可避免偏差，建议试试这样的策略：比如使用规模更大的模型，这样算法在训练集上的表现会更好，或者训练更久。使用更好的优化算法，比如说加入momentum或者RMSprop，或者使用更好的算法，比如Adam。还可以试试寻找更好的新神经网络架构，或者说更好的超参数。这些手段包罗万有，可以改变激活函数，改变层数或者隐藏单位数，虽然这么做可能会让模型规模变大。或者试用其他模型，其他架构，如循环神经网络和卷积神经网络。新的神经网络架构能否更好地拟合的训练集，有时也很难预先判断，但有时换架构可能会得到好得多的结果。

另外当发现方差是个问题时，可以试用很多技巧，包括以下这些：可以收集更多数据，因为收集更多数据去训练可以帮更好地推广到系统看不到的开发集数据。可以尝试正则化，包括\(L2\)正则化，dropout正则化或者在之前博客中提到的数据增强。同时也可以试用不同的神经网络架构，超参数搜索，看看能不能帮助，找到一个更适合的问题的神经网络架构。

想这些偏差、可避免偏差和方差的概念是容易上手，难以精通的。如果能系统全面地应用本系列博客里的概念，实际上会比很多现有的机器学习团队更有效率、更系统、更有策略地系统提高机器学习系统的性能。

最后

感谢你们的阅读和喜欢，我收藏了很多技术干货，可以共享给喜欢我文章的朋友们，如果你肯花时间沉下心去学习，它们一定能帮到你。

因为这个行业不同于其他行业，知识体系实在是过于庞大，知识更新也非常快。作为一个普通人，无法全部学完，所以我们在提升技术的时候，首先需要明确一个目标，然后制定好完整的计划，同时找到好的学习方法，这样才能更快的提升自己。

这份完整版的大模型 AI 学习资料已经上传CSDN，朋友们如果需要可以微信扫描下方CSDN官方认证二维码免费领取【保证100%免费】

一、全套AGI大模型学习路线

AI大模型时代的学习之旅：从基础到前沿，掌握人工智能的核心技能！

二、640套AI大模型报告合集

这套包含640份报告的合集，涵盖了AI大模型的理论研究、技术实现、行业应用等多个方面。无论您是科研人员、工程师，还是对AI大模型感兴趣的爱好者，这套报告合集都将为您提供宝贵的信息和启示。

三、AI大模型经典PDF籍

随着人工智能技术的飞速发展，AI大模型已经成为了当今科技领域的一大热点。这些大型预训练模型，如GPT-3、BERT、XLNet等，以其强大的语言理解和生成能力，正在改变我们对人工智能的认识。 那以下这些PDF籍就是非常不错的学习资源。

四、AI大模型商业化落地方案

五、面试资料

我们学习AI大模型必然是想找到高薪的工作，下面这些面试题都是总结当前最新、最热、最高频的面试题，并且每道题都有详细的答案，面试前刷完这套面试题资料，小小offer，不在话下。

这份完整版的大模型 AI 学习资料已经上传CSDN，朋友们如果需要可以微信扫描下方CSDN官方认证二维码免费领取【保证100%免费】