Mac Jiang的博客

大家好，我是Mac Jiang,今天和搭建分享的是台湾大学机器学习基石（Machine Learning Foundations）的个人笔记。个人觉得这门课是一门非常好的机器学习入门课程，值得初学者学习！这份笔记是本人一笔一划手写，扫描后上传了，也算是一个月的心血，希望我的工作能够给大家带来一些学习上的帮助。

Pattern Classification (2nd ed) by R. O. Duda, P. E. Hart and D. G. Stork, John Wiley & Sons, 2000

人类基因组计划的实施为基因芯片带来巨大发展。基因表达谱芯片是指将大量DNA片段或寡核苷酸固定在玻璃、硅、塑料等硬质载体上制备而成芯片，具有高效率，高通量、高精度以及能平行对照研究等特点。基因芯片的数据分析则是从杂乱无章的基因芯片数据中找出其固有规律。本文将介绍基因表达谱芯片的组成，并以数据分析的目的，从非监督学习、监督学习等角度对芯片的数据分析进行综述，并对每一种方法的优缺点进行评述，为正确选用基因芯片的数据分析方法提供参考。

逻辑回归是一种重要的数据分析方法，已经被广泛应用于各个领域。作为广义线性模型的一个特例，逻辑回归由严格的理论推导出，具有良好的统计性质和明确的解释意义，因而在实际应用中，特别是分类问题应用中受到良好的效果。 然而，传统的逻辑回归模型存在一些明显的不足，它容易出现过拟合问题。逻辑回归对于训练样本的拟合常能获得良好的精度，但对于训练数据集以外的测试数据，其分类效果不够理想。事实上，不仅是逻辑回归，其他许多数据分析模型也会受过拟合的影响，解决过拟合问题已经成为统计、机器学习领域的热点研究之一。 解决过拟合问题的一种方法是正则化方法。它的思想是在模型中加入某些特定的正则项，使模型具有特性的性质，增加模型对训练样本外数据的预测能力。本文将简单介绍逻辑回归模型、过拟合概念，提供一种在MATLAB下可行的正则化算法。