作者:Benjamin Obi Tayo
翻译:刘思婧
校对:车前子
本文约1600字,建议阅读5分钟
本文为大家介绍了在数据科学和机器学习中所需要的基本数学技能,并且分类给出了相应的主题建议。
Jeswin Thomas on Unsplash
尽管已经有许多出色的计算工具可供数据科学家执行其工作,数学技能在数据科学和机器学习中仍然是必不可少的,因为这些工具通常仅仅会像是“黑匣子”,而如果没有理论基础,您将无法回答核心的分析性问题。
I.引言
如果您渴望成为数据科学家,那么您无疑会想到以下问题:
我几乎没有数学背景,可以成为一个数据科学家吗?
数据科学中的哪些基本数学技能很重要?
有许多好的软件包可用于构建预测模型或数据可视化。一些最常见的用于描述性和预测性分析的软件包包括:
Ggplot2
Matplotlib
Seaborn
Scikit-learn
Caret
TensorFlow
PyTorch
Keras
借助这些软件包,任何人都可以构建模型或进行数据可视化。但是,扎实的数学背景知识对于模型微调(fine-tuning)以生成具有最佳性能的可靠模型至关重要。建立模型是一回事,但解释模型并得出可用于数据驱动决策的有意义的结论,是另一回事。重要的是,在使用这些软件包之前,您必须了解每个软件包的数学基础,这样才能避免将这些软件包仅仅用作“黑匣子”工具。
II.案例:建立多元回归模型
假设我们现在将要建立一个多元回归模型。在此之前,我们需要问自己以下问题:
我的数据集有多大?
我的特征变量和目标变量是什么?
哪些预测特征与目标变量最相关?
哪些特征很重要?
我应该进行特征缩放吗?
我的数据集应如何划分为训练集和测试集?
什么是主成分分析(PCA)?
我应该使用PCA删除冗余特征吗?
如何评估我的模型?我应该使用R2_score,平均平方误差(MSE)还是平均绝对误差(MAE)?
如何提高模型的预测能力?
我应该使用正则化回归模型吗?
哪些是回归系数?
哪些是截距?
我应该使用非参数回归模型,例如K近邻回归还是支持向量回归(SVR)?
我的模型中有哪些超参数,如何对其进行微调以获得性能最佳的模型?
没有良好的数学背景,您将无法解决上面提出的问题。最重要的是,在数据科学和机器学习中,数学技能与编程技能同等重要。因此,想成为数据科学家,您必须花时间研究数据科学和机器学习的理论和数学基础。您能否构建可应用于实际问题的可靠且有效的模型,取决于您的数学技能。要了解如何在构建机器学习回归模型中应用数学技能,可参阅机器学习过程教程。
教程
https://medium.com/swlh/machine-learning-process-tutorial-222327f53efb
现在,让我们讨论数据科学和机器学习所需的一些基本数学技能。
数据科学和机器学习的基本数学技能
1、 统计学和概率论
统计学和概率论可以用于特征的可视化、数据预处理、特征变换、数据填补、降维、特征工程、模型评估等环节。以下是您需要熟悉的主题:
均值,中位数,众数,标准差/方差,相关系数,协方差矩阵;
概率分布(二项分布、泊松分布、正态分布),p值,贝叶斯定理(精度、召回率、阳性预测值、阴性预测值、混淆矩阵、ROC曲线);
中心极限定理,R2_score,MSE(均方误差),A / B测试,蒙特卡洛模拟…
2、 多变量微积分
大多数机器学习模型都是使用具有多个特征或预测变量的数据集构建的。因此,熟悉多变量演算对于建立机器学习模型非常重要。以下是您需要熟悉的主题:
多变量函数;
导数和梯度;
阶跃函数,Sigmoid函数,Logit函数,ReLU函数(整流线性单位函数,Rectified Linear Unit);
成本函数;
函数绘图;
函数的最小值和最大值…
3、 线性代数
线性代数是机器学习中最重要的数学技能。当数据集被表示为矩阵,线性代数则可用于数据预处理、数据转换、降维和模型评估。以下是您需要熟悉的主题:
向量;
向量的范数;
矩阵,转置矩阵,矩阵的逆,矩阵的行列式,矩阵的迹;
点积,特征值,特征向量…
4、 优化方法
大多数机器学习算法通过最小化目标函数来执行预测建模,因而机器学习必须应用于测试数据的权重才能获得预测标签。以下是您需要熟悉的主题:
成本函数/目标函数;
似然函数;
损失函数;
梯度下降算法及其变体(例如,随机梯度下降算法)…
IV.结论
总而言之,我们讨论了数据科学和机器学习所需的基本数学和理论技能,已经有许多免费在线课程教授这些必要的数学技能。想成为数据科学家,请务必牢记,理论基础对于构建高效且可靠的模型至关重要。因此,您应该投入足够的时间来研究每种机器学习算法背后的数学理论。
参考资料
Linear Regression Basics for Absolute Beginners.
Mathematics of Principal Component Analysis with R Code Implementation.
Machine Learning Process Tutorial.
Original. Reposted with permission.
编辑:王菁
校对:林亦霖
译者简介
刘思婧,清华大学新闻系研一在读,数据传播方向。文理兼爱,有点小情怀的数据爱好者。希望结识更多不同专业、不同专长的伙伴,拓宽眼界、优化思维、日日自新。
翻译组招募信息
工作内容:需要一颗细致的心,将选取好的外文文章翻译成流畅的中文。如果你是数据科学/统计学/计算机类的留学生,或在海外从事相关工作,或对自己外语水平有信心的朋友欢迎加入翻译小组。
你能得到:定期的翻译培训提高志愿者的翻译水平,提高对于数据科学前沿的认知,海外的朋友可以和国内技术应用发展保持联系,THU数据派产学研的背景为志愿者带来好的发展机遇。
其他福利:来自于名企的数据科学工作者,北大清华以及海外等名校学生他们都将成为你在翻译小组的伙伴。
点击文末“阅读原文”加入数据派团队~
转载须知
如需转载,请在开篇显著位置注明作者和出处(转自:数据派ID:DatapiTHU),并在文章结尾放置数据派醒目二维码。有原创标识文章,请发送【文章名称-待授权公众号名称及ID】至联系邮箱,申请白名单授权并按要求编辑。
发布后请将链接反馈至联系邮箱(见下方)。未经许可的转载以及改编者,我们将依法追究其法律责任。
点击“阅读原文”拥抱组织