AI百题
schedule list
这个作者很懒,什么都没留下…
展开
-
AI百题(2)
question1:说明L1和L2正则化answer:首先,正则化用来干嘛的?正则化是加在loss function上的,用来做模型复杂度的惩罚项(其实就是防止过拟合)。常用的两种正则化就是L1正则化(LASSO)和L2正则化(岭回归)(1)lasso:权值向量w中各个元素的绝对值之和,产生稀疏权值矩阵,即产生一个稀疏模型,可以用于特征选择(让一部分特征趋近于0,越小的越小,越大的越大)(2)岭回归:权值向量w中各个元素的平方和然后再求平方根,可以防止过拟合。(让所有特征都趋于一个范围)..原创 2020-11-20 21:26:11 · 127 阅读 · 0 评论 -
AI百题(1)
特征工程question1: 为什么要对特征做归一化?answer: 首先要明确什么是特征归一化,特征归一化是将所有特征都统一到一个大致相同的数值区间内,通常是统一到[0,1]但不仅限于[0,1]区间。其次是为什么要进行特征归一化,为了消除数据特征之间的量纲影响,通常处于同一数量级的特征更方便分析。 再进一步,所谓的方便的分析是什么意思?首先要明确一点,特征归一化使用的模型场景是使用梯度下降法求解的模型(线性回归,逻辑回归,支持向量机,神经网络),在基于梯度更新的学习方法中,未归一化的数.原创 2020-11-16 16:10:54 · 150 阅读 · 0 评论