2024年[DL]机器学习算法之岭回归(1)，嵌入式开发面试自我介绍

结语

看到这篇文章的人不知道有多少是和我一样的Android程序员。

35岁，这是我们这个行业普遍的失业高发阶段，这种情况下如果还不提升自己的技能，进阶发展，我想，很可能就是本行业的职业生涯的终点了。

我们要有危机意识，切莫等到一切都成定局时才开始追悔莫及。只要有规划的，有系统地学习，进阶提升自己并不难，给自己多充一点电，你才能走的更远。

千里之行始于足下。这是上小学时，那种一元钱一个的日记本上每一页下面都印刷有的一句话，当时只觉得这句话很短，后来渐渐长大才慢慢明白这句话的真正的含义。

有了学习的想法就赶快行动起来吧，不要被其他的事情牵绊住了前行的脚步。不要等到裁员时才开始担忧，不要等到面试前一晚才开始紧张，不要等到35岁甚至更晚才开始想起来要学习要进阶。

给大家一份系统的Android学习进阶资料，希望这份资料可以给大家提供帮助。

网上学习资料一大堆，但如果学到的知识不成体系，遇到问题时只是浅尝辄止，不再深入研究，那么很难做到真正的技术提升。

需要这份系统化学习资料的朋友，可以戳这里获取

一个人可以走的很快，但一群人才能走的更远！不论你是正从事IT行业的老鸟或是对IT行业感兴趣的新人，都欢迎加入我们的的圈子（技术交流、学习资源、职场吐槽、大厂内推、面试辅导），让我们一起学习成长！

• 收缩方式(Shrinkage method)，又称为正则化(Regularization)。主要包括岭回归和lasso回归。

• 维数缩减

岭回归(Ridge Regression)是在平方误差的基础上增加正则项

∑ni=1(yi−∑pj=0wjxij)2+λ∑pj=0w2j,λ>0 \sum_{i=1}^{n}\left ( y_i-\sum_{j=0}^{p}w_jx_{ij} \right )^2+\lambda \sum_{j=0}^{p}w2_j,\lambda > 0

通过确定\lambda的值可以使得在方差和偏差之间达到平衡：随着\lambda的增大，模型方差减小而偏差增大。

对w求导，结果为: 2XT(Y−XW)−2λW 2X^T\left ( Y-XW \right )-2\lambda W

令其为0，可求得w的值： w^=(XTX+λI)−1XTY \hat{w}=\left ( X^TX+\lambda I \right )^{-1}XTY

实验：

我们去探讨一下取不同的\lambda对整个模型的影响。

从上图我们可以看到偏差的权重对模型的影响很大，但是都将会在某一个范围趋同。

最后附上实验的代码：

import numpy as np

import matplotlib.pyplot as plt

from sklearn import linear_model



# X is the 10x10 Hilbert matrix

X = 1. / (np.arange(1, 11) + np.arange(0, 10)[:, np.newaxis])

y = np.ones(10)



# Compute paths



n_alphas = 200

alphas = np.logspace(-10, -2, n_alphas)



coefs = []

for a in alphas:

    ridge = linear_model.Ridge(alpha=a, fit_intercept=False)

    ridge.fit(X, y)

    coefs.append(ridge.coef_)

# Display results

ax = plt.gca()





**《960全网最全Android开发笔记》**

![](https://img-blog.csdnimg.cn/img_convert/6401ce8e5b1baf8dac9f7a3c65458891.webp?x-oss-process=image/format,png)

**《379页Android开发面试宝典》**

![](https://img-blog.csdnimg.cn/img_convert/ff5749f4cd4f40ef719727889bd7899f.webp?x-oss-process=image/format,png)

**《507页Android开发相关源码解析》**

![](https://img-blog.csdnimg.cn/img_convert/fc57443fdb1d01ef338a682859da9db0.webp?x-oss-process=image/format,png)

>因为文件太多，全部展示会影响篇幅，暂时就先列举这些部分截图
>



**网上学习资料一大堆，但如果学到的知识不成体系，遇到问题时只是浅尝辄止，不再深入研究，那么很难做到真正的技术提升。**

**[需要这份系统化学习资料的朋友，可以戳这里获取](https://bbs.csdn.net/topics/618156601)**

**一个人可以走的很快，但一群人才能走的更远！不论你是正从事IT行业的老鸟或是对IT行业感兴趣的新人，都欢迎加入我们的的圈子（技术交流、学习资源、职场吐槽、大厂内推、面试辅导），让我们一起学习成长！**

/bbs.csdn.net/topics/618156601)**

**一个人可以走的很快，但一群人才能走的更远！不论你是正从事IT行业的老鸟或是对IT行业感兴趣的新人，都欢迎加入我们的的圈子（技术交流、学习资源、职场吐槽、大厂内推、面试辅导），让我们一起学习成长！**