深度学习（正则化的线性回归和逻辑回归）

最新推荐文章于 2024-06-30 13:47:00 发布

GuanghaoChen

最新推荐文章于 2024-06-30 13:47:00 发布

阅读量518

点赞数

分类专栏：机器学习和深度学习文章标签：深度学习

本文链接：https://blog.csdn.net/qq_33297776/article/details/52292415

版权

本文介绍了深度学习中两种重要的正则化技术——正则化线性回归和正则化逻辑回归。通过源码实现与实验结果分析，展示了这两种方法在防止过拟合和提升模型泛化能力上的应用。

摘要由CSDN通过智能技术生成

数据下载地址在这里

Regularized Linear Regression

源码

clear;
clc;
%加载数据
x = load('ex5Linx.dat');
y = load('ex5Liny.dat');
%显示原始数据
plot(x,y,'o','MarkerEdgeColor','b','MarkerFaceColor','r','MarkerSize',10);
%将特征值变成训练样本矩阵
x = [ones(length(x),1),x,x.^2,x.^3,x.^4,x.^5];
[m,n]=size(x);
n=n-1;
%计算参数sidta，并且绘制出拟合曲线
rm=diag([0;ones(n,1)]);%lamda后面的矩阵
lamda=[0 1 10]';
colortype={
   'g','b','r'};
theta=zeros(n+1,3);
xrange=linspace(min(x(:,2)),max(x(:,2)))';
hold on;
for i = 1:3
    theta(:,i)=inv(x'*x+lamda(i).*rm)*x'*y;%计算参数sida
    norm_sida=norm(theta)
    yrange=[ones(size(xrange)) xrange xrange.^2 xrange.^3,...