PyTorch深度学习实践——2.线性回归＆作业

最新推荐文章于 2023-11-02 14:48:57 发布
最新推荐文章于 2023-11-02 14:48:57 发布
阅读量302 收藏 1
点赞数
分类专栏： 深度学习 PyTorch 文章标签： python 深度学习
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/qq_34745777/article/details/116719842
版权

课程链接：《PyTorch深度学习实践》2.线性回归

课上示例

示例程序源代码+注释（根据个人理解）

import numpy as np
import matplotlib.pyplot as plt

# 自定义数据集
x_data = [1.0, 2.0, 3.0]    # 输入的x
y_data = [2.0, 4.0, 6.0]    # 输出的y

# 定义模型（前馈forward）
def forward(x):
    return x * w    # y_hat = x * w

# 定义损失函数
def loss(x, y):
    y_pred = forward(x)         # y_hat = x * w
    return (y_pred - y) * (y_pred - y)      # loss = (y_hat - y) ^ 2 = (x * w - y) ^ 2
                                            # 模型算出来的值和真实值之间的误差
# 保存图像中x轴（权重）和y轴（损失）的值
w_list = []
mse_list = []

# 生成0.0到4.0的序列，间隔为0.1
for w in np.arange(0.0, 4.1, 0.1):
    print('w = ', w)
    l_sum = 0
    for x_val, y_val in zip(x_data, y_data):        # zip函数：打包为元组的列表
                                                    # 结果：[(1.0, 2.0), (2.0, 4.0), (3.0, 6.0)]
        y_pred_val = forward(x_val)         # 计算 y_hat
        loss_val = loss(x_val, y_val)       # 计算 损失loss
        l_sum += loss_val       # 损失值求和
        print('\t', x_val, y_val, y_pred_val, loss_val)         # 输出x值、y值、y_hat和每组数据的损失值
    print('MSE = ', l_sum / 3)    # 求平均平方误差MSE（平均损失值，每组数据的损失值之和÷总数）

    w_list.append(w)                # 将每0.1存入列表中，作为x轴
    mse_list.append(l_sum / 3)      # 对每个x轴上的值算整个数据集的平均平方误差MSE（平均损失值）

# 画出（x轴为权重，y轴为损失值）图像
plt.plot(w_list, mse_list)      # x轴值、y轴值的列表
plt.ylabel('loss')          # y轴名称
plt.xlabel('w')             # x轴名称
plt.show()              # 展示不同权重处的平均平方误差MSE（平均损失值）

输出结果：

w =  0.0
	 1.0 2.0 0.0 4.0
	 2.0 4.0 0.0 16.0
	 3.0 6.0 0.0 36.0
MSE =  18.666666666666668
w =  0.1
	 1.0 2.0 0.1 3.61
	 2.0 4.0 0.2 14.44
	 3.0 6.0 0.30000000000000004 32.49
MSE =  16.846666666666668
w =  0.2
	 1.0 2.0 0.2 3.24
	 2.0 4.0 0.4 12.96
	 3.0 6.0 0.6000000000000001 29.160000000000004
MSE =  15.120000000000003
w =  0.30000000000000004
	 1.0 2.0 0.30000000000000004 2.8899999999999997
	 2.0 4.0 0.6000000000000001 11.559999999999999
	 3.0 6.0 0.9000000000000001 26.009999999999998
MSE =  13.486666666666665
w =  0.4
	 1.0 2.0 0.4 2.5600000000000005
	 2.0 4.0 0.8 10.240000000000002
	 3.0 6.0 1.2000000000000002 23.04
MSE =  11.946666666666667
w =  0.5
	 1.0 2.0 0.5 2.25
	 2.0 4.0 1.0 9.0
	 3.0 6.0 1.5 20.25
MSE =  10.5
w =  0.6000000000000001
	 1.0 2.0 0.6000000000000001 1.9599999999999997
	 2.0 4.0 1.2000000000000002 7.839999999999999
	 3.0 6.0 1.8000000000000003 17.639999999999993
MSE =  9.146666666666663
w =  0.7000000000000001
	 1.0 2.0 0.7000000000000001 1.6899999999999995
	 2.0 4.0 1.4000000000000001 6.759999999999998
	 3.0 6.0 2.1 15.209999999999999
MSE =  7.886666666666666
w =  0.8
	 1.0 2.0 0.8 1.44
	 2.0 4.0 1.6 5.76
	 3.0 6.0 2.4000000000000004 12.959999999999997
MSE =  6.719999999999999
w =  0.9
	 1.0 2.0 0.9 1.2100000000000002
	 2.0 4.0 1.8 4.840000000000001
	 3.0 6.0 2.7 10.889999999999999
MSE =  5.646666666666666
w =  1.0
	 1.0 2.0 1.0 1.0
	 2.0 4.0 2.0 4.0
	 3.0 6.0 3.0 9.0
MSE =  4.666666666666667
w =  1.1
	 1.0 2.0 1.1 0.8099999999999998
	 2.0 4.0 2.2 3.2399999999999993
	 3.0 6.0 3.3000000000000003 7.289999999999998
MSE =  3.779999999999999
w =  1.2000000000000002
	 1.0 2.0 1.2000000000000002 0.6399999999999997
	 2.0 4.0 2.4000000000000004 2.5599999999999987
	 3.0 6.0 3.6000000000000005 5.759999999999997
MSE =  2.986666666666665
w =  1.3
	 1.0 2.0 1.3 0.48999999999999994
	 2.0 4.0 2.6 1.9599999999999997
	 3.0 6.0 3.9000000000000004 4.409999999999998
MSE =  2.2866666666666657
w =  1.4000000000000001
	 1.0 2.0 1.4000000000000001 0.3599999999999998
	 2.0 4.0 2.8000000000000003 1.4399999999999993
	 3.0 6.0 4.2 3.2399999999999993
MSE =  1.6799999999999995
w =  1.5
	 1.0 2.0 1.5 0.25
	 2.0 4.0 3.0 1.0
	 3.0 6.0 4.5 2.25
MSE =  1.1666666666666667
w =  1.6
	 1.0 2.0 1.6 0.15999999999999992
	 2.0 4.0 3.2 0.6399999999999997
	 3.0 6.0 4.800000000000001 1.4399999999999984
MSE =  0.746666666666666
w =  1.7000000000000002
	 1.0 2.0 1.7000000000000002 0.0899999999999999
	 2.0 4.0 3.4000000000000004 0.3599999999999996
	 3.0 6.0 5.1000000000000005 0.809999999999999
MSE =  0.4199999999999995
w =  1.8
	 1.0 2.0 1.8 0.03999999999999998
	 2.0 4.0 3.6 0.15999999999999992
	 3.0 6.0 5.4 0.3599999999999996
MSE =  0.1866666666666665
w =  1.9000000000000001
	 1.0 2.0 1.9000000000000001 0.009999999999999974
	 2.0 4.0 3.8000000000000003 0.0399999999999999
	 3.0 6.0 5.7 0.0899999999999999
MSE =  0.046666666666666586
w =  2.0
	 1.0 2.0 2.0 0.0
	 2.0 4.0 4.0 0.0
	 3.0 6.0 6.0 0.0
MSE =  0.0
w =  2.1
	 1.0 2.0 2.1 0.010000000000000018
	 2.0 4.0 4.2 0.04000000000000007
	 3.0 6.0 6.300000000000001 0.09000000000000043
MSE =  0.046666666666666835
w =  2.2
	 1.0 2.0 2.2 0.04000000000000007
	 2.0 4.0 4.4 0.16000000000000028
	 3.0 6.0 6.6000000000000005 0.36000000000000065
MSE =  0.18666666666666698
w =  2.3000000000000003
	 1.0 2.0 2.3000000000000003 0.09000000000000016
	 2.0 4.0 4.6000000000000005 0.36000000000000065
	 3.0 6.0 6.9 0.8100000000000006
MSE =  0.42000000000000054
w =  2.4000000000000004
	 1.0 2.0 2.4000000000000004 0.16000000000000028
	 2.0 4.0 4.800000000000001 0.6400000000000011
	 3.0 6.0 7.200000000000001 1.4400000000000026
MSE =  0.7466666666666679
w =  2.5
	 1.0 2.0 2.5 0.25
	 2.0 4.0 5.0 1.0
	 3.0 6.0 7.5 2.25
MSE =  1.1666666666666667
w =  2.6
	 1.0 2.0 2.6 0.3600000000000001
	 2.0 4.0 5.2 1.4400000000000004
	 3.0 6.0 7.800000000000001 3.2400000000000024
MSE =  1.6800000000000008
w =  2.7
	 1.0 2.0 2.7 0.49000000000000027
	 2.0 4.0 5.4 1.960000000000001
	 3.0 6.0 8.100000000000001 4.410000000000006
MSE =  2.2866666666666693
w =  2.8000000000000003
	 1.0 2.0 2.8000000000000003 0.6400000000000005
	 2.0 4.0 5.6000000000000005 2.560000000000002
	 3.0 6.0 8.4 5.760000000000002
MSE =  2.986666666666668
w =  2.9000000000000004
	 1.0 2.0 2.9000000000000004 0.8100000000000006
	 2.0 4.0 5.800000000000001 3.2400000000000024
	 3.0 6.0 8.700000000000001 7.290000000000005
MSE =  3.780000000000003
w =  3.0
	 1.0 2.0 3.0 1.0
	 2.0 4.0 6.0 4.0
	 3.0 6.0 9.0 9.0
MSE =  4.666666666666667
w =  3.1
	 1.0 2.0 3.1 1.2100000000000002
	 2.0 4.0 6.2 4.840000000000001
	 3.0 6.0 9.3 10.890000000000004
MSE =  5.646666666666668
w =  3.2
	 1.0 2.0 3.2 1.4400000000000004
	 2.0 4.0 6.4 5.760000000000002
	 3.0 6.0 9.600000000000001 12.96000000000001
MSE =  6.720000000000003
w =  3.3000000000000003
	 1.0 2.0 3.3000000000000003 1.6900000000000006
	 2.0 4.0 6.6000000000000005 6.7600000000000025
	 3.0 6.0 9.9 15.210000000000003
MSE =  7.886666666666668
w =  3.4000000000000004
	 1.0 2.0 3.4000000000000004 1.960000000000001
	 2.0 4.0 6.800000000000001 7.840000000000004
	 3.0 6.0 10.200000000000001 17.640000000000008
MSE =  9.14666666666667
w =  3.5
	 1.0 2.0 3.5 2.25
	 2.0 4.0 7.0 9.0
	 3.0 6.0 10.5 20.25
MSE =  10.5
w =  3.6
	 1.0 2.0 3.6 2.5600000000000005
	 2.0 4.0 7.2 10.240000000000002
	 3.0 6.0 10.8 23.040000000000006
MSE =  11.94666666666667
w =  3.7
	 1.0 2.0 3.7 2.8900000000000006
	 2.0 4.0 7.4 11.560000000000002
	 3.0 6.0 11.100000000000001 26.010000000000016
MSE =  13.486666666666673
w =  3.8000000000000003
	 1.0 2.0 3.8000000000000003 3.240000000000001
	 2.0 4.0 7.6000000000000005 12.960000000000004
	 3.0 6.0 11.4 29.160000000000004
MSE =  15.120000000000005
w =  3.9000000000000004
	 1.0 2.0 3.9000000000000004 3.610000000000001
	 2.0 4.0 7.800000000000001 14.440000000000005
	 3.0 6.0 11.700000000000001 32.49000000000001
MSE =  16.84666666666667
w =  4.0
	 1.0 2.0 4.0 4.0
	 2.0 4.0 8.0 16.0
	 3.0 6.0 12.0 36.0
MSE =  18.666666666666668

输出损失图像

课后作业

作业要求
np.meshgrid()函数用法：
　　[X, Y] = meshgrid(x, y)
　　[X, Y] = meshgrid(x) 与 [X, Y] = meshgrid(x, x) 是等同的
　　[X, Y, Z] = meshgrid(x, y, z) 生成三维数组，可用来计算三变量的函数和绘制三维立体图
　　
参考（略有修改）：PyTorch深度学习实践_2.2线性模型

import numpy as np
import matplotlib.pyplot as plt
from mpl_toolkits.mplot3d import Axes3D		# 3D绘图工具包

x_data = [1.0, 2.0, 3.0]
y_data = [2.0, 4.0, 6.0]

def forward(x):
    return x * w + b

def loss(x, y):
    y_pred = forward(x)
    return (y_pred - y) * (y_pred - y)

mse_list = []
W = np.arange(0.0, 4.1, 0.1)
B = np.arange(-2.0, 2.1, 0.1)
[w, b] = np.meshgrid(W, B)      # [X, Y] = np.meshgrid(x, y) 函数用两个坐标轴上的点在平面上画网格。

l_sum = 0
for x_val, y_val in zip(x_data, y_data):
    y_pred_val = forward(x_val)
    loss_val = loss(x_val, y_val)
    l_sum += loss_val
    print('\t', x_val, y_val, y_pred_val, loss_val)

fig = plt.figure()
ax = Axes3D(fig)
ax.plot_surface(w, b, l_sum / 3, cmap='rainbow')    # 画曲面图---Axes3D.plot_surface(X, Y, Z)
ax.set_title('Cost Value')
ax.set_xlabel('w')
ax.set_ylabel('b')
ax.set_zlabel('loss')
plt.show()

输出损失图像
参考（略有修改）：PyTorch 深度学习实践 第2讲 作业

import numpy as np
import matplotlib.pyplot as plt

x_data = [1.0, 2.0, 3.0]
y_data = [2.0, 4.0, 6.0]

def forward(x):
    return x * w + b

def loss(x, y):
    y_pred = forward(x)
    return (y_pred - y) ** 2

w_list = []
b_list = []
mse_list = []

for b in np.arange(-2.0, 2.1, 0.1):
    for w in np.arange(0.0, 4.1, 0.1):
        print('w = ', w, '\tb = ', b)
        l_sum = 0
        for x_val, y_val in zip(x_data, y_data):
            y_pred_val = forward(x_val)
            loss_val = loss(x_val, y_val)
            l_sum += loss_val
            print('\t', x_val, y_val, y_pred_val, loss_val)
        print('MSE = ', l_sum / 3)
        b_list.append(b)
        w_list.append(w)
        mse_list.append(l_sum / 3)

fig = plt.figure()
ax = plt.axes(projection='3d')
X = w_list
Y = b_list
Z = mse_list
ax.plot_trisurf(X, Y, Z, cmap='rainbow')

plt.ylabel('b')
plt.xlabel('w')
plt.show()

输出损失图像

青芒小智
关注
  • 0
    点赞
  • 踩
  • 1
    收藏
    觉得还不错? 一键收藏
  • 打赏
    打赏
  • 1
    评论
专栏目录
深度学习（线性回归练习）
GuanghaoChen的博客
08-17 1146
对深度学习编程的练习
深度学习之PyTorch学习_3.3 线性回归的简洁实现
wangxiaobei2017的博客
03-19 354
3.3 线性回归的简洁实现 3.3.1 生成数据集 %matplotlib inline import torch from IPython import display from matplotlib import pyplot as plt import numpy as np import random num_inputs = 2 num_examples = 1000 true_w = ...
pytorch学习笔记1：线性回归（含代码）亲测可用
小冶的博客
07-16 582
回归VS分类 对连续型变量做预测叫回归，对离散型变量做预测叫分类 线性回归的主要任务是什么？ 线性回归的任务是找到一个从特征空间X到输出空间Y的最优的线性映射函数。 损失： 那既然是找直线，那肯定是要有一个评判的标准，来评判哪条直线才是最好的。OK，道理我们都懂，那咋评判呢？其实简单的雅痞。。。只要算一下实际房价和我找出的直线根据房子大小预测出来的房价之间的差距就行了。说白了就是算两点的距离。当我们把所有实际房价和预测出来的房价的差距（距离）算出来然后做个加和，我们就能量化出现在我们预测的房价和实际房价之间
PNN模型 Pytorch代码
weixin_43164078的博客
04-26 2278
PNN模型 Pytorch
基于pytorch的PINN代码
m0_45861823的博客
02-07 3313
基于pytorch实现的PINN求解Burger方程，Adam+Lbgfs优化器
pytorch学习（六）——线性回归网络
11-07
上传时间：2020/11/07 最后测试：2020/11/07 内容：pytorch框架实现线性回归模型（神经网络） 其他：pytorch学习练习代码 相关介绍：https://blog.csdn.net/jerry_liufeng/article/details/109552181
pytorch学习（七）——非线性回归网络代码
11-08
上传时间：2020/11/08 最后测试：2020/11/08 内容：pytorch框架实现非线性回归模型（神经网络） 其他：pytorch学习练习代码 相关介绍：https://blog.csdn.net/jerry_liufeng/article/details/109556095
深度学习PyTorch极简入门PDF教程1
08-03
【深度学习PyTorch极简入门PDF教程1】 深度学习是一种机器学习的分支，它主要依赖于多层的神经网络架构来实现复杂的学习任务。在深度学习中，这些多层的神经网络通过逐层处理输入数据，从底层的简单特征到高层的...
深度学习与PyTorch入门实战教程-回归问题.rar
04-07
本教程将带你入门深度学习，并通过实战案例——回归问题，让你更好地理解和掌握PyTorch的使用。 回归问题是一种预测性建模任务，目标是建立一个模型，用于预测连续数值输出。在现实世界中，回归分析常用于预测房价...
pytorch深度学习入门与简明实战教程2022
10-05
2.深度学习基础与线性回归实例 3.pytorch张量 4.逻辑回归与多层感知机 5.多分类问题 6.手写数字全连接模型 7.基础部分总结 8.计算机视觉基础 9.预训练模型(迁移学习) 10.Dataset数据输入 11.现代网络架构 12.图像...
PyTorch快速搭建神经网络及其保存提取方法详解
09-20
本篇文章主要介绍了PyTorch快速搭建神经网络及其保存提取方法详解，小编觉得挺不错的，现在分享给大家，也给大家做个参考。一起跟随小编过来看看吧
rainbow-memory:彩虹记忆的官方pytorch实施（CVPR 2021）
04-02
彩虹记忆-官方PyTorch实施 彩虹记忆：不断学习与多种样本的记忆| 尹志焕* ，Heesu Kim * ，杨俊Yo，哈郑宇和，崔钟h CVPR 2021 （*表示同等贡献） （注意）代码将很快推送到此存储库。 抽象的 持续学习是AI模型的现实学习方案。 然而，持续学习的普遍场景将不相交的类集合作为任务，并且不太现实，而是虚假的。 相反，我们专注于“模糊”任务边界。 任务共享类，并且更加现实和实用。 为了解决这一任务，我们认为情节记忆中样本多样性的重要性。 为了增强内存中样本的多样性，我们提出了一种基于每个样本分类不确定性和数据扩充的新颖内存管理策略，称为Rainbow Memory（RM）。 通过对MNIST，CIFAR10，CIFAR100和ImageNet数据集的大量经验验证，我们表明，所提出的方法显着提高了模糊连续学习设置的准确性，尽管简单，但仍大大超越了现有技术水平。 RM结
pytorch实现NS方程求解-基础PINN
forrestguang的博客
04-14 6818
问题描述Kovasznay problem 参考文献：Dockhorn, T. . “A Discussion on Solving Partial Differential Equations using Neural Networks.” (2019). {−νΔu+uux+vuy+px=f1,−νΔv+uvx+vvy+py=f2,ux+vy=0,u∣∂Ω=u0,v∣∂Ω=v0.\left\{\begin{array}{l} -\nu \Delta u + uu_x + v u_y + p_x = f_
PINN解偏微分方程实例1
qq_49323609的博客
03-03 1万+
PINN是一种利用神经网络求解偏微分方程的方法，其计算流程图如下图所示，这里以偏微分方程(1)为例。∂u∂tu∂u∂xv∂2u∂x2∂t∂u​u∂x∂u​v∂x2∂2u​​​神经网络输入位置x,y,z和时间t的值，预测偏微分方程解u在这个时空条件下的数值解。上图中可以看出，PINN的损失函数包含两部分内容，一部分是来源于训练数据误差，另一部分来源于偏微分方程误差，可以记作(2)式。
基于pytorch的PINN求解含时间项的泊松方程
forrestguang的博客
05-06 2977
方程引出 ut−uxx−uyy−uzz=f,x∈Ω,u_t-u_{xx}-u_{yy}-u_{zz}=f,x\in \Omega,ut​−uxx​−uyy​−uzz​=f,x∈Ω, u(0,x,y,z)=u0,u(0,x,y,z)=u_0,u(0,x,y,z)=u0​, u(t,x,y,z)=h,(x,y,z)∈∂Ωu(t,x,y,z)=h,(x,y,z)\in \partial \Omegau(t,x,y,z)=h,(x,y,z)∈∂Ω 这里同样使用PINN来求解方程。 难点 第一个困难在于我们需要给出几
PINN神经网络源代码解析(pyTorch)
李文韬的博客
08-16 1万+
来源于Github [https://github.com/jayroxis/PINNs](https://github.com/jayroxis/PINNs)
PINN学习与实验（二）
热门推荐
刘文凯的博客
04-25 1万+
目录所用工具数学方程模型搭建所有实现代码结果展示参考文献 今天第二天接触PINN，用深度学习的方法求解PDE，看来是非常不错的方法。做了一个简单易懂的例子，这个例子非常适合初学者。跟着教程做了一个小demo, 大家可以参考参考。本文代码亲测可用，直接复制就能使用，非常方便。 所用工具 使用了python和pytorch进行实现 python3.6 toch1.10 数学方程 使用一个最简单的常微分方程： {ut+u×ux−w×uxx=0(1)u(0,x)=−sin(πx)(2)u(t,1)=0(3)u(
PyTorch深度学习入门
最新发布
weixin_58324922的博客
11-02 774
pytorch入门
pytorch深度学习实践
03-28
PyTorch是一个基于Python的开源机器学习库，...总之，PyTorch深度学习实践是一个非常有挑战性的过程，但是如果你能够熟练掌握PyTorch的工具和库，那么你将能够轻松实现深度学习模型，并且在实际应用中取得良好的成果。

“相关推荐”对你有帮助么？

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论 1
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

青芒小智

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值