tensorflow笔记【1】机器学习-BP（反向传播算法）

最新推荐文章于 2022-12-23 09:00:00 发布

如烟937

最新推荐文章于 2022-12-23 09:00:00 发布

阅读量318

点赞数

分类专栏： tensorflow笔记文章标签： tensorflow 机器学习算法

本文链接：https://blog.csdn.net/qq_62625255/article/details/125244849

版权

tensorflow笔记专栏收录该内容

9 篇文章 0 订阅

订阅专栏

本文介绍了机器学习中的超参数概念，它们是在学习过程开始前设定的参数，影响模型的性能。此外，详细解释了反向传播算法，通过梯度下降法更新权重，以达到优化模型的目标。示例代码展示了如何在TensorFlow中实现这一过程。

摘要由CSDN通过智能技术生成

提示：文章写完后，目录可以自动生成，如何生成可参考右边的帮助文档

前言

随着人工智能的不断发展，机器学习这门技术也越来越重要，很多人都开启了学习机器学习，本文就介绍了机器学习的基础内容。

提示：以下是本篇文章正文内容，下面案例可供参考

一、超参数是什么？

在机器学习的上下文中，超参数是在开始学习过程之前设置值的参数，而不是通过训练得到的参数数据。通常情况下，需要对超参数进行优化，给学习机选择一组最优超参数，以提高学习的性能和效果。
比如学习率…

二、BP算法

1.梯度下降更新的过程为反向传播

代码如下（示例）：

import tensorflow as tf

w = tf.Variable(tf.constant(5, dtype=tf.float32))
lr = 0.2
epoch = 40

for epoch in range(epoch):  # for epoch 定义顶层循环，表示对数据集循环epoch次，
    # 此例数据集数据仅有1个w,初始化时候constant赋值为5，循环40次迭代。
    with tf.GradientTape() as tape:  # with结构到grads框起了梯度的计算过程。
        loss = tf.square(w + 1)
    grads = tape.gradient(loss, w)  # .gradient函数告知谁对谁求导

    w.assign_sub(lr * grads)   # .assign_sub 对变量做自减，即 w -= lr * grads
    print(f"After {epoch} epoch, w is {w.numpy()}, loss is {loss}")
    
    
# lr初始值：0.2   请自改学习率  0.001  0.999 看收敛过程
# 最终目的：找到 loss 最小 即 w = -1 的最优参数w