3blue1brown 更直观的理解反向传播

最新推荐文章于 2024-09-11 06:00:00 发布
最新推荐文章于 2024-09-11 06:00:00 发布
阅读量140 收藏
点赞数 2
文章标签： 神经网络
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/qq_39946640/article/details/138001619
版权

https://www.youtube.com/watch?v=tIeHLnjs5U8 原视频

用最简单的神经元来举例

学习这个视频的目标：理解这些变量（模型的参数）【以什么程度】如何影响代价函数（损失函数），然后我们就知道应该如何调整这些变量，以使得代价函数能够更快地降低

而这只是一个维度，整个的梯度是把所有参数都包含进来的

刚才只是只看了输出层的前一层，那么再前面的层怎么办呢？

其实只要把图画出来，然后按照“改变某个参数如何影响下一个值”的直观理解出发，就很容易写出前一层的链式法则

是不是比从数学上来推导直观和容易理解很多？

Botttt
关注
多模态大模型：技术原理与实战 在LLM时代，对软件研发的更多思考————从软件 1.0 迈向软件 2.0 时代
程序员光剑
06-29 790
软件1.0 vs 软件2.0 - **软件1.0**：传统的软件开发方法，通过人工编写明确的**程序逻辑和规则**来实现功能。 - **软件2.0**：利用AI和机器学习技术，通过**训练模型来"学习"如何执行任务，而不是显式编程**。在这种范式下，软件的行为更多地**由数据和学习算法决定，而不是固定的规则。**
神经网络之反向传播算法（BP）
qq_14822691的博客
07-15 335
看谷歌的机器学习速成课，发现了他们一个不错的讲解反向传播的slide，此文档自带flash效果，能够狠直观的看到各方变化，适合初学者入门学习，在此分享一下，提示：文末有干货，没耐心的可以直接下拉到文末未完...详情请戳这里在此免费给谷歌速成课做一个宣传吧，谷歌的这门速成课真的是相当良心了，可以说比吴恩达的那门课更良心，从文档到视频，再到各种的可视化界面操作，在线调参验证模型这样的可视化界面，对于小...
深度学习的数学：反向传播算法
电影旅行敲代码
11-26 562
业余民科学习者阅读笔记，垃圾内容 代价函数最小值回顾 在《深度学习的数学：神经网络的数学基础 - 阅读笔记》中提到了，如果要求模型的参数Arg0, Arg1, ..., ArgnArg_0,\ Arg_1,\ ...,\ Arg_nArg0​, Arg1​, ..., Argn​。给定一组打了标签的数据<input1, t...
神经网络入门：从神经网络结构到反向传播
weixin_45745854的博客
11-03 687
从神经网络结构到反向传播，3blue1brown神经网络入门笔记
3B1B深度学习系列视频学习笔记
诸神缄默不语的博客
05-22 4728
3Blue1Brown“深度学习”系列视频学习笔记
深度学习笔记（8）：一文讲透神经网络的反向传播，要点介绍与公式推导
weixin_43197820的博客
04-12 650
神经网络的反向传播是什么 神经网络的反向传播，实际上就是逐层计算梯度下降所需要的www向量的“变化量”(代价函数J(w1,b1,w2,b2,w3,b3...wn,bn)J(w1,b1,w2,b2,w3,b3...wn,bn)J(w1,b1,w2,b2,w3,b3...wn,bn)对于w,bw,bw,b向量各个分量(w1,w2,w3,w4…)(b1,b2,b3…)的微分)。以便进行梯度下降算法更新参...
一个基于反向传播的神经网络的实现
weixin_30950607的博客
11-24 194
这实际上是一个叫“手写识别”项目的前传 想法来自3B1B的视频。 祭出地址~ 素 质 三连 分别是三个视频 看完以后蠢蠢欲动的我也想亲自动手,毕竟看完视频后感觉我都能看得懂啊，我也可以实现啊，于是高三的我走上了这条不归路 视频给你的一大错觉就是，内容我都好像懂了。但实际上需要理解的细节甚至是错误的理解是数不胜数的 好吧，偏执性格的我不惜自习课的宝贵时间，偷偷地。。。。咳咳，偏了偏...
python小波神经网络_深度学习之反向传播算法(3)——全连接神经网络BP算法思考及Python实现...
weixin_39603492的博客
12-20 848
0 序言在本文将对模型细节进行讨论补充，定性分析激活函数的使用，阐述网络中数据维度情况；记录自己在BP算法学习过程中的一些思考(纯属发散，可跳过. 如有不正确之处欢迎讨论)；给出深度神经网络BP算法代码实现(文末)及结果.1 激活函数的位置上文最后小节(3.3)介绍了结合Softmax和Cross Entropy Loss Function的神经网络反向传播输出层梯度计算. 在该网络中，输出层(第...
GitHub狂飙3万star的LLM公开资料 - 大模型入门教程
HUANGXIN9898的博客
06-15 1101
涵盖了数学、Python和神经网络的基本知识。‍：专注于使用最新技术构建尽可能优秀的LLM。：专注于创建基于LLM的应用并部署它们。
【ChatGPT核心原理实战】手动求解 Transformer：分步数学示例 | Solving Transformer by Hand: A Step-by-Step Math Example
程序员光剑
12-22 2977
手动求解 Transformer：分步数学示例Understanding Transformers: A Step-by-Step Math Example — Part 1了解 Transformer：分步数学示例 — 第 1 部分I understand that the transformer architecture may seem scary, and you might have encountered various explanations on…我知道变压器架构可能看起来很可怕，并且
基于机器学习(Machine Learning)的图像识别技术基本概念、术语、算法原理
程序员光剑
08-03 1908
在当今数字化时代，图像识别技术已经成为人工智能和计算机视觉领域中最重要的研究方向之一。随着机器学习，特别是深度学习技术的快速发展，基于机器学习的图像识别技术取得了突破性进展，在各个领域都有广泛的应用。从自动驾驶汽车识别路况，到医疗影像分析辅助诊断，再到安防系统中的人脸识别，图像识别技术正在改变我们的生活方式和工作方式。本文将深入探讨基于机器学习的图像识别技术，包括其基本概念、关键术语、核心算法原理以及实际应用。
从基础到高级：AI大模型开发的技术栈
程序员光剑
01-17 1305
人工智能（AI）技术在近年来取得了突飞猛进的发展，其中大模型（Large Language Models，LLMs）的出现更是掀起了新一轮的技术革命。从OpenAI的GPT系列到Google的BERT，再到更近期的Claude和PaLM，这些大模型展现出了惊人的语言理解和生成能力，正在重塑我们与技术交互的方式。然而，开发如此复杂的AI系统并非易事，它需要一整套完善的技术栈支持。本文旨在全面剖析AI大模型开发的技术栈，从基础理论到实际应用，为读者提供一个清晰而深入的认识。
神经网络卷积层和最大池化
Mr_Happy_Li的博客
09-10 975
神经网络卷积层与最大池化
【深度学习】神经网络-怎么分清DNN、CNN、RNN？
木亦汐丫
09-11 1144
最“大”的概念是人工神经网络（Artificial Neural Network, ANN），它是较为广泛的术语，通常指的是一类模拟生物神经网络的数学模型，其中包括神经元、权重和连接。在这个术语下，可以包括深度神经网络（DNN）、卷积神经网络（CNN）、循环神经网络（RNN）等不同类型的网络。
基于java+Face++人脸识别项目前端采用android实现.zip
09-14
1、资源项目源码均已通过严格测试验证，保证能够正常运行； 2、项目问题、技术讨论，可以给博主私信或留言，博主看到后会第一时间与您进行沟通； 3、本项目比较适合计算机领域相关的毕业设计课题、课程作业等使用，尤其对于人工智能、计算机科学与技术等相关专业，更为适合； 4、下载使用后，可先查看README.md文件（如有），本项目仅用作交流学习参考，请切勿用于商业用途。1、资源项目源码均已通过严格测试验证，保证能够正常运行； 2、项目问题、技术讨论，可以给博主私信或留言，博主看到后会第一时间与您进行沟通； 3、本项目比较适合计算机领域相关的毕业设计课题、课程作业等使用，尤其对于人工智能、计算机科学与技术等相关专业，更为适合； 4、下载使用后，可先查看README.md文件（如有），本项目仅用作交流学习参考，请切勿用于商业用途。1、资源项目源码均已通过严格测试验证，保证能够正常运行； 2、项目问题、技术讨论，可以给博主私信或留言，博主看到后会第一时间与您进行沟通； 3、本项目比较适合计算机领域相关的毕业设计课题、课程作业等使用，尤其对于人工智能、计算机科学与技术等相关专业，更为适合； 4、下载使
基于go-zero的云盘管理系统（CloudDisk）.zip
最新发布
09-14
这是一个基于go-zero框架实现的云盘管理系统。它提供了用户管理、存储池管理以及文件分享等核心功能。系统支持密码登录、邮箱注册、用户详情、用户容量查询等用户模块功能。在存储池模块，系统支持中心存储池资源管理和个人存储池资源管理，包括文件上传、文件秒传、文件分片上传以及对接MinIO等功能。此外，系统还提供了文件分享模块，支持创建分享记录、获取资源详情和资源保存等操作。该项目轻量级、高效且易于扩展，是网盘系统的一个优秀实现。 1、资源项目源码均已通过严格测试验证，保证能够正常运行； 2、项目问题、技术讨论，可以给博主私信或留言，博主看到后会第一时间与您进行沟通； 3、本项目比较适合计算机领域相关的毕业设计课题、课程作业等使用，尤其对于人工智能、计算机科学与技术等相关专业，更为适合； 4、下载使用后，可先查看reADME.md文件（如有），本项目仅用作交流学习参考，请切勿用于商业用途。
C#中的Lambda表达式：简化委托与表达式树
09-14
在C#编程语言中，Lambda表达式提供了一种简洁的方式来表示匿名函数，即没有具体名称的函数。Lambda表达式在C# 3.0中引入，作为.NET Framework的一部分，它们在LINQ（Language Integrated Query）查询中尤其有用，但也可以用于任何需要委托类型的地方。 Lambda表达式是C#中一个非常强大和灵活的特性，它允许以简洁的方式编写匿名函数。Lambda表达式可以用于委托、表达式树、LINQ查询等多种场景。通过使用Lambda表达式，开发者可以编写更加简洁、可读和可维护的代码。理解Lambda表达式的工作原理和使用场景对于编写高效的C#程序至关重要。 在C#编程语言中，Lambda表达式提供了一种简洁的方式来表示匿名函数，即没有具体名称的函数。Lambda表达式在C# 3.0中引入，作为.NET Framework的一部分，它们在LINQ（Language Integrated Query）查询中尤其有用，但也可以用于任何需要委托类型的地方。 Lambda表达式是C#中一个非常强大和灵活的特性，它允许以简洁的方式编写匿名函数。Lambda表达式可以
基于ssm的旅游管理系统设计与实现.docx
09-14
基于ssm的旅游管理系统设计与实现.docx
线性代数基础：3blue1brown线性代数系列视频课程笔记
本文是基于3blue1brown线性代数系列视频课程的笔记，所有内容均来自3blue1brown。在这个视频系列中，我们将会学习线性代数的基础知识。 线性代数是数学中的一个分支，主要研究向量空间和线性映射。在物理学中，向量...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值