为什么说神经网络是黑箱子模型，我刚刚有了新的感悟。

最新推荐文章于 2024-12-01 17:03:58 发布
最新推荐文章于 2024-12-01 17:03:58 发布
阅读量8.9k 收藏 27
点赞数 3
分类专栏： 深度学习
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/sinat_16643223/article/details/86665741
版权

为什么说神经网络是黑箱子模型，我刚刚有了新的感悟。

 

深度神经网络是自动提取特征，不同于以往的人工提取特征。

人工提取特征他是知道为什么提取这个特征的，而神经网络，则是通过训练去尽可能贴近训练集，它确实也是做到了，但是你说不出为什么，它为什么是这样弄，说不出它的权重为什么是这样，所以你也没法很好地手动去改去让它变得更好，它是自动提取特征你也说不清楚它提取了哪些特征。感觉更像是一种非线性洗呢，它是综合出来地效果，你没法去把它内部拆开一个个分析其内部的一部分的功能。它是一个整体的综合性的体现。

 

当然我理解也可能有误，但至少是我目前的理解。

 

但有个比如卷积神经网络它每一层都可以把图像，直到最后确实是可以提取出特征的这个怎么解释。

它这里确实解释出来了，那说深度学习不可解释是为什么呢？

 

下面的截图来自《tensorflow实战google深度学习框架》

 

 

 

 

刚刚看了这个youtube视频，把神经网络为什么是黑盒讲得很清楚，也让我弄清楚了我上面写的疑惑

https://www.youtube.com/watch?v=Yp29JqL_dd4

【探讨】如何理解BP神经网络是黑箱模型
botf201802的博客
12-07 3384
P神经网络之所以被称为黑箱，是因为它们的内部机制通常很难解释。神经网络通常由许多层神经元组成，每个神经元都执行一些数学运算，并将结果传递到下一层。这些层之间的复杂交互很难解释，因为每个神经元的作用取决于许多因素，包括其输入和其连接的其他神经元的权重。当神经网络接收输入并生成输出时，中间的过程通常很难理解。这是因为神经网络的决策是通过一系列复杂的数学运算得出的，这些运算往往涉及许多隐藏层和节点，其中每个节点都可能对最终结果产生影响。而且，神经网络的学习过程也是一个黑箱，当神经网络被训练时，会通过调整其内部参数
8w 字，给程序员的职场第一课（上篇）
热门推荐
GitChat
07-07 1万+
本文适合正处在大学阶段，准备毕业以及已经毕业的朋友，对于职场选择，成长方向感兴趣的相关人士。 学完此课程，你能够明白你的学习方向，技巧，以及提前知道职场需要怎么突围，成长，提升，为自己突围职场，制定自己的计划。 同时，文章里面给出了一些我的职场经历，希望能够让大家对程序员这个圈子有所深入理解。总计 30 讲，这一篇是上篇，目录清单： 前言：关于职场，你需要不断拼搏 大学最重要的 8 件事 大公司...
为什么神经网络被称为黑匣子
TEDDY的博客
04-13 1995
数学层面： 由于网络参数与近似的数学函数之间缺乏明确的连接，人工神经网络通常被称为“黑匣子”。
模块说和神经网络学说_为什么都说神经网络是个黑箱？
weixin_39751391的博客
12-20 646
神经网络黑箱的意思是我们知其然，不知其所以然，相关理论比较缺乏。别看神经网络相关论文汗牛充栋，但是大部分类似于technical report，告诉你我这么做效果不错，具体原因不知道，只能“guess”，所以很容易被打脸。这一篇文章讲得挺好的，他用光学类别深度学习，非常形象。从结构来看，无论是深度学习还是镜头，都是一层一层叠起来的，如下图所示。深度学习模型镜头从设计流程来看，当要设计一个镜头的时候...
笔记-关于神经网络黑盒模型可解释性，可视化
Aplusability的博客
02-20 1490
原博地址：深度学习黑盒可视化指南，从隐藏层开始 摘： 一旦神经网络接收到相当大的所需数据集后，该网络就会使用其精确的知识“权重”来证明或识别未知数据样本上的模式。 即在经过大量数据集训练以后，神经网络就可以学会该数据集的知识，知识表现为“权重”。知识可以用来判断与数据集同分布的数据的模式，即pattern。 数据偏向问题的例子 文中关于识别隐匿的tank，却表现为识别天气的模型。 这个故...
黑箱模型
weixin_52436042的博客
02-14 6502
黑箱模型（Black box）或称经验模型，指一些其内部规律还很少为人们所知的现象。如生命科学、社会科学等方面的问题。但由于因素众多、关系复杂，也可简化为灰箱模型来研究。 黑箱模型：该模型是环境预测工作中应用较多的一类模型，它是根据输入—输出关系建立起来的，反映了有关因素间的一种笼统的直接因果关系。用于环境预测的黑箱模型，只涉及到开发活动的性质、强度与其环境后果之间的因果关系。如果未来的变化超出一定的范围，用这类模型的可靠性明显下降。黑箱模型本身不能表述过程。若能得到较多符合实际要求的数据时，应用黑箱模型进
打开神经网络的黑箱（一） 全连接模型的空间划分与编码逻辑
u010165147的博客
02-01 755
几年前就想写这篇文章，但是在解析神经网络的数学原理问题上断断续续，加上个人能力有限，很多问题并没有研究的很明白，以及神经网络本身高维问题的复杂性，导致这个问题的理解也是片面的。个人希望在这篇文章里抛砖引玉，让大家能更深入理解神经网络内部的基础数学原理与编码逻辑，启发大家后面的工作，如有错误请不吝啬指出。本文不会过多的介绍梯度下降或反向传播等参数更新的原理或动力学过程，而是以前向过程（Feed Forward）作为本文的重点。
深度学习框架的可解释性：解开神经网络的黑盒
AI天才研究院
12-27 1186
1.背景介绍 深度学习框架的可解释性：解开神经网络的黑盒 深度学习已经成为人工智能领域的核心技术，它在图像识别、自然语言处理、计算机视觉等方面取得了显著的成果。然而，深度学习模型的黑盒性使得其可解释性变得越来越重要。在这篇文章中，我们将探讨深度学习框架的可解释性，以及如何解开神经网络的黑盒。 1.1 深度学习的黑盒性 深度学习模型通常是由多层神经网络构成的，这些神经网络具有非线性、非平凡的...
DL-神经网络初步理解&&Optimization优化&&全局 and 局部最优 &&神经网络的黑盒不黑&&迁移学习
晴天下的大头娃娃
06-03 581
初步理解 预先准备好非常多吃糖的学习数据, 然后将这些数据一次次放入这套人工神经网络系统中, 糖的信号会通过这套系统传递到手. 然后通过对比这次信号传递后, 手的动作是不是”讨糖”动作, 来修改人工神经网络当中的神经元强度. 这种修改在专业术语中叫做”误差反向传递”, 也可以看作是再一次将传过来的信号传回去, 看看这个负责传递信号神经元对于”讨糖”的动作到底有没有贡献, 让它好好反思与改正, 争取下次做出更好的贡献. Optimization优化问题 大学里面学习过的求导求微分. 因为这就是传说中”
深度神经网络的特征引导黑盒安全测试（Feature-Guided Black-Box Safety Testing of Deep Neural Networks）
GGG_Yu的博客
06-18 935
作者：Matthew Wicker, Xiaowei Huang, and Marta Kwiatkowska 单位：佐治亚大学，利物浦大学，牛津大学 目录摘要预备知识基于人类感知的操作安全性蒙特卡罗树搜索渐近最优策略实验结果总结 摘要   大多数现有的生成对抗样本的方法都需要一些自己使用的神经网络知识（结构、参数等）。本文以图像分类器为研究对象，提出了一种特征引导的黑盒方法，可以在不需要这种知识的情况下来验证深度神经网络的安全性。我们将生成对抗样本的过程公式化为一个两人轮流随机游戏，其中第一个玩家的目标是
LIVE 预告 | 南方科大张宇：神经网络可解释性综述
BAAIBeijing的博客
01-28 1108
深度学习的可解释性研究在近年来顶会的录取文献词云上频频上榜，越来越多的研究工作表明，打开深度学习的黑盒并不是那么遥不可及。这些工作令人们更加信赖深度学习算法生成的结果，也通过分析模型工作...
神经网络算法是黑盒_在黑盒内窥视如何欺骗神经网络
weixin_26756255的博客
10-14 738
神经网络算法是黑盒Neural networks get a bad reputation for being black boxes. And while it certainly takes creativity to understand their decision making, they are really not as opaque as people would have you...
神经网络的可解释性：如何解开黑盒的秘密
AI天才研究院
01-08 2514
1.背景介绍 神经网络在过去的几年里取得了巨大的成功，在图像识别、自然语言处理、语音识别等领域取得了显著的进展。然而，神经网络的黑盒性问题一直是研究者和实践者面临的挑战。这篇文章将探讨神经网络的可解释性，以及如何解开其黑盒的秘密。 1.1 神经网络的黑盒性 神经网络通常被认为是黑盒模型，因为它们的内部结构和计算过程对于输入和输出之间的关系而言是不可解释的。这种黑盒性使得人们无法理解神经网络的...
神经网络的可解释性：从黑盒到透明
AI天才研究院
12-27 1032
1.背景介绍 随着人工智能技术的不断发展，神经网络已经成为了一种非常重要的技术手段，它在图像识别、自然语言处理、推荐系统等方面的应用都取得了显著的成果。然而，神经网络的黑盒性使得它们的可解释性非常有限，这对于许多领域的应用都是一个巨大的挑战。因此，研究神经网络的可解释性变得至关重要。 在这篇文章中，我们将从以下几个方面进行讨论： 背景介绍 核心概念与联系 核心算法原理和具体操作步骤以及数学...
神经网络黑盒研究之敢问路在何方？
yunxinan的专栏
05-07 1935
欧盟，ＮＡＳＡ相关脑计划没有取得进展之前神经计算之路只能在生态计算和行为模拟来实现吗？ 　　　我也不知道路在何方！ https://github.com/rasmusbergpalm/DeepLearnToolbox 　Dropout是指在模型训练时随机让网络某些隐含层节点的权重不工作，不工作的那些节点可以暂时认为不是网络结构的一部分，但是它的权重得保留下来（只是暂时不更新而已），因为下次
可微编程：打开深度学习的黑盒子
深度学习大讲堂
06-07 3474
编者按：深度学习自诞生之日起，即面临着黑盒智能、可解释性差等质疑， 发展至今，不可否认地带来了一波人工智能的发展热潮，然而正面临研究热情渐褪、算法红利逐渐消失等问题，整个...
深度学习-2.2 多层神经网络
weixin_43186779的博客
03-03 2224
从单层到多层是神经网络发展史上的重大变化，层的增加彻底将神经网络的性能提升到了另一个高度，正确理解层的意义对于我们自主构建神经网络有很重要的作用，学会利用层是避免浪费计算资源以及提升神经网络效果的关键。
如何减小神经网络的“黑匣子”属性？
学习与分享人工智能技术
12-01 1599
本文介绍了神经网络的“黑匣子”属性，并讨论了能够提高模型可解释性的PINN模型。
神经网络是
最新发布
03-14
### 神经网络的基本概念 神经网络是一种模仿人类大脑工作的计算模型，旨在解决复杂的模式识别和预测问题。这种技术属于机器学习的一个重要分支，其学名为人工神经网络 (Artificial Neural Network, ANN)[^2]。它通过构建数学模型来模拟生物神经系统的行为，从而完成特定的任务。 #### 定义 神经网络是由一系列相互连接的节点组成的系统，这些节点被称为神经元或单元[^4]。它们被组织成不同层次，主要包括输入层、隐藏层以及输出层。每一层中的神经元接收来自前一层的数据作为输入，并将其传递给下一层。在此过程中，每个神经元会对接收到的信息应用加权求和操作并经过激活函数进行非线性变换。 --- ### 神经网络的工作原理 1. **神经元模型** 单个神经元是整个网络的基础构件。每一个神经元接受一组输入信号 \(x_1, x_2,...,x_n\) 和对应的权重 \(w_1, w_2,...,w_n\) ，然后计算加权总和 \(\sum_{i=1}^{n}(w_i * x_i)\) 。接着，该结果会被送入一个激活函数 \(f()\) 中以引入非线性特性[^3]。最终输出可表示为： ```python output = f(sum(w_i * x_i)) ``` 2. **网络结构** 神经网络通常由三层构成： - 输入层负责接收外部数据； - 隐藏层执行主要的计算任务，可能包含多个层级； - 输出层提供最终的结果或预测值。 当层数较多时，则称之为深度神经网络（Deep Neural Network），这是现代深度学习的核心组成部分之一[^1]。 3. **训练机制** 训练阶段的目标是最小化实际输出与期望目标之间的误差。这通常是借助优化算法如梯度下降法实现的，在此期间不断调整各条边上的权重直至达到满意的性能指标为止。 4. **黑箱效应** 尽管单个神经元的操作较为简单明了，但由于大规模参数的存在使得整体运作变得极其复杂难以直观解释。因此，在很多情况下，人们把成熟的神经网络视为“黑箱子”，即只知道输入什么得到什么样的输出却不清楚内部具体是如何达成这一目的的细节。 --- ### 总结 综上所述，神经网络不仅是一个强大的工具用以处理海量高维度数据集，而且它的理论依据来源于仿生科学领域内的研究成果。尽管如此，由于涉及大量变量及运算步骤的缘故，即便掌握了基本原理仍需依赖计算机辅助才能有效运行此类程序。
评论 1
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

诗筱涵

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值