- 博客(5)
- 收藏
- 关注
RSS订阅原创 神经网络—大模型
神经网络大模型是指具有大量参数和复杂结构的神经网络模型。它们通常由多个隐藏层组成，每个隐藏层包含大量的神经元，并且具有数百万到数十亿甚至更多的可训练参数。神经网络大模型在深度学习领域扮演着重要的角色，因为它们能够更好地拟合庞大复杂的数据集或解决更复杂的任务。通过增加模型的容量和复杂度，大模型可以提供更强的模型表达能力，从而更好地捕捉输入数据中的特征和模式。这使得大模型能够在多种领域取得显著的性能提升，如自然语言处理、计算机视觉和强化学习等。
2023-10-21 15:08:00
774
1
原创 边缘计算的发展史
Cisco 提出了"边缘计算"（Edge Computing）的概念，强调将计算能力和存储资源尽可能地靠近数据来源和终端设备，以减少数据传输延迟和网络拥堵，并提供智能服务。：美国加州大学伯克利分校的研究人员首次提出了"雾计算"（Fog Computing）的概念，将计算资源推向网络边缘，以处理来自物联网设备的大量数据以及提供低延迟的应用服务。边缘计算发展起源于云计算的扩展需求，旨在将计算、存储和应用功能推向网络边缘，以提供更低的延迟、更高的带宽利用率和更好的用户体验。边缘机器学习的兴起（2020年代）
2023-10-20 21:03:46
381
原创 神经网络—模型量化
神经网络模型量化是一种将浮点参数和激活值转换为定点数或低位宽的整数表示的技术，以减小模型的存储空间和计算复杂度，同时尽可能保持模型的性能。模型量化可以有助于在资源受限的设备上部署更加高效的神经网络模型。简单直白点讲，即原来表示一个权重需要使用float32表示，量化后只需要使用int8来表示就可以啦，仅仅这一个操作，我们就可以获得接近4倍的网络加速！
2023-09-12 16:07:17
222
原创 神经网络浅谈
神经网络（Neural Network）是一种模拟生物神经系统工作原理的计算模型。它由多个节点（神经元）和它们之间的连接（权重）组成。神经网络通过学习训练数据来自适应地调整权重，从而实现对输入数据的模式识别和预测能力。神经网络通常由输入层隐藏层和输出层组成，其中隐藏层可以有多层。每个层都包含多个神经元，连接着前一层和后一层的神经元。每个神经元接收到来自前一层神经元的输入，并通过加权求和和激活函数的处理产生输出。
2023-09-12 08:00:00
99
原创 多层神经网络的训练流程
初始化权重矩阵，拿一个或一批数据作为输入，带入权重矩阵中计算，最终得到预测值；根据损失进行反向传播，更新参数权重；重复以上操作，以一个或者几个条件满足就停止训练：损失函数值小，准确度满足了条件，迭代到了指定次数。我们假设h1和o1的计算公式如下，同理h2和o2与之类似。h1的输出经过激活函数输入到o1中。我们假设i1和i2为输入，h1和h2作为神经网络的第一层（隐藏层），o1和o2作为第二次也就是输出层。在反向传播过程就是计算梯度的过程。根据梯度将每一个权重进行更新。更具损失函数进行损失计算。
2023-09-11 10:16:33
416
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人