计算机视觉（四）神经网络与典型的机器学习步骤

最新推荐文章于 2024-05-20 16:07:41 发布
最新推荐文章于 2024-05-20 16:07:41 发布
阅读量817 收藏 3
点赞数 2
分类专栏： 计算机视觉 文章标签： 机器学习 计算机视觉 神经网络
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/m0_60634555/article/details/131983288
版权

文章目录

神经网络

  • 神经网络：大量神经元节点按一定体系架构连接成的网状结构——大脑结构

  • 神经网络的作用
    - 分类
    - 模式识别
    - 连续值预测

    • 建立输入与输出的映射关系

    生物神经元

    在这里插入图片描述

    人工神经元

在这里插入图片描述

每个神经元都是一个结构相似的独立单位，接受前一层传来的数据，并将这些数据的加权和输入非线性作用函数中，最后将非线性作用函数的输出结果传递给后一层。

在这里插入图片描述

激活函数

在这里插入图片描述

导数

在这里插入图片描述

人工神经网络

在这里插入图片描述

“层”的通俗理解

在这里插入图片描述
在这里插入图片描述

前馈神经网络

人工神经网络的一种，无反馈，可用一个有向无环图表示。

在这里插入图片描述

Delta学习规则

一种有监督学习算法。根据神经元的实际输出与期望输出差别来调整连接权。
在这里插入图片描述

前馈神经网络的目标函数

在这里插入图片描述

梯度下降

在这里插入图片描述在这里插入图片描述

输出层权重改变量

在这里插入图片描述
在这里插入图片描述
在这里插入图片描述

误差方向传播算法

误差传播迭代公式

在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述

简单的BP算例

在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述

随机梯度下降（SGD）

在这里插入图片描述

Mini-batch Gradient Descent

在这里插入图片描述

典型的机器学习步骤

在这里插入图片描述

特征对学习的影响

在这里插入图片描述

深度学习的特征

深度学习是对神经网络模型的拓展。
在这里插入图片描述

“连接主义”的兴衰史

在这里插入图片描述

深度学习与神经网络的区别

在这里插入图片描述

_企鹅_
关注
  • 2
    点赞
  • 踩
  • 3
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
专栏目录
PyTorch深度学习实战（3）——使用PyTorch构建神经网络
盼小辉丶的博客
06-13 4万+
PyTorch 是一个用于构建深度神经网络的库，具有灵活性和可扩展性，可以轻松自定义模型。在本节中，我们将使用 PyTorch 库构建神经网络，利用张量对象操作和梯度值计算更新网络权重，并利用 Sequential 类简化网络构建过程，最后还介绍了如何使用 save、load 方法保存和加载模型，以节省模型训练时间。
Python基于自动机器学习的水色图像水质评价系统源码+设计报告+项目说明+数据.zip
07-19
Python基于自动机器学习的水色图像水质评价系统源码+设计报告+项目说明+数据.zip 【资源介绍】 该项目是个人课设项目，答辩评审分达到95分，代码都经过调试测试，确保可以运行！欢迎下载使用，可用于小白学习、进阶。 该资源主要针对计算机、通信、人工智能、自动化等相关专业的学生、老师或从业者下载使用，亦可作为期末课程设计、课程大作业、毕业设计等。 项目整体具有较高的学习借鉴价值！基础能力强的可以在此基础上修改调整，以实现不同的功能。 从事渔业生产有经验的从业者可通过观察水色变化调控水质，以维持养殖水体生态系统中浮游植物、微生物类、浮游动物等合理的动态平衡。由于这些多是通过经验和肉眼观察进行判断，存在主观性引起的观察性偏倚，使观察结果的可比性、可重复性降低，不易推广应用。当前，数字图像处理技术为计算机监控技术在水产养殖业的应用提供更大的空间。在水质在线监测方面，数字图像处理技术是基于计算机视觉，以专家经验为基础，对池塘水色进行优劣分级，达到对池塘水色的准确快速判别。 * 问题分析 由于图片数据由专业人士获取，因此我们的分析主要从数据采集完成后如下五个步骤着手分析问题： ①、数据转换：为了将图像数据转换为计算机能够识别的形式，通过PIL库对图片进行读取，并通过numpy进行数值计算。 ②、数据清洗：为了去除每张图片噪声数据（外部环境，非水色图片部分）的影响，通过PIL库截取每张图片中心100*100像素区域的水色图片作为我们的分析数据。 ③、特征提取：将图片的R、G、B颜色通道分离出来。使用概率论的基础知识，分别对每张图片的R、G、B三阶颜色矩阵进行计算，作为每张图片的特征。 ④、数据整理：将存储在本地的图片数据进行批量读取，转换为我们的特征数据，并将特征数据与数据标签保存，为模型训练做准备。 ⑤、模型构建与评价：通过上一步得到的特征数据与数据标签，划分训练集与测试集。通过scikit-learn构建决策树、k近邻、朴素贝叶斯、支持向量机、神经网络等分类模型并进行GridSearchCV参数搜索，最后使用模型分类准确率和混淆矩阵对模型进行评估。 ## 二、数据说明 ### 1、原始数据 images:共计五类水色图片，命名规则为：水色类别_编号。 图片数量：203张图片(每张图片约为400万像素) 图片类别：5类图片 ### 2、处理后的数据 通过截取每张图片的中心100*100的像素区域，求每张图片的R、G、B通道的一二三阶矩阵作为每张图片的特征 生成203*9的DataFrame作为训练数据data，保存为data.json 同时根据命图片的命名，获取图片的类别作为数据的标签 label,保存为label.json ## 三、数据建模与模型评估 将测试集与训练集按2:8进行划分、分别代入决策树、K近邻、朴素贝叶斯、神经网络与支持向量机等分类模型中进行训练，并通过分类的准确率与混淆矩阵对模型进行评估。 在训练模型时，为了找到最好的参数，我们通过sklearn中的GridSearchCV对模型的参数进行网格搜索，使得模型的效果尽可能地好。
Python基于神经网络实现的手写数字识别系统源码.rar
04-27
使用Python基于神经网络实现的手写数字识别系统。手写数字识别系统是一个能够自动识别手写数字的程序。它使用深度神经网络模型，通过训练大量的手写数字图像样本（mnist数据集），学习从输入的手写数字图像中提取特征，并预测出对应的数字。 主要功能 图像预处理：对输入的手写数字图像进行标准化处理，包括调整大小、灰度化、二值化等，以确保图像适合模型处理。这有助于减少模型训练时的变量，提高识别准确性。 特征提取：利用计算机视觉技术从预处理后的图像中提取关键特征，这些特征对于区分不同的数字至关重要。特征提取可以通过传统的图像处理技术或深度学习方法来实现。 分类识别：将提取的特征输入到分类器中，分类器根据训练时学习到的模式对手写数字进行识别。这个步骤通常使用机器学习算法，如支持向量机（SVM）或人工神经网络（ANN）来完成。 结果输出：将识别结果以图形或文本的形式输出给用户，完成整个识别过程。在实际应用中，这个功能还包括与用户界面的交互，以便用户可以上传图像并接收识别结果。 模型训练：使用标准数据集（如MNIST）对模型进行训练，以提高模型的泛化能力和识别准确率。MNIST数据集包含了6
BAT机器学习面试1000题系列
03-07
BAT机器学习面试1000题系列 1 前言 1 BAT机器学习面试1000题系列 2 1 归一化为什么能提高梯度下降法求解最优解的速度？ 22 2 归一化有可能提高精度 22 3 归一化的类型 23 1）线性归一化 23 2）标准差标准化 23 3）非线性归一化 23 35. 什么是熵。机器学习 ML基础 易 27 熵的引入 27 3.1 无偏原则 29 56. 什么是卷积。深度学习 DL基础 易 38 池化，简言之，即取区域平均或最大，如下图所示（图引自cs231n） 40 随机梯度下降 46 批量梯度下降 47 随机梯度下降 48 具体步骤： 50 引言 72 1. 深度有监督学习在计算机视觉领域的进展 73 1.1 图像分类（Image Classification） 73 1.2 图像检测（Image Dection） 73 1.3 图像分割（Semantic Segmentation） 74 1.4 图像标注–看图说话（Image Captioning） 75 1.5 图像生成–文字转图像（Image Generator） 76 2.强化学习（Reinforcement Learning） 77 3深度无监督学习（Deep Unsupervised Learning）–预测学习 78 3.1条件生成对抗网络（Conditional Generative Adversarial Nets，CGAN） 79 3.2 视频预测 82 4 总结 84 5 参考文献 84 一、从单层网络谈起 96 二、经典的RNN结构（N vs N） 97 三、N VS 1 100 四、1 VS N 100 五、N vs M 102 Recurrent Neural Networks 105 长期依赖（Long-Term Dependencies）问题 106 LSTM 网络 106 LSTM 的核心思想 107 逐步理解 LSTM 108 LSTM 的变体 109 结论 110 196. L1与L2范数。机器学习 ML基础 易 163 218. 梯度下降法的神经网络容易收敛到局部最优，为什么应用广泛？深度学习 DL基础 中 178 @李振华，https://www.zhihu.com/question/68109802/answer/262143638 179 219. 请比较下EM算法、HMM、CRF。机器学习 ML模型 中 179 223. Boosting和Bagging 181 224. 逻辑回归相关问题 182 225. 用贝叶斯机率说明Dropout的原理 183 227. 什么是共线性, 跟过拟合有什么关联? 184 共线性：多变量线性回归中，变量之间由于存在高度相关关系而使回归估计不准确。 184 共线性会造成冗余，导致过拟合。 184 解决方法：排除变量的相关性／加入权重正则。 184 勘误记 216 后记 219
人脸图像特征提取matlab代码-image_classification:在这里，我训练了支持向量机，线性判别分析和四层前馈神经网络，以对来
05-22
人脸图像特征提取matlab代码支持向量机的图像分类 在这里，我训练了支持向量机，线性判别分析和四层前馈神经网络，以对来自CIFAR-10数据集的10个图像类别进行分类，从而以62.7％的SVM实现了最高的准确性。 该实验的关键问题是发现用于降低尺寸的PCA和LDA的非传统组合是否优于单独的LDA或PCA。 此外，在有监督类质心初始化的情况下，我测试是否可以使用聚类方法（k均值和GMM）进行分类。 Matlab要求： FDA LDA多类（1.7版） 计算机视觉系统工具箱（8.0版） 神经网络工具箱（11.0版） 统计和机器学习工具箱（版本11.2） 怎么跑 克隆计算机上的存储库，并确保CW2Data.mat与matlab脚本位于同一文件夹中。 按此顺序运行matlab步骤1至8。 介绍 我们提出了CIFAR-10数据集图像的十类监督分类问题。 我们的培训和测试数据分别包含10个类别的1000个样本和100个样本。 图像数据存储在四维矩阵中，其中前两个维表示图像大小（32x32），第三个维是RGB颜色通道，最后一个维索引数据样本。 我们提出的数据挖掘管道首先使用定向梯度直方图（HOG）进
【机器学习】——神经网络与深度学习
weixin_51658186的博客
06-15 5130
设有P个样本，我们不知道它们实际上应该分成多少类，为保险起见，可假设M=P（P个样本分成P类），这样，当N
什么是神经网络和机器学习？【云驻共创】
一键难忘的博客
04-17 2042
机器学习是一门多领域交叉学科，涉及统计学、数据分析、概率论、计算机科学等多门学科，它的目标是通过研究利用数据和算法来模拟或实现人类的学习行为，以获取新的知识或技能，重新组织已有的知识结构使之不断地改善自身的性能。无论是在工业生产中的质量控制，医学影像的分析，还是在智能驾驶中的环境感知，神经网络和机器学习技术都发挥着不可或缺的作用，为解决现实世界中的复杂问题提供了强大的工具和方法。此外，深度学习作为神经网络的一个分支，通过多层次的表示学习来提高模型的性能，已成为机器学习领域的热门研究方向之一。
【深度学习与计算机视觉】9、计算机视觉与卷积神经网络
呆呆的猫的博客
08-03 4076
一、神经网络到卷积神经网络 二、卷积神经网络的构成 三、卷积神经网络的训练 四、卷积神经网络的特点 五、正则化与Dropout 一、神经网络到卷积神经网络 人工神经网络可以用于计算机视觉吗？ 可以 为什么利用卷积神经网络？ 人工神经网络全连接结构对内存要求非常高，而且大量的参数会导致过拟合，参数过多学习能力太强，会把所有样本点记下来，以至于在测试集的泛化性能很差。 ...
计算机视觉（四）全连接神经网络MLP
weixin_37699342的博客
12-21 4853
目录 多层感知器/全连接神经网络 一、全连接神经网络绘制 二、激活函数 常用的激活函数 三、网络结构设计 四、损失函数 softmax 交叉熵损失 对比多类支持向量机损失 五、优化算法 计算图与反向传播 计算图的颗粒度（例子） 常见的门单元 激活函数 六、梯度算法改进 梯度下降算法存在的问题 动量法 自适应梯度（AdaGrad，RMSProp） ADAM 七、训练过程 随机权值初始化：保证正反向传递 批归一化Batch Normal：保证正反向传递 欠拟合，过拟
机器学习——神经网络（neural networks）
Xpy_021101的博客
12-28 2450
他的作用是设置输出层，只使用线性激活函数，将交叉熵损失函数和损失函数都封装进了这里特殊的损失函数里，logits=z，TensorFlow会把z作为中间值来计算，这可以让TensorFlow的数字舍入误差小一点，因为当涉及到softmax时，数值舍入误差可能会变得更糟。第一个隐藏层的神经元用相对较小的窗口来寻找这些边缘，第二个隐藏层是用大点的窗口(在图像的搜寻范围更大)，第三个隐藏层用的窗口还要更大，这些经过可视化后的小神经元，实际上对应于图像中不同大小的区域。
机器学习数据表示为阵列
dc爱傲雪和技术
05-15 601
了解了如何使用 Python 访问和重塑 NumPy 数组中的数据。1.如何将列表数据转换为 NumPy 数组2.如何使用 Pythonic 索引和切片访问数据。3.如何调整数据大小以满足某些机器学习 API 的期望。
人工智能与机器学习的演进：重塑IT行业的未来
寻道码路，探索编程之路的无限可能。
05-14 973
进入21世纪的第三个十年，我们站在一个技术革新的风口上。IT行业，作为支撑现代社会运转的核心骨架，正在经历前所未有的变革。从云计算、大数据到人工智能、物联网、5G通信和区块链，这些技术的每一次进步都在推动全球经济的增长和社会的进步。本文将重点探讨人工智能与机器学习（AI & ML）的最新进展以及它们如何塑造IT行业的未来。AI & ML正以惊人的速度重塑IT行业乃至整个社会的运作方式。它们为我们提供了无限的可能性，同时也带来了新的挑战。
机器学习------聚类
djylovehzt的博客
05-17 670
在聚类算法中根据样本之间的相似性,将样本互粉到不同的类别中,对于不同的相似计算方法,会得到不同的聚类结果,常用的相似度计算方法有欧式距离法。用户画像,广告推荐,Data Segmentation,搜索引擎的流量推荐,恶意流量识别。2.计算每一个样本i到最近簇j内的所有样本的平均距离bij,该值越大,说明该样本越不属于其他簇j。1.计算每一个样本 i 到同簇内其他样本的平均距离ai, 该值越小,说明簇内的相似程度越大。整形,缺省值=8,生成的聚类数,即产生的质心(centroids)数。
【Python】【机器学习】混淆矩阵的各项指标计算
SmallBamboo的博客
05-17 933
False Negative (FN) = **明明是正例，但很不幸，我猜它是反例的数量。精确率（Precision）精确率表示**模型预测为正类的样本中，实际为正类的比例。**它衡量了模型在正类预测中的准确性。召回率（Recall）召回率表示**实际为正类的样本中，被模型正确预测为正类的比例。True Negative (TN) = **是反例，且很幸运我也猜它是反例的数量。True Positive (TP) = **是正例，且很幸运我也猜它是正例的数量。**此处4表示有4张图片是猫，且我也猜它是猫。
机器学习之注意力机制
JustinMars的博客
05-20 112
注意力机制（Attention Mechanism）是机器学习，特别是深度学习中一种重要的技术，最初被用于自然语言处理（NLP）任务，如机器翻译。它的核心思想是，让模型在处理输入数据时，能够“关注”到数据中的重要部分，而不是一视同仁地处理所有部分。在序列到序列（seq2seq）模型中，传统的编码器-解码器架构往往会遇到问题，尤其是当输入序列很长时。具体来说，解码器在生成每个输出时，不是依赖于一个固定的上下文向量，而是根据当前的解码状态，动态地计算与输入序列不同部分的加权和。
机器学习，解决数据倾斜问题的实用策略！
最新发布
qiantianye的博客
05-20 391
数据倾斜问题！All you need is here！！
EM算法与变分推断
huhubbdd的博客
05-14 735
通常而言，机器学习中需要解决的问题是由观察到的变量xxx来估计隐变量zzz的分布以及参数θ\thetaθ，也就是求解p(z∣x,θ)p(z|x,\theta)p(z∣x,θ)以及 θ\thetaθ用公式来表达，变量集合xxx的联合分布为p(x∣θ)=∏i=1N∫zp(xi,z∣θ)dzp(x|\theta)=\prod_{i=1}^N\int_zp(x_i,z|\theta)dzp(x∣θ)=i=1∏N​∫z​p(xi​,z∣θ)dz 则其对应的对数似然函数就为 ln⁡p(x∣θ)=ln⁡∏i=1Np(xi
机器学习 - 特征降维
weixin_47552266的博客
05-16 877
特征降维在处理高维数据时尤为重要，可以提高模型的训练速度和泛化性能。在实际应用中，通常需要结合特征选择和特征提取方法，根据具体问题选择合适的降维技术。
机器学习 - 聚类算法
weixin_47552266的博客
05-17 963
聚类是一种无监督学习方法，用于将数据集划分成若干个组（簇），使得同一簇内的数据点之间的相似度尽可能高，而不同簇之间的相似度尽可能低。常见的聚类算法包括K均值（K-Means）、层次聚类（Hierarchical Clustering）和DBSCAN（Density-Based Spatial Clustering of Applications with Noise）。
深度学习与计算机视觉大作业
04-10
深度学习是一种机器学习的方法，它通过构建和训练深层神经网络来实现对数据的学习和预测。计算机视觉是研究如何使计算机能够理解和解释图像和视频的领域。 在深度学习与计算机视觉大作业中，学生通常需要完成以下几...

“相关推荐”对你有帮助么？

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值