Keras学习---MLP和CNN模型建立篇

最新推荐文章于 2024-06-25 10:05:15 发布
最新推荐文章于 2024-06-25 10:05:15 发布
阅读量1.4k 收藏 2
点赞数
分类专栏： Deep Learning
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/sunfoot001/article/details/75103458
版权
本文介绍了如何使用Keras构建最简单的MLP和CNN模型进行图像分类。MLP模型包含多个全连接层、激活函数和Dropout层，而CNN模型包括卷积层、池化层和Dropout，其参数总数相近但结构更复杂，能获得更高的准确率。
摘要由CSDN通过智能技术生成


目前阶段，仅考虑线线性堆叠且单输出的网络结构，更复杂的网络有多任务（即多输出）的网络拓扑结构。

1. 最简单的MLP模型 
model.add(Dense(512, input_shape=(784,)))
model.add(Activation('relu'))
model.add(Dropout(0.2))
model.add(Dense(512))
model.add(Activation('relu'))
model.add(Dropout(0.2))
model.add(Dense(10))
model.add(Activation('softmax'))



通过summary函数可以看到模型的总结，如模型的参数个数，每层的output Shape。
原来，dense和activation及drop都是独立分层的。 
Layer (type)                     Output Shape          Param #     Connected to
====================================================================================================
dense_1 (Dense)                  (None, 512)           401920      dense_input_1[0][0]
____________________________________________________________________________________________________
activation_1 (Activation)        (None, 512)           0           dense_1[0][0]
____________________________________________________________________________________________________
dropout_1 (Dropout)              (None, 512)           0           activation_1[0][0]
____________________________________________________________________________________________________
dense_2 (Dense)                  (None, 512)           262656      dropout_1[0][0]
____________________________________________________________________________________________________
activation_2 (Activation)        (None, 512)           0           dense_2[0][0]
__________________________________________________________________
最低0.47元/天 解锁文章
sunfoot001
关注
专栏目录
Keras搭建CNN模型基础
Lynne的博客
01-19 654
Keras神经网络基础 导包 import tensorflow as tf from tensorflow.keras.layers import Dense from tensorflow.keras import Model from sklearn import datasets import numpy as np 神经网络基础结构： 模型搭建&实例化 class 网名(Model): def init(self): super(网名, self).init() self.
MLP&CNN;识别手写数字集Mnist
04-09
多层感知器MLP和卷积神经网络CNN识别手写数字集Mnist，使用Jupyter Notebook 编写的 Python代码，含建模及测试，代码注释清晰，十分适合新手
多层感知器（MLP）和卷积神经网络（CNN）
最新发布
ATTCG的博客
06-25 1439
最常见的操作是算术平均值，但沿feature map维数求和和使用最大值也是常见的。MLP和CNN是神经网络中两种重要的前馈网络模型，它们在结构和应用上有着不同的侧重点。虽然它们都基于相同的原理，但它们在设计和应用上有着不同的侧重点，分别适用于不同的任务。在每次卷积中，通道维数的大小都会增加，因为通道维数是每个数据点的特征向量。理解每种神经网络层对输入数据张量的大小和形状的影响,对于深入理解模型的行为至关重要。这个CNN模型使用了一系列的1D卷积层,提取了字符级的特征,最后接一个全连接层得到分类结果。
使用MLP和CNN分别实现手写数字的识别
qq_43018832的博客
09-11 545
【代码】使用MLP和CNN分别实现手写数字的识别。
CNN与MLP之间的关系，优缺点
热门推荐
MOL
12-21 2万+
CNN的计算过程： 很多书或论文也将MLP和CNN区别开来，但是实际MLP只是CNN的一个特例，也就是说MLP本身也是CNN，以下为简要的论述。 上图为CNN的计算过程，这里的输入为 3x3 的图片，卷积核大小也为 3x3 ，这里的stride为0，计算公式为 MLP的计算过程： MLP实际是1*1的卷积，n个卷积核就将原来的d维变为n维. 下图为MLP的计算过程（为了方便MLP的计算过程图权重W被拆开了实际为9x3的矩阵，而输入计算时应该先转置，输出也是需要转置，即 1x9 dot 9...
MLP和CNN的不同
weixin_47032489的博客
03-14 840
最本质区别是处理的数据类型不同。
基于MLP-CNN-LSTM-CNN-LSTM时间序列预测-编码器-解码器LSTM多步预测-keras&python-源码
10-05
Keras是一个高级神经网络API，它建立在TensorFlow、Microsoft Cognitive Toolkit等后端之上，提供了一个简单易用的接口来构建和训练深度学习模型。Python则是数据科学和机器学习领域广泛使用的编程语言，提供了丰富...
Keras基于MLP、LSTM、CNN、CNN-LSTM时间序列预测模型的编码器、解码器LSTM多步预测python源码.zip
12-02
Keras基于MLP、LSTM、CNN、CNN-LSTM时间序列预测模型的编码器、解码器LSTM多步预测python源码.zip源码_代码附有详细注释 3.用于时间序列预测的MLP 4.用于时间序列预测的CNN 5.用于时间序列预测的LSTM 6.编码...
浅谈 Mlp-Mixer（pytorch and keras）
__不想写代码__的博客
07-11 3790
提示：文章写完后，目录可以自动生成，如何生成可参考右边的帮助文档 文章目录前言一、pandas是什么？二、使用步骤1.引入库2.读入数据总结 前言 提示：这里可以添加本文要记录的大概内容： 例如：随着人工智能的不断发展，机器学习这门技术也越来越重要，很多人都开启了学习机器学习，本文就介绍了机器学习的基础内容。 提示：以下是本篇文章正文内容，下面案例可供参考 一、pandas是什么？ 示例：pandas 是基于NumPy 的一种工具，该工具是为了解决数据分析任务而创建的。 二、使用步骤 1.引入库 代码
深度学习基础笔记(MLP+CNN+RNN+Transformer等等)
Silentambition的博客
11-25 3105
感知机+多层感知机+卷积神经网络+循环神经网络+注意力机制等等
MLP、CNN在MNIST数据集上性能对比
weixin_42196948的博客
03-18 1578
对MLP、简单CNN和多层CNN区别做简单性能对比 MLP（需将图片宽高数据转换成一维数据形式） from keras.datasets import mnist from matplotlib import pyplot as plt import numpy as np from keras.models import Sequential from keras.layers import Dense from keras.utils import np_utils # 从Keras导入Mni
pytorch创建MLP模型及pytorch模型转onnx方法总结
NUAA1703的博客
09-15 856
本例从头训练了mlp模型，然后使用不同的方式保存成pth，最后使用torch.onnx成功转出onnx模型。
利用keras实现多层感知器MLP模型
qq_38384924的博客
08-12 5347
一、什么是keras Keras是一个由Python编写的开源人工神经网络库，可以作为Tensorflow、Microsoft-CNTK和Theano的高阶应用程序接口，进行深度学习模型的设计、调试、评估、应用和可视化。 Keras的神经网络API是在封装后与使用者直接进行交互的API组件，在使用时可以调用Keras的其它组件。除数据预处理外，使用者可以通过神经网络API实现机器学习任务中的常见操...
全MLP结构模型学习笔记
charles_zhang_的博客
06-04 3379
卷积神经网络（CNN）是计算机视觉的常用模型。最近，基于注意力的网络，如Vision Transformer，也变得很流行。在本文中，我们表明，虽然卷积和注意力都足以获得良好的性能，但它们都不是必需的。我们提出了MLPMixer，一种专门基于多层感知器（MLP）的体系结构。MLP混合器包含两种类型的层：一种是将MLP独立应用于图像patches的层（即“混合”每个位置的特征），另一种是跨patches应用MLP的层（即“混合”空间信息）。......
AI从入门到放弃：CNN的导火索，用MLP做图像分类识别？
weixin_33895516的博客
06-21 207
欢迎大家前往腾讯云+社区，获取更多腾讯海量技术实践干货哦~ 作者：郑善友 腾讯MIG后台开发工程师 导语：在没有CNN以及更先进的神经网络的时代，朴素的想法是用多层感知机（MLP）做图片分类的识别；但残酷的现实是，MLP做这事的效果并不理想。本文通过使用MLP做图片分类识别的尝试作为思路指引，实为下一篇CNN相关笔记的引子文章。 本文的文档和代码，传送门： github项目地址 一. 用MLP...
import numpy as np import tensorflow as tf from tensorflow import keras import matplotlib.pyplot as plt ## Let us define a plt function for simplicity def plt_loss(x,training_metric,testing_metric,ax,colors = ['b']): ax.plot(x,training_metric,'b',label = 'Train') ax.plot(x,testing_metric,'k',label = 'Test') ax.set_xlabel('Epochs') ax.set_ylabel('Accuarcy')# ax.set_ylabel('Categorical Crossentropy Loss') plt.legend() plt.grid() plt.show() tf.keras.utils.set_random_seed(1) ## We import the Minist Dataset using Keras.datasets (train_data, train_labels), (test_data, test_labels) = keras.datasets.mnist.load_data() ## We first vectorize the image (28*28) into a vector （784） train_data = train_data.reshape(train_data.shape[0],train_data.shape[1]train_data.shape[2]) # 60000784 test_data = test_data.reshape(test_data.shape[0],test_data.shape[1]test_data.shape[2]) # 10000784 ## We next change label number to a 10 dimensional vector, e.g., 1->[0,1,0,0,0,0,0,0,0,0] train_labels = keras.utils.to_categorical(train_labels,10) test_labels = keras.utils.to_categorical(test_labels,10) ## start to build a MLP model N_batch_size = 5000 N_epochs = 100 lr = 0.01 ## we build a three layer model, 784 -> 64 -> 10 MLP_4 = keras.models.Sequential([ keras.layers.Dense(128, input_shape=(784,),activation='relu'), keras.layers.Dense(64,activation='relu'), keras.layers.Dense(10,activation='softmax') ]) MLP_4.compile( optimizer=keras.optimizers.Adam(lr), loss= 'categorical_crossentropy', metrics = ['accuracy'] ) History = MLP_4.fit(train_data[:10000],train_labels[:10000], batch_size = N_batch_size, epochs = N_epochs,validation_data=(test_data,test_labels), shuffle=False) train_acc = History.history['accuracy'] test_acc = History.history['val_accuracy']在该模型的每一层（包括输出层）都分别加入L1，L2正则项训练，分别汇报测试数据准确率
06-02
可以使用以下代码在模型的每一层（包括输出层）都加入L1，L2正则项训练，并汇报测试数据准确率： ``` import numpy as np import tensorflow as tf from tensorflow import keras import matplotlib.pyplot as plt ## Let us define a plt function for simplicity def plt_loss(x,training_metric,testing_metric,ax,colors = ['b']): ax.plot(x,training_metric,'b',label = 'Train') ax.plot(x,testing_metric,'k',label = 'Test') ax.set_xlabel('Epochs') ax.set_ylabel('Accuarcy')# ax.set_ylabel('Categorical Crossentropy Loss') plt.legend() plt.grid() plt.show() tf.keras.utils.set_random_seed(1) ## We import the Minist Dataset using Keras.datasets (train_data, train_labels), (test_data, test_labels) = keras.datasets.mnist.load_data() ## We first vectorize the image (28*28) into a vector （784） train_data = train_data.reshape(train_data.shape[0],train_data.shape[1]*train_data.shape[2]) # 60000*784 test_data = test_data.reshape(test_data.shape[0],test_data.shape[1]*test_data.shape[2]) # 10000*784 ## We next change label number to a 10 dimensional vector, e.g., 1->[0,1,0,0,0,0,0,0,0,0] train_labels = keras.utils.to_categorical(train_labels,10) test_labels = keras.utils.to_categorical(test_labels,10) ## start to build a MLP model N_batch_size = 5000 N_epochs = 100 lr = 0.01 ## we build a three layer model, 784 -> 64 -> 10 MLP_4 = keras.models.Sequential([ keras.layers.Dense(128, input_shape=(784,),activation='relu',kernel_regularizer=keras.regularizers.l1_l2(l1=0.01, l2=0.01)), keras.layers.Dense(64,activation='relu',kernel_regularizer=keras.regularizers.l1_l2(l1=0.01, l2=0.01)), keras.layers.Dense(10,activation='softmax',kernel_regularizer=keras.regularizers.l1_l2(l1=0.01, l2=0.01)) ]) MLP_4.compile( optimizer=keras.optimizers.Adam(lr), loss= 'categorical_crossentropy', metrics = ['accuracy'] ) History = MLP_4.fit(train_data[:10000],train_labels[:10000], batch_size = N_batch_size, epochs = N_epochs, validation_data=(test_data,test_labels), shuffle=False) train_acc = History.history['accuracy'] test_acc = History.history['val_accuracy'] print("MLP model with L1 and L2 regularization, test accuracy: ", test_acc[-1]) ``` 在该模型的每一层都加入L1和L2正则化项训练，并且L1和L2正则化项的系数都设置为0.01。最后输出模型在测试数据上的准确率。
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值