模块化搭建神经网络(keras)
搭建步骤
- import :
导入相关模块 - train、test:
指定训练数据集的输入特征x_train和训练集的输入标签y_train,测试集的输入特征x_test和测试集的输入标签y_test - model = tf.keras.models.Sequential:
搭建网络结构,定义前向传播 - model.compile:
配置训练参数,定义优化器、损失函数、评测指标等 - model.fit:
执行训练过程,输入训练集和测试集的输入特征及标签,定义Batch值和数据集训练次数 - model.summary:
输出网络结构和参数统计
函数
Sequential()
描述各层网络结构:
model = tf.keras.models.Sequential([网络结构])
网络结构示例:
- 拉直层:不含计算,只进行形状转换,将输入特征转换成一维数组。
tf.keras.layers.Flatten()
- 全连接层:定义神经元个数、激活函数(relu、softmax、sigmoid、tanh等)、正则化(L1:tf.keras.regularizers.l1()、L2:tf.keras.regularizers.l2())。
tf.keras.layers.Dense(神经元个数, activation="激活函数", kernel_regularizer=正则化)
- 卷积层
tf.keras.layers.Conv2D(filters=卷积核个数, kernel_size=卷积核尺寸, strides=卷积步长, padding="valid" or "same")
- LSTM层
tf.keras.layers.LSTM()
compile()
配置训练参数,定义优化器、损失函数、评测指标等:
model.compile(optimizer=优化器, loss=损失函数, metrics=["准确率"])
- optimizer
'sgd' or tf.keras.optimizers.SGD(lr=学习率, momentum=动量参数) 'adagrad' or tf.keras.optimizers.Adgrad(lr=学习率) 'adadelta' or tf.keras.optimizers.Adadelta(lr=学习率) 'adam' or tf.keras.optimizers.Adam(lr=学习率, beta_1=0.9, beta_2=0.999)
- loss
'mse' or tf.keras.losses.MeanSquaredError() 'sparse_categorical_crossentropy' or tf.keras.losses.SparseCategoricalCrossentropy(from_logits=False) //from_logits:询问是否经过概率分布,若输出经过概率分布:False, 否则:True
- metrics
'accuracy': y_和y都是数值,如y_=[1]、y=[1] 'categorical_accurary': y_和y都是独热码(概率分布),如:y_=[0,1,0]、y=[0.256,0.695,0.048] 'sparse_categoriacl_accuracy': y_是数值,y是独热码(概率分布),如:y_=[1]、y=[0.256,0.695,0.048]
fit()
执行训练过程,输入训练集和测试集的输入特征及标签,定义Batch值和数据集训练次数:
model.fit(训练数据集的输入特征, 训练数据集的输入标签,
batch_size= , epochs= ,
validation_data=(测试数据集的输入特征, 测试数据集的输入标签),
validation_split=从训练数据集中划分给测试数据集的比例
validation_freq=多少epoch测试一次)
summary()
输出网络结构和参数统计:
model.summary()
示例
import tensorflow as tf
from sklearn import datasets
import numpy as np
//下载训练数据集
x_train = datasets.load_iris().data
y_train = datasets.load_iris().target
//将数据集乱序
np.random.seed(100)
np.random.shuffle(x_train)
np.random.seed(100)
np.random.shuffle(y_train)
//Sequential()
model = tf.keras.model.Sequential([tf.keras.layers.Dense(3,activation='softmax',kernel_regularizer=tf.keras.regularizers.l2)])
//compile
model.compile(optimizer=tf.keras.optimizers.SGD(lr=0.1),loss=tf.keras.losses.SpaerCategoricalCrossentropy(from_logits=False))
//fit
model.fit(x_train,y_train,batch_size=32,epochs=500,validation_split=0.2,validation_freq=20)
//summary
model.summary()