关于卷积网络的模型融合---使用softmax实现

首先,实验经历来说,做个模型融合还是蛮有用的,直接0.5几蹦到0.6多。。。

并且,从机器学习理论上来说,拿来融合的几个模型,模型间的差异越大,融合后的效果会越好。。。


我用的是很low的方法,就是,

我做的是图像分割嘛,也就是图像的每个像素点的分类。

分别对两个网络进行test,test的图像过一遍模型后,会得到图像的每个像素点的logits值(解释一下,如果是 0 1 分割,那么每个像素点就相当于有两种可能值,mxn的图像,就会得到mxnx2的一个矩阵,这个2,就是每个像素点属于 0 或者 1 类别的网络计算值 ),然后还得做一个softmax操作,softmax() 函数就是有把网络计算的某像素点在两个类别上的值转化为概率分布的功力,让这组矩阵变成概率分布的情况,然后好进一步的做交叉墒计算(扯的有点远。。。tensorflow那本书有详细的介绍)softmax的结果存成.npy格式。

反正就是,分别对两个网络的logits做完softmax(存成npy格式)之后,把两个npy文件求个均值(这就是最简单的融合了,,,(a+b)/2  ),其实还可以对两部分给予不同的权值去融合softmax的值。。。不过权值怎么给?,有待考究。。。

得到平均后的softmax了,再进行一下argmax()(我的上一篇博文有说),就是找到矩阵(这个问题里就是在2个维度里找就是了)中最大值出现的位置,也即得到该像素点最终被分到的类别号了。。。

以上就完成了融合得到最终的图像分割结果了。。。。



  • 3
    点赞
  • 9
    收藏
    觉得还不错? 一键收藏
  • 2
    评论
LSTM-CNN网络是一种融合了长短期记忆网络(LSTM)和卷神经网络(CNN)的深度学习模型。该模型在自然语言处理和计算机视觉领域中具有广泛的应用。 为了实现LSTM-CNN网络结构,我们可以采用TensorFlow 2框架。具体步骤如下: 1. 导入所需的TensorFlow模块和其他必要的Python模块。 ``` import tensorflow as tf from tensorflow.keras.models import Model from tensorflow.keras.layers import Input, Dense, Dropout, LSTM, Conv1D, MaxPooling1D, Flatten, concatenate ``` 2. 定义模型的输入层。 ``` input_layer = Input(shape=(sequence_length, input_size)) ``` 其中,sequence_length表示序列的长度,input_size表示每个时间步输入的特征数。 3. 定义LSTM层。 ``` lstm_layer = LSTM(lstm_units, return_sequences=True)(input_layer) ``` 其中,lstm_units表示LSTM单元的数量,return_sequences=True表示返回所有时间步的输出结果。 4. 定义卷层和池化层。 ``` cnn_layer = Conv1D(cnn_filters, cnn_kernel_size, activation='relu')(input_layer) cnn_layer = MaxPooling1D(pool_size=cnn_pool_size)(cnn_layer) ``` 其中,cnn_filters表示卷核的数量,cnn_kernel_size表示卷核的尺寸,cnn_pool_size表示池化层的尺寸。 5. 将LSTM层和卷层合并。 ``` merge_layer = concatenate([lstm_layer, cnn_layer]) ``` 6. 定义全连接层和输出层。 ``` dense_layer = Dense(dense_units, activation='relu')(merge_layer) output_layer = Dense(output_size, activation='softmax')(dense_layer) ``` 其中,dense_units表示全连接层的神经元数量,output_size表示输出层的大小。 7. 定义模型并编译。 ``` model = Model(inputs=input_layer, outputs=output_layer) model.compile(loss='categorical_crossentropy', optimizer='adam', metrics=['accuracy']) ``` 其中,loss表示损失函数,optimizer表示优化器,metrics表示评估指标。 8. 训练模型。 ``` model.fit(x_train, y_train, validation_data=(x_test, y_test), epochs=num_epochs, batch_size=batch_size) ``` 其中,x_train和y_train表示训练数据集,x_test和y_test表示测试数据集,num_epochs表示训练轮数,batch_size表示批量大小。 通过以上步骤,我们可以使用TensorFlow 2框架轻松地实现LSTM-CNN网络结构,并在自然语言处理和计算机视觉领域中应用。

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论 2
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值