利用胶囊网络实现mnist数字分类——分辨多张数字重叠

最新推荐文章于 2024-05-24 21:39:15 发布
最新推荐文章于 2024-05-24 21:39:15 发布
阅读量3.1k 收藏 47
点赞数 1
分类专栏： 胶囊网络 深度学习 神经网络 文章标签： 胶囊网络 重叠数字分类 CNN 深度学习
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/weixin_42182910/article/details/94717772
版权

利用胶囊网络实现mnist数字分类——分辨多张数字重叠分类

引言：通过对比普通的CNN对重叠数字的分类与CNN+Capsule对重叠数字进行分类，引证胶囊网络对位置、缩放、姿态变化较为有效。

1  首先构建胶囊网络层

from keras import activations
from keras import backend as K
from keras.engine.topology import Layer

def squash(x, axis=-1):
    s_squared_norm = K.sum(K.square(x), axis, keepdims=True) + K.epsilon()
    scale = K.sqrt(s_squared_norm)/ (0.5 + s_squared_norm)
    return scale * x


#define our own softmax function instead of K.softmax
def softmax(x, axis=-1):
    ex = K.exp(x - K.max(x, axis=axis, keepdims=True))
    return ex/K.sum(ex, axis=axis, keepdims=True)


#A Capsule Implement with Pure Keras
class Capsule(Layer):
    def __init__(self, num_capsule, dim_capsule, routings=3, share_weights=True, activation='squash', **kwargs):
        super(Capsule, self).__init__(**kwargs)
        self.num_capsule = num_capsule
        self.dim_capsule = dim_capsule
        self.routings = routings
        self.share_weights = share_weights
        if activation == 'squash':
            self.activation = squash
        else:
            self.activation = activations.get(activation)

    def build(self, input_shape):
        super(Capsule, self).build(input_shape)
        input_dim_capsule = input_shape[-1]
        if self.share_weights:
            self.W = self.add_weight(name='capsule_kernel',
                                     shape=(1, input_dim_capsule,
                                            self.num_capsule * self.dim_capsule),
                                     initializer='glorot_uniform',
                                     trainable=True)
        else:
            input_num_capsule = input_shape[-2]
            self.W = self.add_weight(name='capsule_kernel',
                                     shape=(input_num_capsule,
                                            input_dim_capsule,
                                            self.num_capsule * self.dim_capsule),
                                     initializer='glorot_uniform',
                                     trainable=True)

    def call(self, u_vecs):
        if self.share_weights:
            u_hat_vecs = K.conv1d(u_vecs, self.W)
        else:
            u_hat_vecs = K.local_conv1d(u_vecs, self.W, [1], [1])

        batch_size = K.shape(u_vecs)[0]
        input_num_capsule = K.shape(u_vecs)[1]
        u_hat_vecs = K.reshape(u_hat_vecs, (batch_size, input_num_capsule,
                                            self.num_capsule, self.dim_capsule))
        u_hat_vecs = K.permute_dimensions(u_hat_vecs, (0, 2, 1, 3))
        #final u_hat_vecs.shape = [None, num_capsule, input_num_capsule, dim_capsule]

        b = K.zeros_like(u_hat_vecs[:,:,:,0]) #shape = [None, num_capsule, input_num_capsule]
        for i in range(self.routings):
            c = softmax(b, 1)
            o = K.batch_dot(c, u_hat_vecs, [2, 2])
            if K.backend() == 'theano':
                o = K.sum(o, axis=1)
            if i < self.routings - 1:
                o = K.l2_normalize(o, -1)
                b = K.batch_dot(o, u_hat_vecs, [2, 3])
                if K.backend() == 'theano':
                    b = K.sum(b, axis=1)

        return self.activation(o)

    def compute_output_shape(self, input_shape):
        return (None, self.num_capsule, self.dim_capsule)

2 搭建网络 ，通过对比普通的CNN模型及Capsule+CNN对比

#! -*- coding: utf-8 -*-

#from Capsule_Keras import *
from keras import utils
from keras.datasets import mnist
from keras.models import Model
from keras.layers import *
from keras import backend as K


#准备训练数据
batch_size = 128
num_classes = 10
img_rows, img_cols = 28, 28
#加载数据集
(x_train, y_train), (x_test, y_test) = mnist.load_data()
x_train = x_train.reshape(x_train.shape[0], img_rows, img_cols, 1)
x_test = x_test.reshape(x_test.shape[0], img_rows, img_cols, 1)
x_train = x_train.astype('float32')
x_test = x_test.astype('float32')
x_train /= 255
x_test /= 255
#换one hot格式
y_train = utils.to_categorical(y_train, num_classes)
y_test = utils.to_categorical(y_test, num_classes)


#准备自定义的测试样本
#对测试集重新排序并拼接到原来测试集，就构成了新的测试集，每张图片有两个不同数字
idx = range(len(x_test))
#打乱顺序
np.random.shuffle(idx)
#传入的数组必须具有相同的形状，这里的相同的形状可以满足在拼接方向axis轴上数组间的形状一致即可
X_test = np.concatenate([x_test, x_test[idx]], 1)
#np.vstack:按垂直方向（行顺序）堆叠数组构成一个新的数组
Y_test = np.vstack([y_test.argmax(1), y_test[idx].argmax(1)]).T
X_test = X_test[Y_test[:,0] != Y_test[:,1]] #确保两个数字不一样
Y_test = Y_test[Y_test[:,0] != Y_test[:,1]]
Y_test.sort(axis=1) #排一下序，因为只比较集合，不比较顺序


#搭建普通CNN分类模型

input_image = Input(shape=(None,None,1))
cnn = Conv2D(64, (3, 3), activation='relu')(input_image)
cnn = Conv2D(64, (3, 3), activation='relu')(cnn)
cnn = AveragePooling2D((2,2))(cnn)
cnn = Conv2D(128, (3, 3), activation='relu')(cnn)
cnn = Conv2D(128, (3, 3), activation='relu')(cnn)
cnn = GlobalAveragePooling2D()(cnn)
dense = Dense(128, activation='relu')(cnn)
output = Dense(10, activation='sigmoid')(dense)

model = Model(inputs=input_image, outputs=output)
model.compile(loss=lambda y_true,y_pred: y_true*K.relu(0.9-y_pred)**2 + 0.25*(1-y_true)*K.relu(y_pred-0.1)**2,
              optimizer='adam',
              metrics=['accuracy'])

model.summary()

model.fit(x_train, y_train,
          batch_size=batch_size,
          epochs=20,
          verbose=1,
          validation_data=(x_test, y_test))

Y_pred = model.predict(X_test) #用模型进行预测
greater = np.sort(Y_pred, axis=1)[:,-2] > 0.5 #判断预测结果是否大于0.5
Y_pred = Y_pred.argsort()[:,-2:] #取最高分数的两个类别
Y_pred.sort(axis=1) #排序，因为只比较集合

acc = 1.*(np.prod(Y_pred == Y_test, axis=1)).sum()/len(X_test)
print u'CNN+Pooling，不考虑置信度的准确率为：%s'%acc
acc = 1.*(np.prod(Y_pred == Y_test, axis=1)*greater).sum()/len(X_test)
print u'CNN+Pooling，考虑置信度的准确率为：%s'%acc



#搭建CNN+Capsule分类模型
## 一个常规的 Conv2D 模型
input_image = Input(shape=(None,None,1))
cnn = Conv2D(64, (3, 3), activation='relu')(input_image)
cnn = Conv2D(64, (3, 3), activation='relu')(cnn)
cnn = AveragePooling2D((2,2))(cnn)
cnn = Conv2D(128, (3, 3), activation='relu')(cnn)
cnn = Conv2D(128, (3, 3), activation='relu')(cnn)

cnn = Reshape((-1, 128))(cnn)
capsule = Capsule(10, 16, 3, True)(cnn)
output = Lambda(lambda x: K.sqrt(K.sum(K.square(x), 2)), output_shape=(10,))(capsule)

model = Model(inputs=input_image, outputs=output)
model.compile(loss=lambda y_true,y_pred: y_true*K.relu(0.9-y_pred)**2 + 0.25*(1-y_true)*K.relu(y_pred-0.1)**2,
              optimizer='adam',
              metrics=['accuracy'])

model.summary()

model.fit(x_train, y_train,
          batch_size=batch_size,
          epochs=20,
          verbose=1,
          validation_data=(x_test, y_test))

Y_pred = model.predict(X_test) #用模型进行预测
greater = np.sort(Y_pred, axis=1)[:,-2] > 0.5 #判断预测结果是否大于0.5
Y_pred = Y_pred.argsort()[:,-2:] #取最高分数的两个类别
Y_pred.sort(axis=1) #排序，因为只比较集合

acc = 1.*(np.prod(Y_pred == Y_test, axis=1)).sum()/len(X_test)
print u'CNN+Capsule，不考虑置信度的准确率为：%s'%acc
acc = 1.*(np.prod(Y_pred == Y_test, axis=1)*greater).sum()/len(X_test)
print u'CNN+Capsule，考虑置信度的准确率为：%s'%acc

3 实验结果

Layer (type)                 Output Shape              Param #   
=================================================================
input_3 (InputLayer)         (None, None, None, 1)     0         
_________________________________________________________________
conv2d_9 (Conv2D)            (None, None, None, 64)    640       
_________________________________________________________________
conv2d_10 (Conv2D)           (None, None, None, 64)    36928     
_________________________________________________________________
average_pooling2d_3 (Average (None, None, None, 64)    0         
_________________________________________________________________
conv2d_11 (Conv2D)           (None, None, None, 128)   73856     
_________________________________________________________________
conv2d_12 (Conv2D)           (None, None, None, 128)   147584    
_________________________________________________________________
global_average_pooling2d_2 ( (None, 128)               0         
_________________________________________________________________
dense_3 (Dense)              (None, 128)               16512     
_________________________________________________________________
dense_4 (Dense)              (None, 10)                1290      
=================================================================
Total params: 276,810
Trainable params: 276,810
Non-trainable params: 0
_________________________________________________________________
Train on 60000 samples, validate on 10000 samples
Epoch 1/20
60000/60000 [==============================] - 7s 110us/step - loss: 0.0126 - acc: 0.7945 - val_loss: 0.0031 - val_acc: 0.9573
Epoch 2/20
60000/60000 [==============================] - 6s 97us/step - loss: 0.0024 - acc: 0.9658 - val_loss: 0.0024 - val_acc: 0.9647
Epoch 3/20
60000/60000 [==============================] - 6s 97us/step - loss: 0.0016 - acc: 0.9763 - val_loss: 0.0011 - val_acc: 0.9822
Epoch 4/20
60000/60000 [==============================] - 6s 98us/step - loss: 0.0012 - acc: 0.9821 - val_loss: 9.1222e-04 - val_acc: 0.9863
Epoch 5/20
60000/60000 [==============================] - 6s 100us/step - loss: 9.3207e-04 - acc: 0.9859 - val_loss: 7.4821e-04 - val_acc: 0.9892
Epoch 6/20
60000/60000 [==============================] - 6s 100us/step - loss: 8.1626e-04 - acc: 0.9885 - val_loss: 8.1356e-04 - val_acc: 0.9879
Epoch 7/20
60000/60000 [==============================] - 6s 97us/step - loss: 6.9253e-04 - acc: 0.9895 - val_loss: 7.2233e-04 - val_acc: 0.9896
Epoch 8/20
60000/60000 [==============================] - 6s 97us/step - loss: 6.4728e-04 - acc: 0.9901 - val_loss: 5.7232e-04 - val_acc: 0.9899
Epoch 9/20
60000/60000 [==============================] - 6s 97us/step - loss: 5.6721e-04 - acc: 0.9913 - val_loss: 5.6251e-04 - val_acc: 0.9917
Epoch 10/20
60000/60000 [==============================] - 6s 97us/step - loss: 5.0384e-04 - acc: 0.9923 - val_loss: 6.3515e-04 - val_acc: 0.9905
Epoch 11/20
60000/60000 [==============================] - 6s 97us/step - loss: 4.4391e-04 - acc: 0.9931 - val_loss: 7.1615e-04 - val_acc: 0.9881
Epoch 12/20
60000/60000 [==============================] - 6s 97us/step - loss: 3.9281e-04 - acc: 0.9939 - val_loss: 5.5132e-04 - val_acc: 0.9900
Epoch 13/20
60000/60000 [==============================] - 6s 97us/step - loss: 3.8931e-04 - acc: 0.9940 - val_loss: 5.1013e-04 - val_acc: 0.9918
Epoch 14/20
60000/60000 [==============================] - 6s 97us/step - loss: 3.3158e-04 - acc: 0.9951 - val_loss: 4.7458e-04 - val_acc: 0.9927
Epoch 15/20
60000/60000 [==============================] - 6s 102us/step - loss: 3.0994e-04 - acc: 0.9954 - val_loss: 4.4793e-04 - val_acc: 0.9924
Epoch 16/20
60000/60000 [==============================] - 6s 101us/step - loss: 2.8561e-04 - acc: 0.9956 - val_loss: 4.9396e-04 - val_acc: 0.9918
Epoch 17/20
60000/60000 [==============================] - 6s 97us/step - loss: 2.5102e-04 - acc: 0.9960 - val_loss: 4.7689e-04 - val_acc: 0.9927
Epoch 18/20
60000/60000 [==============================] - 6s 98us/step - loss: 2.4750e-04 - acc: 0.9960 - val_loss: 5.3580e-04 - val_acc: 0.9916
Epoch 19/20
60000/60000 [==============================] - 6s 101us/step - loss: 2.1588e-04 - acc: 0.9966 - val_loss: 5.1220e-04 - val_acc: 0.9915
Epoch 20/20
60000/60000 [==============================] - 6s 100us/step - loss: 1.9244e-04 - acc: 0.9971 - val_loss: 4.5228e-04 - val_acc: 0.9921
CNN+Pooling，不考虑置信度的准确率为：0.340964931874
CNN+Pooling，考虑置信度的准确率为：0.0813044449408
_________________________________________________________________
Layer (type)                 Output Shape              Param #   
=================================================================
input_4 (InputLayer)         (None, None, None, 1)     0         
_________________________________________________________________
conv2d_13 (Conv2D)           (None, None, None, 64)    640       
_________________________________________________________________
conv2d_14 (Conv2D)           (None, None, None, 64)    36928     
_________________________________________________________________
average_pooling2d_4 (Average (None, None, None, 64)    0         
_________________________________________________________________
conv2d_15 (Conv2D)           (None, None, None, 128)   73856     
_________________________________________________________________
conv2d_16 (Conv2D)           (None, None, None, 128)   147584    
_________________________________________________________________
reshape_2 (Reshape)          (None, None, 128)         0         
_________________________________________________________________
capsule_2 (Capsule)          (None, 10, 16)            20480     
_________________________________________________________________
lambda_2 (Lambda)            (None, 10)                0         
=================================================================
Total params: 279,488
Trainable params: 279,488
Non-trainable params: 0
_________________________________________________________________
Train on 60000 samples, validate on 10000 samples
Epoch 1/20
60000/60000 [==============================] - 8s 133us/step - loss: 0.0105 - acc: 0.8710 - val_loss: 0.0025 - val_acc: 0.9770
Epoch 2/20
60000/60000 [==============================] - 7s 120us/step - loss: 0.0021 - acc: 0.9821 - val_loss: 0.0015 - val_acc: 0.9857
Epoch 3/20
60000/60000 [==============================] - 7s 121us/step - loss: 0.0014 - acc: 0.9885 - val_loss: 0.0012 - val_acc: 0.9906
Epoch 4/20
60000/60000 [==============================] - 7s 120us/step - loss: 0.0011 - acc: 0.9907 - val_loss: 9.9176e-04 - val_acc: 0.9907
Epoch 5/20
60000/60000 [==============================] - 7s 120us/step - loss: 8.7051e-04 - acc: 0.9927 - val_loss: 0.0010 - val_acc: 0.9922
Epoch 6/20
60000/60000 [==============================] - 7s 120us/step - loss: 7.5289e-04 - acc: 0.9936 - val_loss: 8.8222e-04 - val_acc: 0.9922
Epoch 7/20
60000/60000 [==============================] - 7s 120us/step - loss: 6.3195e-04 - acc: 0.9948 - val_loss: 8.0888e-04 - val_acc: 0.9916
Epoch 8/20
60000/60000 [==============================] - 7s 119us/step - loss: 5.6204e-04 - acc: 0.9950 - val_loss: 7.2247e-04 - val_acc: 0.9924
Epoch 9/20
60000/60000 [==============================] - 7s 119us/step - loss: 4.7763e-04 - acc: 0.9964 - val_loss: 6.9410e-04 - val_acc: 0.9925
Epoch 10/20
60000/60000 [==============================] - 7s 123us/step - loss: 4.4153e-04 - acc: 0.9967 - val_loss: 7.3162e-04 - val_acc: 0.9926
Epoch 11/20
60000/60000 [==============================] - 7s 121us/step - loss: 3.8947e-04 - acc: 0.9970 - val_loss: 7.1959e-04 - val_acc: 0.9919
Epoch 12/20
60000/60000 [==============================] - 7s 118us/step - loss: 3.3594e-04 - acc: 0.9978 - val_loss: 6.1931e-04 - val_acc: 0.9933
Epoch 13/20
60000/60000 [==============================] - 7s 118us/step - loss: 3.1502e-04 - acc: 0.9978 - val_loss: 7.0153e-04 - val_acc: 0.9922
Epoch 14/20
60000/60000 [==============================] - 7s 119us/step - loss: 2.7268e-04 - acc: 0.9983 - val_loss: 6.1045e-04 - val_acc: 0.9936
Epoch 15/20
60000/60000 [==============================] - 7s 118us/step - loss: 2.3339e-04 - acc: 0.9987 - val_loss: 6.4356e-04 - val_acc: 0.9937
Epoch 16/20
60000/60000 [==============================] - 7s 118us/step - loss: 1.9981e-04 - acc: 0.9989 - val_loss: 7.3893e-04 - val_acc: 0.9926
Epoch 17/20
60000/60000 [==============================] - 7s 118us/step - loss: 1.8829e-04 - acc: 0.9989 - val_loss: 6.3818e-04 - val_acc: 0.9923
Epoch 18/20
60000/60000 [==============================] - 7s 118us/step - loss: 1.6750e-04 - acc: 0.9992 - val_loss: 7.0149e-04 - val_acc: 0.9916
Epoch 19/20
60000/60000 [==============================] - 7s 119us/step - loss: 1.6916e-04 - acc: 0.9992 - val_loss: 7.5558e-04 - val_acc: 0.9921
Epoch 20/20
60000/60000 [==============================] - 7s 118us/step - loss: 1.4234e-04 - acc: 0.9992 - val_loss: 6.7573e-04 - val_acc: 0.9919
CNN+Capsule，不考虑置信度的准确率为：0.96694214876
CNN+Capsule，考虑置信度的准确率为：0.966495421041

4 具体github代码如下

https://github.com/leonorand/capsule_network/blob/master/capsule_network_su.ipynb

 

leonorandzzzz
关注
  • 1
    点赞
  • 踩
  • 47
    收藏
    觉得还不错? 一键收藏
  • 4
    评论
专栏目录
实现胶囊神经网络，识别手写MNIST数据集，谈谈实现及理解。
**My Coding Family**
07-01 1379
实现一个基础的胶囊层，这通常涉及到动态路由算法。# 创建权重# Capsule层的前向传播逻辑pass # 这里需要实现具体的计算逻辑# 其他方法（如路由算法）也需要实现ok，以上就是我这期的Bug修复内容啦，如果还想查找更多解决方案，你可以看看我专门收集Bug及提供解决方案的专栏《CSDN问答解答》，都是实战中碰到的Bug，希望对你有所帮助。到此，咱们下期拜拜。码字不易，如果这篇文章对你有所帮助，帮忙给 bug菌 来个，您的支持就是我坚持写作分享知识点传播技术的最大动力。「猿圈奇妙屋」；
Hinton AAAI2020 演讲——胶囊网络
allein_STR的博客
12-28 357
2020年 2 月 9 日，AAAI 2020的主会议厅讲台上迎来了三位重量级嘉宾，这三位也是我们熟悉、拥戴的深度学习时代的开拓者：Geoffrey Hinton，Yann LeCun，Yoshua Bengio。 其实仅仅在几年以前，我们都很少在计算机科学界的学术会议上看到他们的身影，Hinton 甚至表示自己都很久不参与 AAAI 会议了 ——毕竟十年前的时候神经网络还被主流的计算机科学研究人员们集体抗拒，即便有进展，论文也不会被各个学术会议接收。如今，随着深度学习成为机器学习科研的绝对主流和面...
基于pytorch的胶囊网络minst图像分类实现
杂文集
04-30 5900
关于《Dynamic Routing Between Capsules》这篇论文的代码复现网上有很多，基本都是做图像重构的。我修改了一部分代码，实现了minst图像分类。 参考：基于pytorch的CapsNet代码详解. 胶囊网络结构 胶囊网络基本结构如下： 普通卷积层conv1 预胶囊层PrimaryCaps：为胶囊层做准备，运算为卷积运算。 胶囊层DigitCaps：代替全连接层，输出为...
使用胶囊网络实现MNIST数据分类
wshzd的博客
05-08 2811
#!/usr/bin/python # -*- coding:utf-8 -*- # https://www.sohu.com/a/226611009_633698 import numpy as np import os import tensorflow as tf import matplotlib.pyplot as plt # Reset the default graph fo...
基于胶囊网络的Fashion-MNIST数据集的10分类
RookieFCB的专栏
01-05 2431
胶囊网络 数据集 Fashion-MNIST数据集由70000张28∗2828*2828∗28大小的灰度图像组成，共有10个类别，每一类别各有7000张图像。数据集划分为两部分，即训练集和测试集。其中，训练集共有60000张图像，每个类别各有6000张；测试集共有10000张图像，每一类别各有1000张。 胶囊网络结构 网络模型 采用CapsNet网络模型，该网络由两部分组成：编码器和解码器。前...
人工智能应用-实验7-胶囊网络分类minst手写数据集
最新发布
半岛铁盒里
05-24 1639
胶囊神经网络
快速融合胶囊网络及其在MNIST中的应用
03-08
胶囊网络是一种新的神经网络架构，它避免了由于卷积神经网络的池操作而导致的位置信息丢失的问题。 胶囊网络使用向量作为输入和输出以及动态路由更新参数，其效果比卷积神经网络更好。 在本文中，为胶囊网络提出了一种新的激活函数，并将最小的重量损失添加到了损失函数中。 实验表明，改进的胶囊网络提高了网络的收敛速度，提高了泛化能力，使网络效率更高。
python实现胶囊网络_深度学习精要之CapsuleNets理论与实践（附Python代码）
weixin_39637571的博客
12-09 877
摘要：本文对胶囊网络进行了非技术性的简要概括，分析了其两个重要属性，之后针对MNIST手写体数据集上验证多层感知机、卷积神经网络以及胶囊网络的性能。神经网络于上世纪50年代提出，直到最近十年里才得以发展迅速，正改变着我们世界的方方面面。从图像分类到自然语言处理，研究人员正在对不同领域建立深层神经网络模型并取得相关的突破性成果。但是随着深度学习的进一步发展，又面临着新的瓶颈——只对成熟网络模型进行...
胶囊网络简介——胶囊网络是如何克服卷积神经网络的一些缺点的？
OReillyData
03-12 3436
‍编者注： 更多人工智能业务方面重要的发展请关注2018年4月10-13日人工智能北京大会。胶囊网络（CapsNet）是一种新的热门的神经网络架构。它可能对深度学习带来深远的影响，特别是对计算机视觉领域。等一下！计算机视觉不是差不多已经被解决了吗？我们不是已经看到了多种卷积神经网络（CNN）的神奇案例？它们不是已经在计算机视觉任务（例如分类、定位、物体检测、语义分割或实例分割，见图1）上实现超越人
初读Geoffrey Hinton颠覆之作《Dynamic Routing Between Capsules》
maltliquor的博客
11-02 4916
最近在搜资料时忽然看到一条消息，Hinton老爷子在NIPS 2017大会上放了大招，宣布要革CNN和反向传播的命。武林盟主在武林大会上要推翻自己之前的武学门派，另起炉灶，如此精彩的大戏怎能不吃瓜围观，于是一边努力完成导师的任务，一边找了点时间学习老爷子的论文。论文比较精简，言简意赅，干货满满。可能是因为第一篇相关的完善论文，并没有过多复杂的数学细节，还是比较容易读懂，下面开始展开自己对这篇论文的一
胶囊网络介绍
07-28
2011年，Geoffrey Hinton大神首次提出了CapsNets。而在几个月前，即2017年11月，它在MNIST手写数字识别上达到最先进的水平。 尽管如此美好，不过，它还远未达到完美之境。 首先，现在它在CIFAR10或ImageNet等数据集上表现不如CNN好。 其次，它们是计算密集型的，当两个相同的物体贴合得很近时，它无法区分出来。 它的核心思想非常有前途，只是还需要时间打磨。
Python-CapsuleNetworks胶囊网络的Tensorflow实现
08-11
Capsule Networks胶囊网络的Tensorflow实现
Capsules胶囊神经网络代码测试（1）——测试mnist数据
吃了亏还皮
08-14 3793
原地址：https://github.com/Sarasra/models/tree/master/research/capsules 运行必须要有GPU 下载两个数据包，第一个是 MNIST tfrecords，第二个是已经训练好的模型文件。 Download and extract MNIST tfrecords to $DATA_DIR/ from:https://storage.go...
python实现胶囊网络_胶囊网络Cod的分类模块
weixin_35753431的博客
02-10 355
参考Capsule Network Code，我使用的只是上述代码中的分类模块，因此下面是我从链接中提取的完整分类代码。在from __future__ import division, print_function, unicode_literalsimport matplotlibimport matplotlib.pyplot as pltimport numpy as npimport t...
python实现胶囊网络_胶囊网络 -- Capsule Networks
weixin_30884455的博客
02-10 742
胶囊网络是 vector in vector out的结构，最后对每个不同的类别，输出不一个向量，向量的模长表示属于该类别的概率。例如，在数字识别中，两个数字虽然重叠在一起，Capsule中的两个向量能完整表达两个数字的特征，虽然有些特征重叠在一起导致难以分辨。因为胶囊网络中：用向量模的大小衡量某个实体出现的概率，模值越大，概率越大。更加形象的解释：https://blog.csdn.net/go...
python调用数据集mnist_使用MNIST数据集进行分类
weixin_36471865的博客
02-04 1645
本文是对书《机器学习实战：基于Scikit-Learn和Tensorflow》第三章的知识学习以及代码复现，欢迎大家一起学习一起进步。获取数据集提前将MNIST数据集下载好，并放在’\scikit_learn_data’目录之下from sklearn.datasets import fetch_mldatamnist = fetch_mldata('MNIST original', data_h...
动手实现胶囊网络
Qiang_brother的博客
11-09 2316
动手实现胶囊网络 2017年，Hinton团队提出胶囊网络，首次将标量型网络扩展到矢量，并运用动态路由方式来进行胶囊之间的传递计算。提出的矢量神经元被认为具有保留物体姿态的能力，为神经网络带来了等变性(equivariance)。本着learning by doing的态度，笔者尝试对这一篇论文进行复现。本文不会对其原论文原理和思想有太多解释。在保证工程性和完整性的同时，尽可能记录自己在实现过程中的总结和反思。Anyway，实现过程也许会有一些bug，欢迎交流和提交issue~ Author: Qiang
万字胶囊网络超详细总结（原理加pytorch代码）
热门推荐
一只在cv道路上爬行的小乌龟~
05-24 1万+
1.胶囊网络概念与理解 1.1 胶囊网络概述 摘抄Hinton等人的《Transforming Autoencoders》关于胶囊概念理解如下： 人工神经网络不应当追求“神经元”活动中的视角不变性（使用单一的标量输出来总结一个局部池中的重复特征检测器的活动），而应当使用局部的“胶囊”，这些胶囊对其输入执行一些相当复杂的内部计算，然后将这些计算的结果封装成一个包含信息丰富的输出的小向量。每个胶囊学习辨识一个有限的观察条件和变形范围内隐式定义的视觉实体，并输出实体在有限范围内存在的概率及一组“实例参数”，实例
深度学习第58讲：超越CNN——CapsNet胶囊网络
weixin_37737254的博客
12-30 1408
卷积神经网络在深度学习和计算机视觉应用中都有着举足轻重的地位，可以说CNN是目前深度学习的主流方法了。在CNN这样普遍化的工业应用之后，也许你会思考，我们能否更...
评论 4
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值