12. Tensorflow2.0 全连接层和输出方式

1. Outline

1.1. Matmul （矩阵形式）

• 𝑜𝑢𝑡 = 𝒇(𝑋@𝑊 + 𝑏)

• 𝑜𝑢𝑡 = 𝒓𝒆𝒍𝒖(𝑋@𝑊 + 𝑏)

• X@W+b
  

1.2. Neural Network （神经网络结构）

• lecun在86年89年在手写数字论文中用到的就是这个网络， 当时叫做神经网络。
• 3~5 layers
  

1.3. Deep Learning （深度学习）

• n 约等于 1200 layers
  
  

1.4. Multi-Layer （深层的全连接网络）

2. Fully connected layer（全连接层）

2.1. Multi-Layers

2.2. code

import tensorflow as tf
from tensorflow.keras import layers, Sequential

x = tf.random.normal([2, 3])

model = Sequential([
    layers.Dense(2, activation='relu'),
    layers.Dense(2, activation='relu'),
    layers.Dense(2)
])
model.build(input_shape=[None, 3])
model.summary()

for p in model.trainable_variables:
    print(p.name, p.shape)

• 结果
  

3. 输出方式

3.1. Outline

3.2. softmax

3.3. 𝑦𝑖 ∈ [−1, 1]

4. 需要全套课程视频+PPT+代码资源可以私聊我

• 方式1：CSDN私信我!
• 方式2：QQ邮箱:594042358@qq.com或者直接加我QQ: 594042358!