tensorflow下的局部响应归一化函数tf.nn.lrn

最新推荐文章于 2024-07-21 21:30:08 发布

仙界天堂

最新推荐文章于 2024-07-21 21:30:08 发布

阅读量3.3w

点赞数 9

分类专栏： tensorflow cifar10 文章标签： tensorflow 局部响应归一化 tf-nn-lrn

本文链接：https://blog.csdn.net/sinat_21585785/article/details/75087768

版权

本文介绍了TensorFlow中的局部响应归一化（LRN）函数tf.nn.lrn，详细解释了函数的工作原理，并提供了相关的背景知识和公式解析。LRN是受生物学神经元抑制现象启发的，常用于深度卷积神经网络中。通过实验代码展示了LRN的计算过程，并对结果进行了解释。

摘要由CSDN通过智能技术生成

实验环境：windows 7，anaconda 3(Python 3.5)，tensorflow（gpu/cpu）
函数：tf.nn.lrn(input,depth_radius=None,bias=None,alpha=None,beta=None,name=None)

函数解释援引自tensorflow官方文档
https://www.tensorflow.org/api_docs/python/tf/nn/local_response_normalization
The 4-D input tensor is treated as a 3-D array of 1-D vectors (along the last dimension), and each vector is normalized independently. Within a given vector, each component is divided by the weighted, squared sum of inputs within depth_radius. In detail,
sqr_sum[a, b, c, d] =
sum(input[a, b, c, d - depth_radius : d + depth_radius + 1] ** 2)
output = input / (bias + alpha * sqr_sum) ** beta

背景知识：
tensorflow官方文档中的tf.nn.lrn函数给出了局部响应