TensorFlow基础系列（softmax回归）

###开篇
补上之前缺失的TensorFlow基础，这两天要放五一假了，又可以把缺上的东西拿来补一补，错失了很多大厂的面试机会，也深感自己基础的不扎实。之前的逻辑回归，我们讲的是二分类问题，但是现实中，我们要做的往往是多分类。所以训练一个多分类的模型是十分必要的，今天我们就来说说神经网络中最常见的多分类模型，softmax。
###softmax
和逻辑回归的模型函数sigmoid一样，softmax也是神经网络中的一种激活函数，但它通常是放在最后一层的，也就是我们的输出层，它会输出每一个类别的概率，而概率最大的那个类别就是我们需要的结果，不同于大部分的激活函数，softmax会同时作用在它那一层的所有神经元来产生输出。下面让我们看具体的图示和公式形式。

在TensorFlow中整个softmax函数可以写成这样

hypothesis = tf.nn.softmax(tf.matmul(X,W)+b)

依旧是我们的机器学习三要素，模型函数、损失函数、优化算法，softmax的模型函数和逻辑回归的模型函数差不多，都是可以由生成模型推导过来的，所以它们的输出结果以概率的形式呈现不足为奇。同时softmax的损失函数也是和逻辑回归的损失函数是类似的。当softmax只处理二分类问题的时候，它的数学表现形式是和逻辑回归一致的。