TensorFlow用到的数学知识传送门

# 数学知识

2017年3月14日21:29:01

---

SoftmaxSoftmax的相关介绍。详细的WIKI公式和讲解

---

交叉熵：是训练模型的一种指标，表示模型的好坏的指标称为（cost）或损失（loss),然后尽量最小化这个指标。交叉熵相关介绍

---

反向传播算法（backpropagation algorithm) 有效的确定 变量是如何影响你想要最小化的那个成本值。反向传播算法相关介绍

---

2017年3月15日19:44:54

---

向量空间模型（VSMs）：主要作用是用来将相近语义词汇映射为相应的数据点，这一模型方法都会依赖于分布式假设，其核心思想为出现的上下文情景中的词汇都有相似的语义。潜在语义分析和预测神经概率化语言模型。潜在语义分析和预测方法的区别：论文中详细介绍了他们的区别点。

---

极大似然法（Maximum likelihood estimation）

---

蒙特卡洛平均值 （Monte Carlo integration）：用来获取近似期望

---

2017年3月19日11:17:48

---

负抽样当真实地目标单词被分配到较高的概率，同时噪声单词的概率很低时，目标函数也就达到最大值了。相比Softmax的速度更快，无需加载整个库。只需挑出K个噪音。

训练结果对照表

传送门

---

2017年9月19日12:52:50
矩阵运算

长期更新ing。