Python机器学习——概念及其物理解释

将现实中出现的概念、意义或者内含赋予数学公式以及定理中的某一记号，以帮助记忆和理解，是数学家惯常的一个套路。此专题用来梳理和整理机器学习以及进行编程实践中出现的一个常用或者不太常用的概念或者说法。

score vs activation

对一个Multi-layer Multi-neuron的神经网络的每一层而言，每一层的输入为score，每一层的输出为activation（激活值）：

$$z^\ell = w^\ell\cdot a^{\ell-1}+b^{\ell}\\ a^\ell = \sigma(z^\ell)$$
这里的 $z$即对应$\mathrm{score}$的概念， $a$自然对应于$\mathrm{activation}$。合写在一起即是：
$$a^\ell=\sigma(w^\ell\cdot a^{\ell -1}+b^\ell)$$

再看score

test_losses = [test_model(i) for i in xrange(n_test_batches)]
test_score = np.mean(test_losses)

slot

$\mathrm{slot}$或者叫$\mathrm{entry}$：卡槽，代表一个位置，当然这个位置上可以放有限的一些值。可能出现的场景是：比如两个同长度的向量，当表达在相同位置的对应元素时。
我们说一个$d$维的特征向量，就说它有$d$个槽（$\mathrm{slot}$）