深度学习——相关公式及优化

欢迎关注，敬请点赞！

深度学习

往往需要与大数据结合在一起。

人脸识别：(单摄像头的人脸识别是基于LBPH，容易突破)

• 结构光(苹果专利，保留了距离信息)
• TOF深度感应

大部分传统机器学习的算法都可以用深度学习来拟合。

softmax公式：
$$softmax=\frac{e^{{\theta }_{j}x}}{\sum _j{e}^{{\theta }_{j}x}}$$
贝叶斯公式
$$P(A|B)=\frac{P(AB)}{P(B)}=\frac{P(B|A)P(A)}{P(B)}=\frac{P(B|A)P(A)}{{\sum }_{i}P(B|A_i)P(A_i)}$$

超几何分布概率公式
$$p={(}_k^D){(}_{n-k}^{N-D})/{(}_n^N)$$
信息熵公式(均匀分布时，信息熵最大；模棱两可时，最难揣测)
$$H(P)=-\sum _i{P}_{i}log(P_i)$$
相对熵(KL散度)公式
$$KL(p(x)||q(x))=\sum _i{p}_i(x)\frac{p_i(x)}{q_i(x)}$$
交叉熵公式
$$cross=-\sum _i$$