机器学习专题之概率论——雅可比式

序言——为什么要学习数学?

最近研究了一个月的的机器学习，在看完了《Make Your Own Neural Network(英文版)》（中文版的名字叫《Python神经网络编程》）这本书之后，发现自己的数学知识储备完全跟不上以后的学习，所以在看完了英文原版书之后，决定恶补数学。于是买了一本《程序员的数学2概率统计》以及《统计思维（程序员数学之概率统计）》。在学习的过程中遇到一些较有难度的问题将会记录在这个系列的博客中。

在这个看到雅可比式的时候我是存在疑惑的，在搜索了很多的问答之后，在此总结一下我在《程序员的数学2概率统计》中第四章章节的4.14题的解题思路。

---

a(z,w)             a(z)/a(x)    a(z)/a(y)

——— = det(                                   )=|a(z)/a(x) *a(w)/a(y)- a(z)/a(y)*a(w)/a(x)|

a(x,y)             a(w)/a(x)    a(w)/a(y)

---

我们先将z=xe^y，w=y作为引子。

作为a(z)/a(x)求它的偏导，我们可以设相成:分母为因变子，其余的分母的参数为常数。

Z(x)=xe^y------->Z'(x) = e^y
Z(y)=xe^y------->Z'(y) = xe^y
W(x)=y---------->W'(x) = 0
W(y)=y---------->W'(y) = 1

所以 | a(z,w)  / a(x,y) |  = |e^y|

 

---

接下来我们看一下练习题4.14
设X,Y的联合分布的概率密度函数为f x,y(x,y)，Z,W的联合分布的概率密度函数为f z,w(z,w)（其中Z=2Xe^(X-Y)，W=(X-Y)）。试通过f x,y表示f z,w(6,0)的值

首先我们按照上面的规律进行运算

Z(x)=2xe^(x-y)------->Z'(x)=2e^(x-y)+2xe^(x-y)
Z(y)=2xe^(x-y)-------->Z'(y)=-2xe^(x-y)
W(x)=x-y---------->W'(x) = 1
W(y)=x-y---------->W'(y) = -1

 

1. | a(z,w)  / a(x,y) |  = | -2e^(x-y) |
2. 求出与(Z,W)=(6,0)对应的X，Y（具有唯一性）
   (x,y)=(3,3)
3. f z,w (6,0) = (1 - | -2e^(x-y) |) * f x,y (3,3)  = (1/2) * f x,y (3,3)