LDA topic model 公式推导:
p ( w , z ∣ α , β ) = p ( w ∣ z , α , β ) ∗ p ( z ∣ α , β ) p(w,z| \alpha,\beta)=p(w|z,\alpha,\beta)*p(z|\alpha,\beta) p(w,z∣α,β)=p(w∣z,α,β)∗p(z∣α,β)
β \beta β与z独立: p ( z ∣ α , β ) = p ( z ∣ α ) p(z|\alpha,\beta)=p(z|\alpha) p(z∣α,β)=p(z∣α)
w 与 α 独 立 w与\alpha 独立 w与α独立: p ( w ∣ z , α , β ) = p ( w ∣ z , β ) p(w|z,\alpha,\beta)=p(w|z,\beta) p(w∣z,α,β)=p(w∣z,β)
解释:gibbs采样过程遵从马尔可夫性质.
a->b->c,a与c是独立的,因此 α \alpha α与w独立