Binary Hypotheses

1. 概述

假设二进制数据源产生二进制信号，记为H_{0}, H_{1}。例如：数字通信中，发送1，记为H_{1}；发送0，记为H_{0}。

信号通过信道后在接收端进行观测，假设有N个观测值，把这N个观测值看作是N维空间中的一个点，记为r 。

 

 

假设如下，信源产生H_{0}, H_{1}的概率为P_{0}, P_{1}；接收端r 的条件概率密度函数为p_{r |H_{1}}(R |H_{1}), p_{r |H_{0}}(R |H_{0})。

 

2. 判决准则

对于binary hypotheses问题，每次实验结果必然是以下四种之一：

1) 信源发送H_{0}；判决结果是H_{0}

2) 信源发送H_{0}；判决结果是H_{1}

3) 信源发送H_{1}；判决结果是H_{1}

4) 信源发送H_{1}；判决结果是H_{0}

1)和3)对应于判决正确的情况；2)和4)对应于判决错误的情况。

 

判决准则的目的是根据观测值，来判断信源的输出。

 

3. Bayes准则

Bayes准则基于两个假设：P_{0}, P_{1}已知，称为先验概率；4种判决情况的代价已知，记为C_{00}, C_{10}, C_{11}, C_{01}，第一个下标表示判决结果，第二个下标表示信源的输出。

 

根据这两个假设，风险函数为R = C_{00}P_{0}P_{r }(判为H_{0}|发送H_{0})

                                          + C_{10}P_{0}P_{r }(判为H_{1}|发送H_{0})

                                          + C_{11}P_{1}P_{r }(判为H_{1}|发送H_{1})

                                          + C_{01}P_{1}P_{r }(判为H_{0}|发送H_{1})

 

把观测空间Z划分为Z_{0}和Z_{1}，当观测值落到Z_{0}，判绝结果是H_{0}；当观测值落到Z_{1}，判绝结果是H_{1}。

   Z = Z_{0} + Z_{1}

 

则R = C_{00}P_{0}/int_{Z_{0}}p_{r |H_{0}}(R |H_{0})dR

      + C_{10}P_{0}/int_{Z_{1}}p_{r |H_{0}}(R |H_{0})dR

      + C_{11}P_{1}/int_{Z_{1}}p_{r |H_{1}}(R |H_{1})dR

      + C_{01}P_{1}/int_{Z_{0}}p_{r |H_{1}}(R |H_{1})dR

 

      = P_{0}C_{00}/int_{Z_{0}}p_{r |H_{0}}(R |H_{0})dR

      + P_{0}C_{10}/int_{Z- Z_{0}}p_{r |H_{0}}(R |H_{0})dR

      + P_{1}C_{11}/int_{Z_{1}}p_{r |H_{1}}(R |H_{1})dR

      + P_{1}C_{01}/int_{Z- Z_{1}}p_{r |H_{1}}(R |H_{1})dR

 

由于/int_{Z}p_{r |H_{0}}(R |H_{0})dR = /int_{Z}p_{r |H_{1}}(R |H_{1})dR = 1,

   R = P_{0}C_{10} + P_{1}C_{01}

      + /int_{Z_{0}}((P_{1}(C_{01}-C_{11})p_{r |H_{1}}(R |H_{1}))

      - (P_{0}(C_{10}-C_{00})p_{r |H_{0}}(R |H_{0})))dR                                      --- (1)

 

为使R 最小，考虑(1)式的积分项。当被积函数大于0，判为H_{1)，即r 落到Z_{1}，积分项对R 贡献为0；当被积函数小于0，判为H_{0}，即r 落到Z_{0}，积分项对R 的贡献为负。

 

通常情况下，错误判断的代价比正确判断的代价高，有

   C_{10} > C_{00}

   C_{01} > C_{11}

 

因此，定义似然比

   /Lambda(R ) = /frac{p_{r |H_{1}}(R |H_{1})}p_{r |H_{0}}(R |H_{0})

判决门限

   /eta = /frac{P_{0}(C_{10}-C_{00}}P_{1}(C_{01}-C_{11}

当/Lambda(R )大于/eta，判为H_{1}；当/Lambda(R )小于/eta，判为H_{0}。

 

另外，可以通过比较ln/Lambda(R )和ln/eta。

 

例子1

H_{1}=信源输出恒定电压值m，H_{0}=信源输出0。在接收端得到含噪信号，噪声是零均值高斯白噪声，方差为/sigma^2。

在这两个条件下的观测值分别为：

   H_{1}: r_{i} = m + n_{i}, i = 1, 2, ..., N,

   H_{0}: r_{i} =        n_{i}, i = 1, 2, ..., N,

 

   p_{n_{i}}(X) = /frac{1}/sqrt{2/pi}exp(-/frac{X^2}2/sigma^2)

 

那么，两个条件概率密度函数分别为：

   p_{r_{i}|H_{1}}(R_{i}|H_{1}) = p_{n_{i}}(R_{i}-m) = /frac{1}/sqrt{2/pi}exp(-/frac{(R_{i}-m)^2}2/sigma^2)

   p_{r_{i}|H_{0}}(R_{i}|H_{0}) = p_{n_{i}}(R_{i}) = /frac{1}/sqrt{2/pi}exp(-/frac{R_{i}^2}2/sigma^2)