UA MATH567 高维统计I 概率不等式8 亚指数范数

UA MATH567 高维统计I 概率不等式8 亚指数范数

类似亚高斯范数,我们也可以定义随机变量的亚指数范数(sub-exponential norm):
∥ X ∥ ψ 1 = inf ⁡ { t > 0 : E e ∣ X ∣ / t ≤ 2 } \left\|X \right\|_{\psi_1} = \inf\{t>0:Ee^{|X|/t} \le 2\} Xψ1=inf{t>0:EeX/t2}

关于这个定义符合范数的条件的证明读者可以自行完成,可以参考亚高斯范数的证明以及更一般的,Orlicz范数的证明。

亚指数范数与亚高斯范数的关系

  1. X X X是亚高斯随机变量等价于 X 2 X^2 X2是亚指数随机变量,并且 ∥ X 2 ∥ ψ 1 = ∥ X ∥ ψ 2 2 \left\|X^2 \right\|_{\psi_1}=\left\|X \right\|_{\psi_2}^2 X2ψ1=Xψ22
  2. X , Y X,Y X,Y是亚高斯随机变量,则 X Y XY XY是亚指数随机变量,并且 ∥ X Y ∥ ψ 1 ≤ ∥ X ∥ ψ 2 ∥ Y ∥ ψ 2 \left\|XY \right\|_{\psi_1} \le \left\|X \right\|_{\psi_2}\left\|Y \right\|_{\psi_2} XYψ1Xψ2Yψ2

证明
第一个结论。我们直接写出定义,
∥ X 2 ∥ ψ 1 = inf ⁡ { t : E e X 2 / t ≤ 2 } ∥ X ∥ ψ 2 2 = [ inf ⁡ { t : E e X 2 / t 2 ≤ 2 } ] 2 = inf ⁡ { t 2 : E e X 2 / t 2 ≤ 2 } \left\|X^2 \right\|_{\psi_1}=\inf\{t:Ee^{X^2/t} \le 2\} \\ \left\|X \right\|_{\psi_2}^2 = \left[ \inf\{t:Ee^{X^2/t^2} \le 2\} \right]^2=\inf\{t^2:Ee^{X^2/t^2} \le 2\} X2ψ1=inf{t:EeX2/t2}Xψ22=[inf{t:EeX2/t22}]2=inf{t2:EeX2/t22}

所以
∥ X 2 ∥ ψ 1 = ∥ X ∥ ψ 2 2 \left\|X^2 \right\|_{\psi_1}=\left\|X \right\|_{\psi_2}^2 X2ψ1=Xψ22

第二个结论。不妨假设 ∥ X ∥ ψ 2 = ∥ Y ∥ ψ 2 = 1 \left\|X \right\|_{\psi_2}=\left\|Y \right\|_{\psi_2}=1 Xψ2=Yψ2=1,因为 X , Y X,Y X,Y是亚高斯分布,根据亚高斯性4, K 4 = 1 K_4=1 K4=1,则
E e X 2 ≤ 2 ,   E e Y 2 ≤ 2 Ee^{X^2} \le 2, \ Ee^{Y^2} \le 2 EeX22, EeY22

连用两次Young不等式,
E e ∣ X Y ∣ ≤ E e X 2 2 + Y 2 2 = E e X 2 2 e Y 2 2 ≤ 1 2 E [ e X 2 + e Y 2 ] ≤ 2 Ee^{|XY|} \le Ee^{\frac{X^2}{2}+\frac{Y^2}{2}}=Ee^{\frac{X^2}{2}}e^{\frac{Y^2}{2}} \le \frac{1}{2}E[e^{X^2}+e^{Y^2}] \le 2 EeXYEe2X2+2Y2=Ee2X2e2Y221E[eX2+eY2]2

所以 X Y XY XY服从亚指数分布。

例 指数分布是亚指数分布
假设 X ∼ E X P ( λ ) X \sim EXP(\lambda) XEXP(λ),则
P ( X ≥ t ) = e − λ t , ∀ t ≥ 0 P(X \ge t)=e^{-\lambda t},\forall t \ge 0 P(Xt)=eλt,t0

显然这个服从亚指数分布尾部概率的性质。我们计算
E e ∣ X ∣ / t = ∫ 0 ∞ e x t λ e − λ x d x = ∫ 0 ∞ λ e ( 1 t − λ ) x d x = − λ 1 t − λ Ee^{|X|/t}=\int_0^{\infty}e^{\frac{x}{t}}\lambda e^{-\lambda x}dx=\int_0^{\infty}\lambda e^{(\frac{1}{t}-\lambda)x}dx =- \frac{\lambda}{ \frac{1}{t}-\lambda} EeX/t=0etxλeλxdx=0λe(t1λ)xdx=t1λλ

λ > 1 / t \lambda>1/t λ>1/t时收敛。考虑
− λ 1 t − λ ≤ 2 ⇒ t ≥ 2 λ -\frac{\lambda}{ \frac{1}{t}-\lambda} \le 2 \Rightarrow t \ge \frac{2}{\lambda} t1λλ2tλ2

于是
∥ X ∥ ψ 1 = 2 λ \left\|X \right\|_{\psi_1} = \frac{2}{\lambda} Xψ1=λ2

已标记关键词 清除标记
相关推荐
©️2020 CSDN 皮肤主题: 撸撸猫 设计师:C马雯娟 返回首页