依概率收敛

作者: Megahorn | 来源:发表于2019-04-28 14:22 被阅读0次

依概率收敛
随机收敛
【概率统计二】大数定律与中心极限定理
To 统计14男神
大数定理和中心极限定理
大数定律
几乎必然收敛的含义
依分布收敛的定义细节
生成方法和判别方法
sepa策略的关键点

转自：https://www.zhihu.com/question/45683589/answer/411088523

我们在高等数学中学过收敛的概念，比如数列 $\left \{a_{n}\right\}$ 收敛于 $a$ ，有 $\lim_{n \to \infty}a_{n}=a$ 。
它的含义是当n越来越大时， $a_{n}$ 与 $a$ 可以无限接近。无限接近的意思只要n越来越大，那么 $a_{n}$ 与 $a$ 的距离可以任意小，这里不再写出对应的 $\varepsilon -\sigma$ 定义。

再来看什么是随机变量序列 $\left \{X_{n}\right \}$ ，首先这个 $\left \{X_{n}\right \}$ 是怎么产生的？
以抛硬币为例：设 $X_{n}$ 为n次试验中正面出现的频率，
当n变化时就形成一个随机变量序列 $\left \{X_{n}\right \}$
$X_{1}$ 表示一次试验中正面出现的频率，则有
$X_{1}=\left\{\begin{matrix} 1,front side\\ 0,back side \end{matrix}\right.$
$X_{2}$ 的取值为0,1/2,1三个值，
…
$X_{n}$ 的取值有n+1个，即：
$0,1/n,2/n,3/n,…,1$

也就是说不管n多大，取1或0的概率是存在的，所以 $X_{n}$ 与 $0,1/n,2/n,3/n,…,1$ 中的任意一个数都不会随着n的增大而变的任意小，比如下式是错误的：
$\lim_{n \to \infty}X_{n}=\frac{1}{2}$

为什么呢?
上式根据收敛的定义是随着n的增大， $X_{n}$ 与 $\frac{1}{2}$ 可以任意接近，可能吗？

当然不可能，因为不管n多大， $X_{n}$ 都有可能取1或者0，
所以 $X_{n}$ 怎能与 $\frac{1}{2}$ 无限接近呢？
所以 $X_{n}$ 这个n次试验正面频率稳定于1/2附近是不能用上式表达的。

但考察如下概率:
$\lim_{n \to \infty}P(X_{n}=1) = \lim_{n \to \infty}\frac{1}{2^{n}} = 0$
$\lim_{n \to \infty}P(X_{n}=0) = \lim_{n \to \infty}\frac{1}{2^{n}} = 0$
所以随着n的增大， $X_{n}$ 取两侧值的概率越来越小,取值集中的概率越来越大，故可以如下结论：
对 $\forall\varepsilon>0$ ，有
$\lim_{n \to \infty}P(|X_{n}-\frac{1}{2}|>\varepsilon)=0$
即虽然当n很大时，X_{n}可能会零星的出现等于1的情况，但是概率非常小，是趋于0的，故称为依概率收敛。