概率极限定理

随机变量序列的收敛性
定义. 下设\(\eta,\zeta_1,\zeta_2,\cdots\)是随机变量。注意它们都是定义在概率空间\((\Omega,F,P)\)上的实值函数。
(1) 如果\[P(\lim_{n\to\infty} \zeta_n = \eta)=1,\]称\(\{\zeta_n\}\)几乎必然地收敛于\(\eta\). 记作\(\zeta_n\overset{a.s.}{\to}\eta.\)
注意P是定义在\(F\subset 2^\Omega\)上的函数。这里的准确定义为\[P(\{\omega|\lim_{n\to\infty} \zeta_n(\omega) = \eta(\omega)\})=1.\]

(2) 如果对任意正数\(\epsilon\), 有\[\lim_{n\to\infty} P(|\zeta_n - \eta|\ge \epsilon)=0,\]称\(\{\zeta_n\}\)依概率收敛于\(\eta\). 记作\(\zeta_n\overset{P}{\to}\eta.\)

(3) 设\(\eta\)的分布函数\(F(x)\). 若对其任一连续点x，成立\[\lim_{n\to\infty} P(\zeta_n\le x) = P(\eta\le x),\]称\(\{\zeta_n\}\)依分布收敛（弱收敛）于\(\eta\). 记作\(\zeta_n\overset{\omega}{\to}\eta.\)

定理. 几乎必然收敛能推出依概率收敛，依概率收敛能推出依分布收敛。

定义. 下面设\(X_1,X_2,\cdots\)是依随机变量序列且\(E(X_i)\)均存在。令\(S_n = \sum_{i=1}^n X_i.\)
(1) 若\[\frac{S_n-E(S_n)}{n}\overset{P}{\to} 0,\]称\(X_1,X_2,\cdots\)服从（弱）大数律。
(2) 若\[\frac{S_n-E(S_n)}{n}\overset{a.s.}{\to} 0,\]称\(X_1,X_2,\cdots\)服从强大数律。
(3) 若还已知\(var(X_i)\)均存在，且\[\frac{S_n - E(S_n)}{\sqrt{var(S_n)}}\overset{\omega}{\to}0,\]称\(X_1,X_2,\cdots\)服从中心极限定理。

定理1. 切比雪夫大数律.
设\(X_1,X_2,\cdots\)是相互独立的随机变量，存在\(E(X_i),var(X_i)\)且\(var(X_i)\)一致有界。则\(X_1,X_2,\cdots\)服从（弱）大数律。

定理2. 柯尔莫哥洛夫强大数律.
设\(X_1,X_2,\cdots\)是相互独立的随机变量，存在\(E(X_i),var(X_i)\)且\[\sum_{n=1}^{+\infty}\frac{var(X_n)}{n^2}\]收敛，则\(X_1,X_2,\cdots\)服从强大数律。

定理3. 中心极限定理.
设\(X_1,X_2,\cdots\)独立同分布，且存在\(\mu = E(X_1),\sigma^2 = var(X_1) > 0\). 则对任意\(x\in R,\)\[\lim_{n\to\infty} P(\frac{S_n - n\mu}{\sqrt{n}\sigma}\le x) = \Phi(x).\]
这里\[\Phi(x) = \int_{-\infty}^{x}\frac{1}{\sqrt{2\pi}}e^{-\frac{u^2}{2}}du.\]
中心极限定理表明，当n很大时，\(S_n\)近似服从正态分布\(N(n\sigma,n\mu)\).

    所属分类：概率与统计     发表于2022-01-28