本文共 5028 字，大约阅读时间需要 16 分钟。
全文均为手敲，如果发现有误，请于评论区交流讨论留言，作者会及时修改
依概率收敛
若对任意的 ε > 0 \varepsilon>0 ε>0，有 lim n → ∞ P { ∣ Y n − Y ∣ < ε } = 1 \lim\limits_{n\to\infty}P\{|Y_n-Y|<\varepsilon\}=1 n→∞limP{ ∣Yn−Y∣<ε}=1，则称随机变量序列 { Y n } \{Y_n\} { Yn}依概率收敛于 Y Y Y，记为
Y n ⟶ P Y Y_n\overset{P}{\longrightarrow}Y Yn⟶PY
依概率收敛的性质，若 X n ⟶ P a , Y n ⟶ P b X_n\overset{P}{\longrightarrow}a,Y_n\overset{P}{\longrightarrow}b Xn⟶Pa,Yn⟶Pb，则
{ X n } \{X_n\} { Xn}和 { Y n } \{Y_n\} { Yn}的加减乘除依概率收敛到 a a a与 b b b的加减乘除
按分布收敛、弱收敛
若在 F ( x ) F(x) F(x)的连续点上都有 lim n → ∞ F n ( x ) = F ( x ) \lim\limits_{n\to\infty}F_n(x)=F(x) n→∞limFn(x)=F(x)，则称 { F n ( x ) } \{F_n(x)\} { Fn(x)}弱收敛于 F ( x ) F(x) F(x)，记为
F n ( x ) ⟶ W F ( x ) F_n(x)\overset{W}{\longrightarrow}F(x) Fn(x)⟶WF(x)
相应地，称 { X n } \{X_n\} { Xn}按分布收敛于 X X X，记为
X n ⟶ L X X_n\overset{L}{\longrightarrow}X Xn⟶LX
依概率收敛和按分布收敛的关系
X n ⟶ P X ⇒ X n ⟶ L X X n ⟶ P a ⇔ X n ⟶ L a X_n\overset{P}{\longrightarrow}X\Rightarrow X_n\overset{L}{\longrightarrow}X\\ X_n\overset{P}{\longrightarrow}a\Leftrightarrow X_n\overset{L}{\longrightarrow}a Xn⟶PX⇒Xn⟶LXXn⟶Pa⇔Xn⟶La
特征函数
设 X X X是一随机变量，称 φ ( t ) = E ( e i t X ) \varphi(t)=E(e^{itX}) φ(t)=E(eitX)为 X X X的特征函数，特征函数必定存在。
当 X X X离散时
φ ( t ) = ∑ k = 1 ∞ e i t x k p k \varphi(t)=\sum_{k=1}^\infty e^{itx_k}p_k φ(t)=k=1∑∞eitxkpk
当 X X X连续时
φ ( t ) = ∫ − ∞ + ∞ e i t x p ( x ) d x \varphi(t)=\int_{-\infty}^{+\infty}e^{itx}p(x)dx φ(t)=∫−∞+∞eitxp(x)dx
连续的情况可以看作是 p ( x ) p(x) p(x)的傅里叶变换
常用分布的特征函数：略
特征函数的性质
( 1 ) ∣ φ ( t ) ∣ ≤ φ ( 0 ) = 1 ( 2 ) φ ( − t ) = φ ( t ) ‾ ( 3 ) φ a X + b ( t ) = e i b t φ X ( a t ) ( 4 ) 若 X 与 Y 独立 , 则 φ X + Y ( t ) = φ X ( t ) φ Y ( t ) ( 5 ) φ ( k ) ( 0 ) = i k E ( X k ) \begin{aligned} &(1)|\varphi(t)|\le\varphi(0)=1\\ &(2)\varphi(-t)=\overline{\varphi(t)}\\ &(3)\varphi_{aX+b}(t)=e^{ibt}\varphi_X(at)\\ &(4)若X与Y独立,则\varphi_{X+Y}(t)=\varphi_X(t)\varphi_Y(t)\\ &(5)\varphi^{(k)}(0)=i^kE(X^k) \end{aligned} (1)∣φ(t)∣≤φ(0)=1(2)φ(−t)=φ(t)(3)φaX+b(t)=eibtφX(at)(4)若X与Y独立,则φX+Y(t)=φX(t)φY(t)(5)φ(k)(0)=ikE(Xk)
特征函数具有一致连续性和非负定性（对应我们学的是指半正定性）
逆转公式
设 F ( x ) F(x) F(x)和 φ ( x ) \varphi(x) φ(x)分别为随机变量 X X X的分布函数和特征函数，则对 F ( x ) F(x) F(x)的任意两个连续点 x 1 < x 2 x_1<x_2 x1<x2，有
F ( x 2 ) − F ( x 1 ) = lim T → ∞ 1 2 π ∫ − T T e − i t x 1 − e − i t x 2 i t φ ( t ) d t F(x_2)-F(x_1)=\lim_{T\to\infty}\frac 1{2\pi}\int_{-T}^T\frac{e^{-itx_1}-e^{-itx_2}}{it}\varphi(t)dt F(x2)−F(x1)=T→∞lim2π1∫−TTite−itx1−e−itx2φ(t)dt
唯一性定理
对 F ( x ) F(x) F(x)的每一个连续点 x x x，当 y y y沿着 F ( x ) F(x) F(x)的连续点趋于 − ∞ -\infty −∞时，由逆转公式得
F ( x ) = lim y → − ∞ lim T → ∞ 1 2 π ∫ − T T e − i t y − e − i t x i t φ ( t ) d t F(x)=\lim_{y\to-\infty}\lim_{T\to\infty}\frac 1{2\pi}\int_{-T}^T\frac{e^{-ity}-e^{-itx}}{it}\varphi(t)dt F(x)=y→−∞limT→∞lim2π1∫−TTite−ity−e−itxφ(t)dt
因此特征函数唯一确定分布函数
当 X X X为连续随机变量且密度函数为 p ( x ) p(x) p(x)时，有
p ( x ) = 1 2 π ∫ − ∞ + ∞ e − i t x φ ( t ) d t p(x)=\frac 1{2\pi}\int_{-\infty}^{+\infty}e^{-itx}\varphi(t)dt p(x)=2π1∫−∞+∞e−itxφ(t)dt
特征函数判断弱收敛
X n ⟶ L X ⇔ φ X n ( t ) → φ X ( t ) X_n\overset{L}{\longrightarrow}X\quad\Leftrightarrow\quad\varphi_{X_n}(t)\to\varphi_X(t) Xn⟶LX⇔φXn(t)→φX(t)
分布函数序列的弱收敛性与相应特征函数序列的逐点收敛性是等价的
特征函数与矩的关系：略
马尔可夫不等式
若随机变量 X X X的 k k k阶绝对矩存在，则对任意 ε > 0 \varepsilon>0 ε>0，有
P { ∣ X ∣ ≥ ε } ≤ E ∣ X ∣ k ε k P\{|X|\ge\varepsilon\}\le\frac{E|X|^k}{\varepsilon^k} P{ ∣X∣≥ε}≤εkE∣X∣k
切比雪夫不等式
若随机变量 X X X的 2 2 2阶矩存在，则对任意 ε > 0 \varepsilon>0 ε>0，有
P { ∣ X − E X ∣ ≥ ε } ≤ D X ε 2 P\{|X-EX|\ge\varepsilon\}\le\frac{DX}{\varepsilon^2} P{ ∣X−EX∣≥ε}≤ε2DX
伯努利大数定律
设 μ n \mu_n μn是 n n n重伯努利试验中事件 A A A出现的次数，每次试验中 P ( A ) = p P(A)=p P(A)=p，则对任意 ε > 0 \varepsilon>0 ε>0有
lim n → ∞ P { ∣ μ n n − p ∣ < ε } = 1 \lim_{n\to\infty}P\{|\frac{\mu_n}n-p|<\varepsilon\}=1 n→∞limP{ ∣nμn−p∣<ε}=1
大数定律的一般形式
若随机变量序列 { X n } \{X_n\} { Xn}满足
lim n → ∞ P { ∣ 1 n ∑ i = 1 n X i − 1 n ∑ i = 1 n E X i ∣ < ε } = 1 \lim_{n\to\infty}P\{|\frac 1n\sum_{i=1}^nX_i-\frac 1n\sum_{i=1}^nEX_i|<\varepsilon\}=1 n→∞limP{ ∣n1i=1∑nXi−n1i=1∑nEXi∣<ε}=1
则称 { X n } \{X_n\} { Xn}服从大数定律
切比雪夫大数定律
若随机变量序列 { X n } \{X_n\} { Xn}两两不相关，且 X n X_n Xn方差存在，有共同的上界，则 { X n } \{X_n\} { Xn}服从大数定律
马尔可夫大数定律
若随机变量序列 { X n } \{X_n\} { Xn}满足
lim n → ∞ 1 n 2 V a r ( ∑ i = 1 n X i ) = 0 \lim_{n\to\infty}\frac 1{n^2}Var(\sum_{i=1}^nX_i)=0 n→∞limn21Var(i=1∑nXi)=0
则 { X n } \{X_n\} { Xn}服从大数定律
辛钦大数定律
若随机变量序列 { X n } \{X_n\} { Xn}独立同分布，且 X n X_n Xn的数学期望存在，则 { X n } \{X_n\} { Xn}服从大数定律
林德贝格——勒维中心极限定理
若随机变量序列 { X n } \{X_n\} { Xn}独立同分布，数学期望为 μ \mu μ，方差为 σ 2 > 0 \sigma^2>0 σ2>0，有
lim n → ∞ P { ∑ i = 1 n X i − n μ σ n ≤ y } = Φ ( y ) \lim_{n\to\infty}P\{\frac{\sum\limits_{i=1}^nX_i-n\mu}{\sigma\sqrt n}\le y\}=\Phi(y) n→∞limP{ σni=1∑nXi−nμ≤y}=Φ(y)
棣莫弗——拉普拉斯中心极限定理
设 μ n \mu_n μn为服从二项分布 B ( n , p ) B(n,p) B(n,p)的随机变量，则
lim n → ∞ P { μ n − n p n p ( 1 − p ) ≤ y } = Φ ( y ) \lim_{n\to\infty}P\{\frac{\mu_n-np}{\sqrt{np(1-p)}}\le y\}=\Phi(y) n→∞limP{ np(1−p)μn−np≤y}=Φ(y)
独立不同分布下的中心极限定理：略
泊松极限定理的特例
在 n n n重伯努利试验中，记 p n p_n pn为一次实验中成功的概率，若 n p n → λ np_n\to\lambda npn→λ， S n S_n Sn为成功次数，则
S n ⟶ L P ( λ ) S_n\overset{L}{\longrightarrow}P(\lambda) Sn⟶LP(λ)
这也解释了可以用泊松分布近似表示二项分布的原因
转载地址：http://ubpowy.baihongyu.com/