Borel-Cantelli 引理
翻译自大佬。
翻译自大佬
https://huarui1998.com/Notes/math/borel-cantelli.html
1. 集序列的 liminf\lim\infliminf 和 limsup\lim\suplimsup
类似于定义实数序列 {ak}\{a_k\}{ak} 的 liminf\lim\infliminf 和 limsup\lim\suplimsup,
lim infk→∞ak=supn≥1(infk≥nak),lim supk→∞ak=infn≥1(supk≥nak), \liminf\limits_{k\to\infty}a_k = \sup_{n\geq 1}(\inf_{k\geq n} a_k),\quad \limsup\limits_{k\to\infty}a_k = \inf_{n\geq 1}(\sup_{k\geq n} a_k), k→∞liminfak=n≥1sup(k≥ninfak),k→∞limsupak=n≥1inf(k≥nsupak),
我们也可以定义集序列 {Ak}\{A_k\}{Ak} 的 liminf\lim\infliminf 和 limsup\lim\suplimsup,
只需将 inf\infinf 替换为 ∩\cap∩,将 sup\supsup 替换为 ∪\cup∪,即
lim infk→∞Ak=⋃n≥1⋂k≥nAk,lim supk→∞Ak=⋂n≥1⋃k≥nAk. \liminf\limits_{k\to\infty}A_k = \bigcup_{n\geq 1}\bigcap_{k\geq n} A_k,\quad \limsup\limits_{k\to\infty}A_k = \bigcap_{n\geq 1}\bigcup_{k\geq n} A_k. k→∞liminfAk=n≥1⋃k≥n⋂Ak,k→∞limsupAk=n≥1⋂k≥n⋃Ak.
根据德摩根定律,我们有
(lim supk→∞Ak)c=(⋂n≥1⋃k≥nAk)c=⋃n≥1(⋃k≥nAk)c=⋃n≥1⋂k≥nAkc=lim infk→∞Akc.(1) \left(\limsup\limits_{k\to\infty}A_k\right)^c = \left(\bigcap_{n\geq 1}\bigcup_{k\geq n} A_k\right)^c = \bigcup_{n\geq 1}\left(\bigcup_{k\geq n} A_k\right)^c = \bigcup_{n\geq 1}\bigcap_{k\geq n} A_k^c =\liminf\limits_{k\to\infty}A_k^c.\tag{1} (k→∞limsupAk)c=(n≥1⋂k≥n⋃Ak)c=n≥1⋃(k≥n⋃Ak)c=n≥1⋃k≥n⋂Akc=k→∞liminfAkc.(1)
这两个符号有两个重要性质。
定理
- a∈liminfkAka\in \lim \inf \limits_k A_ka∈limkinfAk 当且仅当存在一个整数 NNN 使得 a∈Ana\in A_na∈An 对所有 n≥Nn\geq Nn≥N 成立。
- a∈limsupkAka\in\lim \sup \limits_kA_ka∈limksupAk 当且仅当 aaa 属于 {Ak}\{A_k\}{Ak} 的无穷多个项。
证明
首先,如果 a∈lim infkAka\in\liminf_kA_ka∈liminfkAk,这意味着 aaa 属于 {∩k≥nAk:n≥1}\{\cap_{k\geq n}A_k:n\geq 1\}{∩k≥nAk:n≥1} 中的至少一个,假设 a∈∩k≥NAka\in \cap_{k\geq N}A_ka∈∩k≥NAk,
那么 a∈Aka\in A_ka∈Ak 对所有 k≥Nk\geq Nk≥N 成立。
其次,如果 a∈lim supkAka\in\limsup_kA_ka∈limsupkAk,这意味着 aaa 属于 {∪k≥nAk:n≥1}\{\cup_{k\geq n}A_k:n\geq 1\}{∪k≥nAk:n≥1} 的所有。
假设 aaa 只属于 {Ak}\{A_k\}{Ak} 的有限项,例如 {Ak1,⋯ ,Akm}\{A_{k_1},\cdots,A_{k_m}\}{Ak1,⋯,Akm},那么令 M=max{k1,⋯ ,km}M = \max\{k_1,\cdots,k_m\}M=max{k1,⋯,km},我们有
a∉Aka\notin A_ka∈/Ak 对所有 k≥M+1k\geq M+1k≥M+1 成立,即 a∉∪k≥M+1Aka\notin \cup_{k\geq M+1}A_ka∈/∪k≥M+1Ak,这导致矛盾。
■ \tag*{$\blacksquare$} ■
由于上述定理,有时我们说事件 AkA_kAk (k=1,2,⋯k=1,2,\cdotsk=1,2,⋯) 无穷次发生,如果事件 lim supkAk\limsup_kA_klimsupkAk 发生,或简称为 AkA_kAk i.o.。
定理
如果每个 AkA_kAk 是一个事件(即 ∈F\in\cal F∈F),我们有
- P(lim infk→∞Ak)=limn→∞P(⋂k≥nAk)(2) \mathbb{P} (\liminf\limits_{k\to\infty}A_k)=\lim_{n\to\infty}\mathbb{P}(\bigcap_{k\geq n}A_k)\tag{2} P(k→∞liminfAk)=n→∞limP(k≥n⋂Ak)(2)
- P(lim supk→∞Ak)=limn→∞P(⋃k≥nAk)(3) \mathbb{P}(\limsup\limits_{k\to\infty}A_k)=\lim_{n\to\infty}\mathbb{P}(\bigcup_{k\geq n}A_k)\tag{3} P(k→∞limsupAk)=n→∞limP(k≥n⋃Ak)(3)
证明
记
Fn=⋂k≥nAk, F_n = \bigcap_{k\geq n}A_k, Fn=k≥n⋂Ak,
那么 {Fn}\{F_n\}{Fn} 是一个递增序列,即 F1⊆F2⊆F3⋯F_1\subseteq F_2 \subseteq F_3\cdotsF1⊆F2⊆F3⋯,根据概率测度的连续性,我们有
P(⋃nFn)=limn→∞P(Fn), \mathbb{P}(\bigcup_{n}F_n) = \lim_{n\to\infty}\mathbb{P}(F_n), P(n⋃Fn)=n→∞limP(Fn),
因此 (2) 成立。 (3) 也直接由 (1) 和 (2) 得出。
■ \tag*{$\blacksquare$} ■
2. 第一 Borel-Cantelli 引理
定理(Borel-Cantelli)
假设 {Ak}\{A_k\}{Ak} 是事件,如果
∑kP(Ak)<∞, \sum_k\mathbb{P}(A_k)\lt\infty, k∑P(Ak)<∞,
那么我们有 P(Ak i.o.)=0. \mathbb{P}(A_k\;\text{i.o.})=0. P(Aki.o.)=0.
证明
记 BnB_nBn 为 Bn=⋃k≥nAk, B_n = \bigcup_{k\geq n} A_k, Bn=k≥n⋃Ak,
根据 (3) 我们有
P(Ak i.o.)=P(lim supk→∞Ak)=limn→∞P(Bn). \mathbb{P}(A_k\;\text{i.o.}) = \mathbb{P}(\limsup\limits_{k\to\infty}A_k)=\lim_{n\to\infty}\mathbb{P}(B_n). P(Aki.o.)=P(k→∞limsupAk)=n→∞limP(Bn).
我们只需要证明 P(Bn)→0\mathbb{P}(B_n)\to 0P(Bn)→0。
由于概率测度的次可加性,我们有
P(Bn)=P(⋃k≥nAk)≤∑k=n∞P(Ak)=∑k=1∞P(Ak)−∑k=1n−1P(Ak)→0, \mathbb{P}(B_n) = \mathbb{P}(\bigcup_{k\geq n} A_k)\leq \sum_{k=n}^\infty \mathbb{P}(A_k)=\sum_{k=1}^\infty \mathbb{P}(A_k) -\sum_{k=1}^{n-1} \mathbb{P}(A_k)\to 0, P(Bn)=P(k≥n⋃Ak)≤k=n∑∞P(Ak)=k=1∑∞P(Ak)−k=1∑n−1P(Ak)→0,
当 n→∞n\to \inftyn→∞ 时,收敛性由
∑k=1∞P(Ak)<∞ \sum_{k=1}^\infty \mathbb{P}(A_k)\lt\infty k=1∑∞P(Ak)<∞ 保证。
■ \tag*{$\blacksquare$} ■
3. 第二 Borel-Cantelli 引理
定理(Borel-Cantelli)
假设 {Ak}\{A_k\}{Ak} 是独立事件,如果
∑kP(Ak)=∞, \sum_k\mathbb{P}(A_k)=\infty, k∑P(Ak)=∞,
那么我们有 P(Ak i.o.)=1. \mathbb{P}(A_k\;\text{i.o.})=1. P(Aki.o.)=1.
证明
根据(1),我们有:
P(Ak i.o.)=P(lim supk→∞Ak)=1−P(lim infk→∞Akc)=1−limn→∞P(⋂k≥nAkc)(根据 (2))=1−limn→∞∏k=n∞P(Akc)(由于独立性)=1−limn→∞∏k=n∞(1−P(Ak))≥1−limn→∞∏k=n∞exp(−P(Ak))(因为 1−x≤e−x)=1−limn→∞exp(−∑k=n∞P(Ak))=1(因为对于任何 n,∑k=n∞P(Ak)=∞) \begin{align*} \mathbb{P}(A_k\;\text{i.o.}) &= \mathbb{P}(\limsup_{k \to \infty} A_k) \\ &= 1 - \mathbb{P}(\liminf_{k \to \infty} A_k^c) \\ &= 1 - \lim_{n \to \infty} \mathbb{P}\left(\bigcap_{k \geq n} A_k^c\right) & \text{(根据 (2))} \\ &= 1 - \lim_{n \to \infty} \prod_{k = n}^\infty \mathbb{P}(A_k^c) & \text{(由于独立性)} \\ &= 1 - \lim_{n \to \infty} \prod_{k = n}^\infty (1 - \mathbb{P}(A_k)) \\ &\geq 1 - \lim_{n \to \infty} \prod_{k = n}^\infty \exp(-\mathbb{P}(A_k)) & \text{(因为 $1 - x \leq e^{-x}$)} \\ &= 1 - \lim_{n \to \infty} \exp\left(-\sum_{k = n}^\infty \mathbb{P}(A_k)\right) \\ &= 1 & \text{(因为对于任何 $n$,$\sum_{k = n}^\infty \mathbb{P}(A_k) = \infty$)} \end{align*} P(Aki.o.)=P(k→∞limsupAk)=1−P(k→∞liminfAkc)=1−n→∞limP(k≥n⋂Akc)=1−n→∞limk=n∏∞P(Akc)=1−n→∞limk=n∏∞(1−P(Ak))≥1−n→∞limk=n∏∞exp(−P(Ak))=1−n→∞limexp(−k=n∑∞P(Ak))=1(根据 (2))(由于独立性)(因为 1−x≤e−x)(因为对于任何 n,∑k=n∞P(Ak)=∞)
\tag*{■\blacksquare■}
我们可以通过将“独立”替换为一个更弱的条件“成对独立”来增强第二 Borel-Cantelli 引理。
定理(成对独立版本 Borel-Cantelli 引理)
假设 {Ak}\{A_k\}{Ak} 是成对独立事件,如果
∑kP(Ak)=∞, \sum_k\mathbb{P}(A_k)=\infty, k∑P(Ak)=∞,
那么我们有 P(Ak i.o.)=1. \mathbb{P}(A_k\;\text{i.o.})=1. P(Aki.o.)=1.
证明
设 Ik\mathbb{I}_{k}Ik 为 AkA_kAk 的指示函数,则 E(Ik)=P(Ak)\mathbb{E}(\mathbb{I}_k) = \mathbb{P}(A_k)E(Ik)=P(Ak)。设 SnS_nSn 为 Ik\mathbb{I}_kIk 的部分和,即
Sn=∑k=1nIk, S_n = \sum^n_{k=1} \mathbb{I}_k, Sn=k=1∑nIk,
记
S=limn→∞Sn=∑k=1∞Ik. S = \lim_{n\to \infty} S_n = \sum^\infty_{k=1} \mathbb{I}_k. S=n→∞limSn=k=1∑∞Ik.
那么 ∑kP(Ak)=∞\sum_k\mathbb{P}(A_k) = \infty∑kP(Ak)=∞ 意味着
E(S)=∞. \mathbb{E}(S) = \infty. E(S)=∞.
而 x∈Ak i.o.x \in A_k \;\text{i.o.}x∈Aki.o. 等价于
S(x)=∑k=1∞Ik(x)=∞, S(x) = \sum^\infty_{k=1}\mathbb{I}_k(x) = \infty, S(x)=k=1∑∞Ik(x)=∞,
因此我们的目标是证明 P(S=∞)=1\mathbb{P}(S=\infty)=1P(S=∞)=1。记 pk=P(Ak)p_k = \mathbb{P}(A_k)pk=P(Ak),则 SnS_nSn 的方差为
Var(Sn)=E(Sn2)−[E(Sn)]2=E(∑k=1nIk2+∑i≠jIiIj)−(∑k=1npk)2=∑k=1nE(Ik2)+∑i≠jE(Ii)E(Ij)−(∑k=1npk)2=∑k=1npk+∑i≠jpipj−(∑k=1npk)2=∑k=1npk+(∑k=1npk)2−∑k=1npk2−(∑k=1npk)2=∑k=1n(pk−pk2)≤E(Sn) \begin{aligned} Var(S_n) &= \mathbb{E}(S_n^2)-[\mathbb{E}(S_n)]^2 \\ &= \mathbb{E}\left(\sum_{k=1}^n \mathbb{I}_k^2 + \sum_{i\neq j} \mathbb{I}_i \mathbb{I}_j\right) - \left(\sum_{k=1}^n p_k\right)^2 \\ &= \sum_{k=1}^n \mathbb{E}(\mathbb{I}_k^2) + \sum_{i\neq j} \mathbb{E}(\mathbb{I}_i) \mathbb{E}(\mathbb{I}_j) - \left(\sum_{k=1}^n p_k\right)^2 \\ &= \sum_{k=1}^n p_k + \sum_{i\neq j} p_i p_j - \left(\sum_{k=1}^n p_k\right)^2 \\ &= \sum_{k=1}^n p_k + \left(\sum_{k=1}^n p_k\right)^2 - \sum_{k=1}^n p_k^2 - \left(\sum_{k=1}^n p_k\right)^2 \\ &= \sum_{k=1}^n (p_k - p_k^2) \\ &\leq \mathbb{E}(S_n) \end{aligned} Var(Sn)=E(Sn2)−[E(Sn)]2=E
k=1∑nIk2+i=j∑IiIj
−(k=1∑npk)2=k=1∑nE(Ik2)+i=j∑E(Ii)E(Ij)−(k=1∑npk)2=k=1∑npk+i=j∑pipj−(k=1∑npk)2=k=1∑npk+(k=1∑npk)2−k=1∑npk2−(k=1∑npk)2=k=1∑n(pk−pk2)≤E(Sn)
然后,
P(S<E(Sn)2)≤P(Sn<E(Sn)2)=P(Sn−E(Sn)<−E(Sn)2)≤P(∣Sn−E(Sn)∣≥E(Sn)2)≤4Var(Sn)[E(Sn)]2(由切比雪夫不等式)≤4E(Sn)(因为 Var(Sn)≤E(Sn))(4) \begin{aligned} \mathbb{P}\left(S < \frac{\mathbb{E}(S_n)}{2}\right) &\leq \mathbb{P}\left(S_n < \frac{\mathbb{E}(S_n)}{2}\right) \\ &= \mathbb{P}\left(S_n - \mathbb{E}(S_n) < -\frac{\mathbb{E}(S_n)}{2}\right) \\ &\leq \mathbb{P}\left(\left|S_n - \mathbb{E}(S_n)\right| \geq \frac{\mathbb{E}(S_n)}{2}\right) \\ &\leq \frac{4 Var(S_n)}{[\mathbb{E}(S_n)]^2} \quad (\text{由切比雪夫不等式}) \\ &\leq \frac{4}{\mathbb{E}(S_n)} \quad (\text{因为 $Var(S_n)\leq \mathbb{E}(S_n)$}) \end{aligned} \tag{4} P(S<2E(Sn))≤P(Sn<2E(Sn))=P(Sn−E(Sn)<−2E(Sn))≤P(∣Sn−E(Sn)∣≥2E(Sn))≤[E(Sn)]24Var(Sn)(由切比雪夫不等式)≤E(Sn)4(因为 Var(Sn)≤E(Sn))(4)
注意 {S<E(Sn)2}\{S < \frac{\mathbb{E}(S_n)}{2}\}{S<2E(Sn)} 上升到 {S<∞}\{S < \infty\}{S<∞},最后通过概率测度的连续性,
P(S<∞)=P(⋃n=1∞{S<E(Sn)2})=limn→∞P(S<E(Sn)2)≤limn→∞4E(Sn)=0, \mathbb{P}(S < \infty) = \mathbb{P}\left(\bigcup_{n=1}^\infty \{S < \frac{\mathbb{E}(S_n)}{2}\}\right) = \lim_{n \to \infty} \mathbb{P}\left(S < \frac{\mathbb{E}(S_n)}{2}\right) \leq \lim_{n \to \infty} \frac{4}{\mathbb{E}(S_n)} = 0, P(S<∞)=P(n=1⋃∞{S<2E(Sn)})=n→∞limP(S<2E(Sn))≤n→∞limE(Sn)4=0,
那么我们得出
P(S=∞)=1−P(S<∞)=1. \mathbb{P}(S = \infty) = 1 - \mathbb{P}(S < \infty) = 1. P(S=∞)=1−P(S<∞)=1.
■ \tag*{$\blacksquare$} ■
4. Erdös-Rényi 定理
上述定理中的成对独立条件可以进一步放宽,得到 Erdös-Rényi 定理。
定理(Erdös-Rényi)
假设 {Ak}\{A_k\}{Ak} 是事件,如果
∑kP(Ak)=∞, \sum_k \mathbb{P}(A_k) = \infty, k∑P(Ak)=∞,
并且
lim infn→∞∑j=1n∑k=1nP(Aj∩Ak)(∑k=1nP(Ak))2=1,(5) \liminf_{n \to \infty} \frac{\sum_{j=1}^n \sum_{k=1}^n \mathbb{P}(A_j \cap A_k)}{\left(\sum_{k=1}^n \mathbb{P}(A_k)\right)^2} = 1,\tag{5} n→∞liminf(∑k=1nP(Ak))2∑j=1n∑k=1nP(Aj∩Ak)=1,(5)
那么我们有
P(Ak i.o.)=1. \mathbb{P}(A_k\;\text{i.o.}) = 1. P(Aki.o.)=1.
证明
我们将使用与之前相同的记号 SnS_nSn 和 SSS。因为
E(Sn2)=E[(∑k=1nIk)2]=∑j,k=1nE(IjIk)=∑j,k=1nP(Aj∩Ak), \mathbb{E}(S^2_n) = \mathbb{E}\left[\left(\sum_{k=1}^n \mathbb{I}_k\right)^2\right] = \sum_{j, k = 1}^n \mathbb{E}(\mathbb{I}_j \mathbb{I}_k) = \sum_{j, k = 1}^n \mathbb{P}(A_j \cap A_k), E(Sn2)=E
(k=1∑nIk)2
=j,k=1∑nE(IjIk)=j,k=1∑nP(Aj∩Ak),
并且
E(Sn)=∑k=1nP(Ak), \mathbb{E}(S_n) = \sum_{k=1}^n \mathbb{P}(A_k), E(Sn)=k=1∑nP(Ak),
因此 (5) 等价于
lim infn→∞E(Sn2)[E(Sn)]2=1。 \liminf_{n \to \infty} \frac{\mathbb{E}(S^2_n)}{[\mathbb{E}(S_n)]^2} = 1。 n→∞liminf[E(Sn)]2E(Sn2)=1。
根据 (4) 的前四行,我们有
P(S<E(Sn)2)≤4E(Sn2)−[E(Sn)]2[E(Sn)]2=4(E(Sn2)[E(Sn)]2−1), \mathbb{P}\left(S < \frac{\mathbb{E}(S_n)}{2}\right) \leq 4\frac{\mathbb{E}(S_n^2) - [\mathbb{E}(S_n)]^2}{[\mathbb{E}(S_n)]^2} = 4\left(\frac{\mathbb{E}(S_n^2)}{[\mathbb{E}(S_n)]^2} - 1\right), P(S<2E(Sn))≤4[E(Sn)]2E(Sn2)−[E(Sn)]2=4([E(Sn)]2E(Sn2)−1),
然后我们有
P(S<∞)=P(⋃n=1∞{S<E(Sn)2})=limn→∞P(S<E(Sn)2)(因为 {S<E(Sn)2} 递增,且根据单调收敛定理)=lim infn→∞P(S<E(Sn)2)(因为最后极限由单调收敛定理存在)≤4(lim infn→∞E(Sn2)[E(Sn)]2−1)=0, \begin{aligned} \mathbb{P}(S < \infty) &= \mathbb{P}\left(\bigcup_{n=1}^\infty \{S < \frac{\mathbb{E}(S_n)}{2}\}\right) \\ &= \lim_{n \to \infty} \mathbb{P}\left(S < \frac{\mathbb{E}(S_n)}{2}\right)\quad (\text{因为 $\{S < \frac{\mathbb{E}(S_n)}{2}\}$ 递增,且根据单调收敛定理}) \\ &= \liminf_{n \to \infty} \mathbb{P}\left(S < \frac{\mathbb{E}(S_n)}{2}\right)\quad (\text{因为最后极限由单调收敛定理存在}) \\ &\leq 4\left(\liminf_{n \to \infty} \frac{\mathbb{E}(S^2_n)}{[\mathbb{E}(S_n)]^2} - 1\right) = 0, \end{aligned} P(S<∞)=P(n=1⋃∞{S<2E(Sn)})=n→∞limP(S<2E(Sn))(因为 {S<2E(Sn)} 递增,且根据单调收敛定理)=n→∞liminfP(S<2E(Sn))(因为最后极限由单调收敛定理存在)≤4(n→∞liminf[E(Sn)]2E(Sn2)−1)=0,
这表明
P(S=∞)=1−P(S<∞)=1. \mathbb{P}(S = \infty) = 1 - \mathbb{P}(S < \infty) = 1. P(S=∞)=1−P(S<∞)=1.
■ \tag*{$\blacksquare$} ■
参考文献
- Kai Lai Chung, A Course in Probability Theory, 第三版 (2001)
- Rick Durrett, Probability: Theory and Examples, 第五版 (2019)
更多推荐


所有评论(0)