翻译自大佬
https://huarui1998.com/Notes/math/borel-cantelli.html

1. 集序列的 lim⁡inf⁡\lim\infliminflim⁡sup⁡\lim\suplimsup

类似于定义实数序列 {ak}\{a_k\}{ak}lim⁡inf⁡\lim\infliminflim⁡sup⁡\lim\suplimsup,
lim inf⁡k→∞ak=sup⁡n≥1(inf⁡k≥nak),lim sup⁡k→∞ak=inf⁡n≥1(sup⁡k≥nak), \liminf\limits_{k\to\infty}a_k = \sup_{n\geq 1}(\inf_{k\geq n} a_k),\quad \limsup\limits_{k\to\infty}a_k = \inf_{n\geq 1}(\sup_{k\geq n} a_k), kliminfak=n1sup(kninfak),klimsupak=n1inf(knsupak),
我们也可以定义集序列 {Ak}\{A_k\}{Ak}lim⁡inf⁡\lim\infliminflim⁡sup⁡\lim\suplimsup,
只需将 inf⁡\infinf 替换为 ∩\cap,将 sup⁡\supsup 替换为 ∪\cup,即
lim inf⁡k→∞Ak=⋃n≥1⋂k≥nAk,lim sup⁡k→∞Ak=⋂n≥1⋃k≥nAk. \liminf\limits_{k\to\infty}A_k = \bigcup_{n\geq 1}\bigcap_{k\geq n} A_k,\quad \limsup\limits_{k\to\infty}A_k = \bigcap_{n\geq 1}\bigcup_{k\geq n} A_k. kliminfAk=n1knAk,klimsupAk=n1knAk.
根据德摩根定律,我们有
(lim sup⁡k→∞Ak)c=(⋂n≥1⋃k≥nAk)c=⋃n≥1(⋃k≥nAk)c=⋃n≥1⋂k≥nAkc=lim inf⁡k→∞Akc.(1) \left(\limsup\limits_{k\to\infty}A_k\right)^c = \left(\bigcap_{n\geq 1}\bigcup_{k\geq n} A_k\right)^c = \bigcup_{n\geq 1}\left(\bigcup_{k\geq n} A_k\right)^c = \bigcup_{n\geq 1}\bigcap_{k\geq n} A_k^c =\liminf\limits_{k\to\infty}A_k^c.\tag{1} (klimsupAk)c=(n1knAk)c=n1(knAk)c=n1knAkc=kliminfAkc.(1)

这两个符号有两个重要性质

定理

  1. a∈lim⁡inf⁡kAka\in \lim \inf \limits_k A_kalimkinfAk 当且仅当存在一个整数 NNN 使得 a∈Ana\in A_naAn 对所有 n≥Nn\geq NnN 成立。
  2. a∈lim⁡sup⁡kAka\in\lim \sup \limits_kA_kalimksupAk 当且仅当 aaa 属于 {Ak}\{A_k\}{Ak} 的无穷多个项。

证明

首先,如果 a∈lim inf⁡kAka\in\liminf_kA_kaliminfkAk,这意味着 aaa 属于 {∩k≥nAk:n≥1}\{\cap_{k\geq n}A_k:n\geq 1\}{knAk:n1} 中的至少一个,假设 a∈∩k≥NAka\in \cap_{k\geq N}A_kakNAk
那么 a∈Aka\in A_kaAk 对所有 k≥Nk\geq NkN 成立。

其次,如果 a∈lim sup⁡kAka\in\limsup_kA_kalimsupkAk,这意味着 aaa 属于 {∪k≥nAk:n≥1}\{\cup_{k\geq n}A_k:n\geq 1\}{knAk:n1} 的所有。
假设 aaa 只属于 {Ak}\{A_k\}{Ak} 的有限项,例如 {Ak1,⋯ ,Akm}\{A_{k_1},\cdots,A_{k_m}\}{Ak1,,Akm},那么令 M=max⁡{k1,⋯ ,km}M = \max\{k_1,\cdots,k_m\}M=max{k1,,km},我们有
a∉Aka\notin A_ka/Ak 对所有 k≥M+1k\geq M+1kM+1 成立,即 a∉∪k≥M+1Aka\notin \cup_{k\geq M+1}A_ka/kM+1Ak,这导致矛盾。
■ \tag*{$\blacksquare$}

由于上述定理,有时我们说事件 AkA_kAk (k=1,2,⋯k=1,2,\cdotsk=1,2,) 无穷次发生,如果事件 lim sup⁡kAk\limsup_kA_klimsupkAk 发生,或简称为 AkA_kAk i.o.。

定理

如果每个 AkA_kAk 是一个事件(即 ∈F\in\cal FF),我们有

  1. P(lim inf⁡k→∞Ak)=lim⁡n→∞P(⋂k≥nAk)(2) \mathbb{P} (\liminf\limits_{k\to\infty}A_k)=\lim_{n\to\infty}\mathbb{P}(\bigcap_{k\geq n}A_k)\tag{2} P(kliminfAk)=nlimP(knAk)(2)
  2. P(lim sup⁡k→∞Ak)=lim⁡n→∞P(⋃k≥nAk)(3) \mathbb{P}(\limsup\limits_{k\to\infty}A_k)=\lim_{n\to\infty}\mathbb{P}(\bigcup_{k\geq n}A_k)\tag{3} P(klimsupAk)=nlimP(knAk)(3)

证明


Fn=⋂k≥nAk, F_n = \bigcap_{k\geq n}A_k, Fn=knAk,
那么 {Fn}\{F_n\}{Fn} 是一个递增序列,即 F1⊆F2⊆F3⋯F_1\subseteq F_2 \subseteq F_3\cdotsF1F2F3,根据概率测度的连续性,我们有
P(⋃nFn)=lim⁡n→∞P(Fn), \mathbb{P}(\bigcup_{n}F_n) = \lim_{n\to\infty}\mathbb{P}(F_n), P(nFn)=nlimP(Fn),
因此 (2) 成立。 (3) 也直接由 (1) 和 (2) 得出。
■ \tag*{$\blacksquare$}

2. 第一 Borel-Cantelli 引理

定理(Borel-Cantelli)

假设 {Ak}\{A_k\}{Ak} 是事件,如果
∑kP(Ak)<∞, \sum_k\mathbb{P}(A_k)\lt\infty, kP(Ak)<,
那么我们有 P(Ak  i.o.)=0. \mathbb{P}(A_k\;\text{i.o.})=0. P(Aki.o.)=0.

证明

BnB_nBnBn=⋃k≥nAk, B_n = \bigcup_{k\geq n} A_k, Bn=knAk,
根据 (3) 我们有
P(Ak  i.o.)=P(lim sup⁡k→∞Ak)=lim⁡n→∞P(Bn). \mathbb{P}(A_k\;\text{i.o.}) = \mathbb{P}(\limsup\limits_{k\to\infty}A_k)=\lim_{n\to\infty}\mathbb{P}(B_n). P(Aki.o.)=P(klimsupAk)=nlimP(Bn).
我们只需要证明 P(Bn)→0\mathbb{P}(B_n)\to 0P(Bn)0
由于概率测度的次可加性,我们有
P(Bn)=P(⋃k≥nAk)≤∑k=n∞P(Ak)=∑k=1∞P(Ak)−∑k=1n−1P(Ak)→0, \mathbb{P}(B_n) = \mathbb{P}(\bigcup_{k\geq n} A_k)\leq \sum_{k=n}^\infty \mathbb{P}(A_k)=\sum_{k=1}^\infty \mathbb{P}(A_k) -\sum_{k=1}^{n-1} \mathbb{P}(A_k)\to 0, P(Bn)=P(knAk)k=nP(Ak)=k=1P(Ak)k=1n1P(Ak)0,
n→∞n\to \inftyn 时,收敛性由
∑k=1∞P(Ak)<∞ \sum_{k=1}^\infty \mathbb{P}(A_k)\lt\infty k=1P(Ak)< 保证。

■ \tag*{$\blacksquare$}

3. 第二 Borel-Cantelli 引理

定理(Borel-Cantelli)

假设 {Ak}\{A_k\}{Ak} 是独立事件,如果
∑kP(Ak)=∞, \sum_k\mathbb{P}(A_k)=\infty, kP(Ak)=,
那么我们有 P(Ak  i.o.)=1. \mathbb{P}(A_k\;\text{i.o.})=1. P(Aki.o.)=1.

证明

根据(1),我们有:
P(Ak  i.o.)=P(lim sup⁡k→∞Ak)=1−P(lim inf⁡k→∞Akc)=1−lim⁡n→∞P(⋂k≥nAkc)(根据 (2))=1−lim⁡n→∞∏k=n∞P(Akc)(由于独立性)=1−lim⁡n→∞∏k=n∞(1−P(Ak))≥1−lim⁡n→∞∏k=n∞exp⁡(−P(Ak))(因为 1−x≤e−x)=1−lim⁡n→∞exp⁡(−∑k=n∞P(Ak))=1(因为对于任何 n,∑k=n∞P(Ak)=∞) \begin{align*} \mathbb{P}(A_k\;\text{i.o.}) &= \mathbb{P}(\limsup_{k \to \infty} A_k) \\ &= 1 - \mathbb{P}(\liminf_{k \to \infty} A_k^c) \\ &= 1 - \lim_{n \to \infty} \mathbb{P}\left(\bigcap_{k \geq n} A_k^c\right) & \text{(根据 (2))} \\ &= 1 - \lim_{n \to \infty} \prod_{k = n}^\infty \mathbb{P}(A_k^c) & \text{(由于独立性)} \\ &= 1 - \lim_{n \to \infty} \prod_{k = n}^\infty (1 - \mathbb{P}(A_k)) \\ &\geq 1 - \lim_{n \to \infty} \prod_{k = n}^\infty \exp(-\mathbb{P}(A_k)) & \text{(因为 $1 - x \leq e^{-x}$)} \\ &= 1 - \lim_{n \to \infty} \exp\left(-\sum_{k = n}^\infty \mathbb{P}(A_k)\right) \\ &= 1 & \text{(因为对于任何 $n$,$\sum_{k = n}^\infty \mathbb{P}(A_k) = \infty$)} \end{align*} P(Aki.o.)=P(klimsupAk)=1P(kliminfAkc)=1nlimP(knAkc)=1nlimk=nP(Akc)=1nlimk=n(1P(Ak))1nlimk=nexp(P(Ak))=1nlimexp(k=nP(Ak))=1(根据 (2))(由于独立性)(因为 1xex)(因为对于任何 nk=nP(Ak)=∞)
\tag*{■\blacksquare}

我们可以通过将“独立”替换为一个更弱的条件“成对独立”来增强第二 Borel-Cantelli 引理。

定理(成对独立版本 Borel-Cantelli 引理)

假设 {Ak}\{A_k\}{Ak} 是成对独立事件,如果
∑kP(Ak)=∞, \sum_k\mathbb{P}(A_k)=\infty, kP(Ak)=,
那么我们有 P(Ak  i.o.)=1. \mathbb{P}(A_k\;\text{i.o.})=1. P(Aki.o.)=1.

证明

Ik\mathbb{I}_{k}IkAkA_kAk 的指示函数,则 E(Ik)=P(Ak)\mathbb{E}(\mathbb{I}_k) = \mathbb{P}(A_k)E(Ik)=P(Ak)。设 SnS_nSnIk\mathbb{I}_kIk 的部分和,即
Sn=∑k=1nIk, S_n = \sum^n_{k=1} \mathbb{I}_k, Sn=k=1nIk,

S=lim⁡n→∞Sn=∑k=1∞Ik. S = \lim_{n\to \infty} S_n = \sum^\infty_{k=1} \mathbb{I}_k. S=nlimSn=k=1Ik.
那么 ∑kP(Ak)=∞\sum_k\mathbb{P}(A_k) = \inftykP(Ak)= 意味着
E(S)=∞. \mathbb{E}(S) = \infty. E(S)=∞.
x∈Ak  i.o.x \in A_k \;\text{i.o.}xAki.o. 等价于
S(x)=∑k=1∞Ik(x)=∞, S(x) = \sum^\infty_{k=1}\mathbb{I}_k(x) = \infty, S(x)=k=1Ik(x)=,
因此我们的目标是证明 P(S=∞)=1\mathbb{P}(S=\infty)=1P(S=)=1。记 pk=P(Ak)p_k = \mathbb{P}(A_k)pk=P(Ak),则 SnS_nSn 的方差为
Var(Sn)=E(Sn2)−[E(Sn)]2=E(∑k=1nIk2+∑i≠jIiIj)−(∑k=1npk)2=∑k=1nE(Ik2)+∑i≠jE(Ii)E(Ij)−(∑k=1npk)2=∑k=1npk+∑i≠jpipj−(∑k=1npk)2=∑k=1npk+(∑k=1npk)2−∑k=1npk2−(∑k=1npk)2=∑k=1n(pk−pk2)≤E(Sn) \begin{aligned} Var(S_n) &= \mathbb{E}(S_n^2)-[\mathbb{E}(S_n)]^2 \\ &= \mathbb{E}\left(\sum_{k=1}^n \mathbb{I}_k^2 + \sum_{i\neq j} \mathbb{I}_i \mathbb{I}_j\right) - \left(\sum_{k=1}^n p_k\right)^2 \\ &= \sum_{k=1}^n \mathbb{E}(\mathbb{I}_k^2) + \sum_{i\neq j} \mathbb{E}(\mathbb{I}_i) \mathbb{E}(\mathbb{I}_j) - \left(\sum_{k=1}^n p_k\right)^2 \\ &= \sum_{k=1}^n p_k + \sum_{i\neq j} p_i p_j - \left(\sum_{k=1}^n p_k\right)^2 \\ &= \sum_{k=1}^n p_k + \left(\sum_{k=1}^n p_k\right)^2 - \sum_{k=1}^n p_k^2 - \left(\sum_{k=1}^n p_k\right)^2 \\ &= \sum_{k=1}^n (p_k - p_k^2) \\ &\leq \mathbb{E}(S_n) \end{aligned} Var(Sn)=E(Sn2)[E(Sn)]2=E k=1nIk2+i=jIiIj (k=1npk)2=k=1nE(Ik2)+i=jE(Ii)E(Ij)(k=1npk)2=k=1npk+i=jpipj(k=1npk)2=k=1npk+(k=1npk)2k=1npk2(k=1npk)2=k=1n(pkpk2)E(Sn)

然后,
P(S<E(Sn)2)≤P(Sn<E(Sn)2)=P(Sn−E(Sn)<−E(Sn)2)≤P(∣Sn−E(Sn)∣≥E(Sn)2)≤4Var(Sn)[E(Sn)]2(由切比雪夫不等式)≤4E(Sn)(因为 Var(Sn)≤E(Sn))(4) \begin{aligned} \mathbb{P}\left(S < \frac{\mathbb{E}(S_n)}{2}\right) &\leq \mathbb{P}\left(S_n < \frac{\mathbb{E}(S_n)}{2}\right) \\ &= \mathbb{P}\left(S_n - \mathbb{E}(S_n) < -\frac{\mathbb{E}(S_n)}{2}\right) \\ &\leq \mathbb{P}\left(\left|S_n - \mathbb{E}(S_n)\right| \geq \frac{\mathbb{E}(S_n)}{2}\right) \\ &\leq \frac{4 Var(S_n)}{[\mathbb{E}(S_n)]^2} \quad (\text{由切比雪夫不等式}) \\ &\leq \frac{4}{\mathbb{E}(S_n)} \quad (\text{因为 $Var(S_n)\leq \mathbb{E}(S_n)$}) \end{aligned} \tag{4} P(S<2E(Sn))P(Sn<2E(Sn))=P(SnE(Sn)<2E(Sn))P(SnE(Sn)2E(Sn))[E(Sn)]24Var(Sn)(由切比雪夫不等式)E(Sn)4(因为 Var(Sn)E(Sn))(4)
注意 {S<E(Sn)2}\{S < \frac{\mathbb{E}(S_n)}{2}\}{S<2E(Sn)} 上升到 {S<∞}\{S < \infty\}{S<},最后通过概率测度的连续性,
P(S<∞)=P(⋃n=1∞{S<E(Sn)2})=lim⁡n→∞P(S<E(Sn)2)≤lim⁡n→∞4E(Sn)=0, \mathbb{P}(S < \infty) = \mathbb{P}\left(\bigcup_{n=1}^\infty \{S < \frac{\mathbb{E}(S_n)}{2}\}\right) = \lim_{n \to \infty} \mathbb{P}\left(S < \frac{\mathbb{E}(S_n)}{2}\right) \leq \lim_{n \to \infty} \frac{4}{\mathbb{E}(S_n)} = 0, P(S<)=P(n=1{S<2E(Sn)})=nlimP(S<2E(Sn))nlimE(Sn)4=0,
那么我们得出
P(S=∞)=1−P(S<∞)=1. \mathbb{P}(S = \infty) = 1 - \mathbb{P}(S < \infty) = 1. P(S=)=1P(S<)=1.
■ \tag*{$\blacksquare$}

4. Erdös-Rényi 定理

上述定理中的成对独立条件可以进一步放宽,得到 Erdös-Rényi 定理。

定理(Erdös-Rényi)

假设 {Ak}\{A_k\}{Ak} 是事件,如果
∑kP(Ak)=∞, \sum_k \mathbb{P}(A_k) = \infty, kP(Ak)=,
并且
lim inf⁡n→∞∑j=1n∑k=1nP(Aj∩Ak)(∑k=1nP(Ak))2=1,(5) \liminf_{n \to \infty} \frac{\sum_{j=1}^n \sum_{k=1}^n \mathbb{P}(A_j \cap A_k)}{\left(\sum_{k=1}^n \mathbb{P}(A_k)\right)^2} = 1,\tag{5} nliminf(k=1nP(Ak))2j=1nk=1nP(AjAk)=1,(5)
那么我们有
P(Ak  i.o.)=1. \mathbb{P}(A_k\;\text{i.o.}) = 1. P(Aki.o.)=1.

证明

我们将使用与之前相同的记号 SnS_nSnSSS。因为
E(Sn2)=E[(∑k=1nIk)2]=∑j,k=1nE(IjIk)=∑j,k=1nP(Aj∩Ak), \mathbb{E}(S^2_n) = \mathbb{E}\left[\left(\sum_{k=1}^n \mathbb{I}_k\right)^2\right] = \sum_{j, k = 1}^n \mathbb{E}(\mathbb{I}_j \mathbb{I}_k) = \sum_{j, k = 1}^n \mathbb{P}(A_j \cap A_k), E(Sn2)=E (k=1nIk)2 =j,k=1nE(IjIk)=j,k=1nP(AjAk),
并且
E(Sn)=∑k=1nP(Ak), \mathbb{E}(S_n) = \sum_{k=1}^n \mathbb{P}(A_k), E(Sn)=k=1nP(Ak),
因此 (5) 等价于
lim inf⁡n→∞E(Sn2)[E(Sn)]2=1。 \liminf_{n \to \infty} \frac{\mathbb{E}(S^2_n)}{[\mathbb{E}(S_n)]^2} = 1。 nliminf[E(Sn)]2E(Sn2)=1
根据 (4) 的前四行,我们有
P(S<E(Sn)2)≤4E(Sn2)−[E(Sn)]2[E(Sn)]2=4(E(Sn2)[E(Sn)]2−1), \mathbb{P}\left(S < \frac{\mathbb{E}(S_n)}{2}\right) \leq 4\frac{\mathbb{E}(S_n^2) - [\mathbb{E}(S_n)]^2}{[\mathbb{E}(S_n)]^2} = 4\left(\frac{\mathbb{E}(S_n^2)}{[\mathbb{E}(S_n)]^2} - 1\right), P(S<2E(Sn))4[E(Sn)]2E(Sn2)[E(Sn)]2=4([E(Sn)]2E(Sn2)1),
然后我们有
P(S<∞)=P(⋃n=1∞{S<E(Sn)2})=lim⁡n→∞P(S<E(Sn)2)(因为 {S<E(Sn)2} 递增,且根据单调收敛定理)=lim inf⁡n→∞P(S<E(Sn)2)(因为最后极限由单调收敛定理存在)≤4(lim inf⁡n→∞E(Sn2)[E(Sn)]2−1)=0, \begin{aligned} \mathbb{P}(S < \infty) &= \mathbb{P}\left(\bigcup_{n=1}^\infty \{S < \frac{\mathbb{E}(S_n)}{2}\}\right) \\ &= \lim_{n \to \infty} \mathbb{P}\left(S < \frac{\mathbb{E}(S_n)}{2}\right)\quad (\text{因为 $\{S < \frac{\mathbb{E}(S_n)}{2}\}$ 递增,且根据单调收敛定理}) \\ &= \liminf_{n \to \infty} \mathbb{P}\left(S < \frac{\mathbb{E}(S_n)}{2}\right)\quad (\text{因为最后极限由单调收敛定理存在}) \\ &\leq 4\left(\liminf_{n \to \infty} \frac{\mathbb{E}(S^2_n)}{[\mathbb{E}(S_n)]^2} - 1\right) = 0, \end{aligned} P(S<)=P(n=1{S<2E(Sn)})=nlimP(S<2E(Sn))(因为 {S<2E(Sn)} 递增,且根据单调收敛定理)=nliminfP(S<2E(Sn))(因为最后极限由单调收敛定理存在)4(nliminf[E(Sn)]2E(Sn2)1)=0,
这表明
P(S=∞)=1−P(S<∞)=1. \mathbb{P}(S = \infty) = 1 - \mathbb{P}(S < \infty) = 1. P(S=)=1P(S<)=1.
■ \tag*{$\blacksquare$}

参考文献

  1. Kai Lai Chung, A Course in Probability Theory, 第三版 (2001)
  2. Rick Durrett, Probability: Theory and Examples, 第五版 (2019)
Logo

有“AI”的1024 = 2048,欢迎大家加入2048 AI社区

更多推荐