大数定律与中心极限定理

为什么正态分布无处不在——随机性在 aggregating 中的秩序

**预计时间：**25 分钟读 + 10 分钟做习题 = 35 分钟。

一、核心概念定义

大数定律（Law of Large Numbers, LLN）

弱大数定律（WLLN）：设 X₁, X₂, … 是独立同分布（i.i.d.）的随机变量，E[Xᵢ] = μ。则对任意 ε > 0：

lim{n→∞} P(|X̄ₙ - μ| < ε) = 1

其中 X̄ₙ = (X₁ + … + Xₙ)/n 是样本均值。

直观理解：样本量越大，样本均值越接近真实均值。赌场不怕单次输赢，因为大数定律保证了长期期望的稳定性。

强大数定律（SLLN）：更强版本——X̄ₙ 几乎必然收敛到 μ，即 P(lim{n→∞} X̄ₙ = μ) = 1。

与 WLLN 的区别：WLLN 说”概率趋近 1”，SLLN 说”几乎肯定收敛”。SLLN 更强，但证明更复杂。

中心极限定理（Central Limit Theorem, CLT）

设 X₁, X₂, … 是 i.i.d.，E[Xᵢ] = μ，Var(Xᵢ) = σ² < ∞。则：

√n(X̄ₙ - μ) / σ → N(0, 1)（在分布上收敛）

直观理解：无论原始分布是什么形状（均匀、指数、甚至离散），只要方差有限，样本均值的分布都会随着 n 增大而趋近正态分布。

CLT 的三个关键：

1. 原始分布不重要——只要 i.i.d. 且方差有限
2. 收敛速度——n = 30 通常足够，但对高度偏态分布可能需要 n = 100+
3. 是样本均值的分布，不是单个 X 的分布——单个 X 的分布保持原样

二、学科直觉

1. LLN 是稳定性的来源：保险公司能承保数百万保单，正是因为大数定律——单个索赔的不确定性被大量保单平均掉了。没有 LLN，保险业不存在。
2. CLT 是正态分布无处不在的元原因：身高、考试成绩、测量误差、股票日回报——这些看似无关的量，共同之处是多个独立因素的和。CLT 告诉你，这种和必然近似正态。
3. 两个定理都要求”独立”：如果变量不是独立的（如金融危机中的资产价格——高度相关），两个定理的收敛速度会大幅下降，甚至失效。这是风险管理中最容易被忽视的前提。

三、跨学科应用

投资：为什么”短期预测”本质上是噪音

股票日回报的均值约为 0.05%/天，标准差约 1%/天。根据 CLT，100 天的平均回报分布是 N(0.05%, 0.1%)。这意味着：

• 100 天内”运气好”赚 1%（均值 + 1σ）的概率约 16%
• 100 天内”运气差”亏 0.9%（均值 - 1σ）的概率约 16%

结论：100 天内的收益，90% 以上是运气，不是能力。这与行为金融学中”过度归因”的发现一致——基金经理把短期超额收益归因为”选股能力”，其实是噪音。

质量管理：六西格玛的统计基础

六西格玛（Six Sigma）的目标是缺陷率 3.4 ppm（百万分之 3.4），对应过程均值偏离目标 6 个标准差。这正是 CLT 的应用：

• 如果一个生产过程的多个环节各自有小波动，总偏差近似正态
• 6σ 之外的概率 ≈ 2 ppb（十亿分之 2）
• 达到 6σ 意味着几乎所有产品都在规格限内

关键：CLT 成立的前提是各环节的偏差独立。如果有系统性偏差（如所有机器都偏了 0.5σ），CLT 不适用。

社会科学：抽样调查的可靠性

民意调查用 n = 1000 的样本估计总体比例 p。根据 CLT，样本比例 p̂ 的分布近似 Normal(p, p(1-p)/n)。

• 当 p = 0.5, n = 1000 时，标准误差 = √(0.5×0.5/1000) ≈ 1.58%
• 95% 置信区间 = p̂ ± 1.96×1.58% ≈ p̂ ± 3.1%

这就是为什么 n = 1000 的民意调查误差约 ±3%，与总体大小无关（只要总体 >> 样本）。

练习题

单选题

案例分析

反事实思考题

下一步：Lesson 0005 · 频率学派 vs 贝叶斯学派——两种概率哲学的深层分歧。