Learning
VOL. XXV · NO. 02 · Probability & Statistics · 01 JAN 1970

条件概率与贝叶斯定理

概率论与统计学 · 01 JAN 1970 · 7 min read · 1,643 words
· · ·

从联合概率到贝叶斯更新——信息如何改变信念

**预计时间:**25 分钟读 + 15 分钟做习题 = 40 分钟。

本课方法论承诺
读完这节课,你将掌握:① 条件概率 P(A|B) 的精确含义——不是"B 发生后 A 的概率",而是"在 B 的样本空间里 A 的比例";② 贝叶斯定理的推导与应用——先验、似然、后验的三角关系;③ 贝叶斯更新的实战直觉——新证据如何系统性地改变你的信念。

一、核心概念定义

条件概率(Conditional Probability)

给定事件 B 发生(P(B) > 0),事件 A 的条件概率定义为:

P(A|B) = P(A ∩ B) / P(B)

直观理解:在 B 已经发生的”缩小后”的样本空间里,A 发生的比例。

关键洞察:P(A|B) ≠ P(B|A)。这是最致命的直觉错误。医生看到一个”阳性检测结果”时,P(患病|阳性) 远大于 P(阳性|患病) —— 后者是检测的准确率,前者才是你真正关心的。

乘法公式

由条件概率定义可得:P(A ∩ B) = P(A|B) × P(B) = P(B|A) × P(A)

这是贝叶斯定理的推导基础。

贝叶斯定理(Bayes’ Theorem)

P(A|B) = P(B|A) × P(A) / P(B)

其中:

  • P(A):先验概率(Prior)——在看到数据 B 之前,你对 A 的信念
  • P(B|A):似然(Likelihood)——如果 A 为真,观察到数据 B 的概率
  • P(A|B):后验概率(Posterior)——看到数据 B 后,你对 A 的更新信念
  • P(B):边际似然(Marginal Likelihood)——归一化常数,确保后验概率总和为 1

贝叶斯定理的本质:新证据(B)通过似然(P(B|A))修正旧信念(P(A)),得到新信念(P(A|B))。

二、学科直觉

  1. 先验不是偏见,是起点:贝叶斯框架最被误解的是”先验”。先验不是”主观偏见”——它是你在看到数据之前的所有知识的数学编码。一个信息充分的人先验强(方差小),一个无知的人先验弱(方差大,接近均匀分布)。好的先验让数据更新更有效率。
  2. 似然回答”如果假设为真,我会看到什么”:P(B|A) 是一个反事实——“假设 A 是真的,我观察到 B 的可能性有多大?” 这是科学推理的核心:理论预测数据,数据检验理论。
  3. 后验是信念的更新,不是真理的发现:贝叶斯更新是一个动态过程。今天看到数据 D1,后验变成 P(θ|D1);明天看到 D2,再用 P(θ|D1) 作为先验,得到 P(θ|D1,D2)。信念永远在进化,永远不会”最终确定”。

三、跨学科应用

投资:如何不被先验困住

投资者最常见的问题不是”没有先验”,而是先验太强、更新太慢。死多头看了十份坏财报仍坚信”长期价值不变”——这是先验方差太小,似然项撼不动后验。

芒格的应对:“我试图摧毁我最珍视的信念。” 这是主动放大先验方差(承认自己可能错),让新证据能修正信念。芒格式先验 = “我不确定,但我有基于经验的 rough estimate”。

医疗诊断:为什么检测阳性不等于患病

假设某种疾病的患病率 P(患病) = 1%。检测的灵敏度 P(阳性|患病) = 99%,特异度 P(阴性|健康) = 99%。

问:检测阳性的人真的患病的概率 P(患病|阳性) 是多少?

用贝叶斯定理:

  • P(患病|阳性) = 0.99 × 0.01 / [0.99 × 0.01 + 0.01 × 0.99] = 0.0099 / 0.0198 ≈ 50%

震惊的结论:即使检测准确率 99%,阳性结果也只有 50% 的概率真患病——因为疾病本身太罕见(先验 1%)。

临床启示
医生必须掌握贝叶斯推理。如果忽略先验(患病率),只看似然(检测准确率),会 massively over-diagnose 罕见病。这也是为什么"大规模筛查"对罕见病往往弊大于利——大量假阳性导致不必要的治疗和焦虑。

产品决策:用户反馈的贝叶斯解读

你上线了一个新功能,第一个用户说”太复杂了”。你的后验怎么更新?

  • 先验:基于历史数据,“第一个用户反馈”通常是噪音(P(功能不好|单条负面反馈) 很低)
  • 似然:如果功能真的不好,用户说”太复杂”的概率是多少?
  • 后验:结合先验和似然,得到更新后的信念

贝叶斯智慧:单条反馈不应该大幅改变你的信念。你需要持续更新——10 个用户说同样的话,后验才会显著移动。

练习题

单选题

1

P(A|B) 的精确含义是?

2

贝叶斯定理中,P(A) 被称为?

3

以下哪个关系是正确的?

4

"检测阳性 = 患病"的谬误忽略了什么?

5

贝叶斯更新的本质是?

6

如果先验 P(A) = 0.5,似然 P(B|A) = 0.8,P(B|非A) = 0.3,求 P(A|B) 约为?

7

以下哪项最能体现"先验太强导致更新困难"?

案例分析

C1

C1. 案例:某产品经理做了 A/B 测试,新功能转化率 12% vs 旧版 10%。样本量 200,p 值 = 0.08。用贝叶斯视角,这个结果的决策含义是?

反事实思考题

T1

T1. 反事实:如果所有医疗诊断都用"先验 = 均匀分布"(即假设患病率 50%)。最可能的后果是什么?

下一步:Lesson 0003 · 随机变量与分布族——把离散事件推广到连续结果。