L03a Uncertainty：灵敏度 99% 的检验，阳性里只有 2% 真有病

一句话版

信息不全的时候怎么推理：用条件概率缩小范围，用贝叶斯倒推原因，用一张图把联合分布拆小。

一个类比：你人在校外，想知道今晚这节课到底上没上成

你没在现场，手上只有零碎线索——图书馆的灯亮着、群里有人发了句话。你要从这些线索反推教室里发生了什么。整讲的每个工具都在这个场景里有位置。

概率是你对”老师来了”这件事的信心打分，必须落在 0 到 1 之间，所有可能情况的分数加起来是 1（p.10）。条件概率是拿到一条线索之后把考虑范围缩小：原来分母是全部可能的夜晚，现在”图书馆亮着”这件事确定了，分母就只剩那些图书馆亮着的夜晚（p.12）。

线索之间的关系分两种。互斥是两件事不可能同时发生，独立是两件事互不影响——这两个词听着像，实际相反：在两个概率均非零时，互斥意味着依赖，一件发生另一件就必然不发生（p.13）。

贝叶斯公式处理的是方向问题。你通常知道”老师来了的话，课有多大概率能上成”，而你想问的是反过来的”课上成了的话，老师有多大概率来过”（p.15）。基础率是这里最容易栽的坑：线索再准，如果那件事本来就极其罕见，看到线索也未必能下结论（p.17）。

线索多起来之后，它们互相之间还牵扯。停电既会让图书馆关门、也会让课上不成，所以这两条线索天然相关。贝叶斯信念网络就是把”谁影响谁”画成一张箭头图，让你只需要给出每个节点在它父节点条件下的概率，而不用列出所有变量组合（p.24）。

类比在哪里失效：现实里你可以走到教室门口直接看一眼，概率推理没有这个动作，它只在观测本身有限的前提下才有意义。图上的那些数字（0.95、0.96、0.93）在类比里像是”凭感觉估的”，课件里它们是建模者给定的输入，答题时只许代入不许改。更关键的一条——网络必须是有向无环的，真实世界里因果常常互相反馈成环，单个静态 BBN 不能直接画有向环；补充：反馈可按时间展开建模（p.21）。最后，课件在条件独立那页右上角写的是 A useful assumption!，用的词是假设而非事实：省参数的代价是模型可能不对（p.19）。

概念卡

1. 条件概率（Conditional Probability）

人话定义：P(E|F) = P(EF)/P(F)，前提是 P(F) ≠ 0。已知 F 发生之后，宇宙缩小成 F，分母跟着换。

例子：课件 p.12 左边那张韦恩图，S 里 6 个点，E 占 4 个、F 占 5 个、交集 3 个。P(E|F) = (3/6)/(5/6) = 3/5 = 0.6，而 P(E) = 4/6 ≈ 0.667——知道 F 发生反而降低了对 E 的信心。右图两圆分离，P(EF) = 0，P(E|F) = 0，而 P(E) = 2/6 ≈ 0.333。

两张图并排看最省事：

常见误解

把 EF 读成乘法 → 课件的记号里 EF 就是交集 E ∩ F，表示两件事同时发生。后面 p.15 的 P(EF)、BBN 那几页的 P(ETCL) 全是这个简写，读成乘法整道题都会错（p.8）。

2. 独立与互斥（Independent vs Disjoint）

人话定义：独立是 P(EF) = P(E)P(F)，代进条件概率的定义就得到 P(E|F) = P(E)——知道 F 发生不改变对 E 的判断。互斥是 P(EF) = 0，两件事不可能同时出现。

例子：p.12 的右图就是互斥的画面，F 一发生，E 的概率从 1/3 直接掉到 0。这说明互斥是一种极强的相关。

常见误解

把互斥当成独立 → 记一句话就够：两个概率都不为零的事件，互斥就一定不独立。因为互斥意味着 F 发生时 E 必不发生，这已经说明不独立，并非相关系数必为 −1（p.13）。

3. 贝叶斯公式与基础率谬误（Bayes’ Formula / Base Rate Fallacy）

人话定义：同一个交事件有两种拆法，P(EF) = P(E|F)P(F) = P(F|E)P(E)，解出来就是 P(F|E) = P(E|F)P(F) / [P(E|F)P(F) + P(E|F^c)P(F^c)]。分母那一步用的是全概率公式：F 和 F^c 把样本空间切成互斥两块。课件把公式的每一块都标了名字，对着看一遍比记符号快：

例子：疾病检测题（p.16–17）。P(D) = 0.001，P(+|D) = 0.99，P(+|H) = 0.05，求 P(D|+) = (0.99 × 0.001) / (0.99 × 0.001 + 0.05 × 0.999) = 0.00099 / 0.05094 ≈ 0.0194。检验灵敏度（sensitivity）99%，阳性者里真有病的只有约 2%。换成人数更好算：10 万人里 100 人患病、其中 99 人阳性；99900 人健康、其中约 4995 人阳性；99 / 5094 ≈ 2%。

换成人数就看得见了：

常见误解

盯着 99% 觉得结果不合理 → 原因是先验太小。1000 人里只有 1 个病人贡献 0.00099 的阳性，999 个健康人哪怕只有 5% 误报也贡献 0.04995，是前者的 50 倍。看到「给了 P(A|B)，问 P(B|A)」就是要用贝叶斯的信号（p.16、p.17）。

4. 条件独立与三种连接（Conditional Independence）

人话定义：给定 C 时 A 与 B 条件独立，定义式是 P(AB|C) = P(A|C)P(B|C)，由它可推出 P(A|BC) = P(A|C)，含义是”C 挡住了 B 对 A 的全部信息”。

例子：BBN 的三种连接（p.21–23）。串行 A→V→B 与发散 A←V→B，在 V 已知时 A 与 B 条件独立，通道被堵；汇聚 A→V←B 方向相反，V 未知时 A、B 本来就独立（都是根节点，依据是 no parent），V 或其后代被观测时，这条路径可被打开，使它们产生条件依赖。这个现象叫 explaining away：知道课没上成，又知道老师来了，那就更可能是停电。

三种连接的箭头方向决定一切：

常见误解

把条件独立当成独立的加强版 → 两者互不蕴含。抛两枚硬币 A、B 独立，令 C 是「两枚结果相同」，已知 C 之后 A 完全决定 B，条件独立不成立。反过来，p.24 的 L 和 C 都受 E 影响、边缘上相关，给定 E 后才条件独立（p.19）。

5. 贝叶斯信念网络的联合概率通式（BBN）

人话定义：BBN 是有向无环图加每个节点的条件概率表，核心假设是每个节点在给定父节点后与所有非后代条件独立。由此得到联合概率通式 P(x₁, x₂, …, x_n) = ∏ P(x_i | parents(x_i))。

例子：p.24 那个网络有四个布尔变量——E 供电、T 老师来了、C 上了课、L 图书馆开门，E 和 T 是根节点，E → L，E → C ← T。联合表有 2⁴ = 16 项（归一化后 15 个自由参数），用 BBN 只要 2 + 2 + 4 = 8 个。求 P(ETCL) 的三步是排序、链式法则、按图化简：P(LCET) = P(L|CET)·P(C|ET)·P(E|T)·P(T) 化简成 P(L|E)·P(C|ET)·P(E)·P(T) = 0.96 × 0.93 × 0.95 × 0.9 ≈ 0.76（p.25）。

这张网络连同数据后面三道题都要用：

常见误解

以为化简的每一步依据都一样 → P(L|CET) → P(L|E) 用的是条件独立（L 的父节点只有 E），P(E|T) → P(E) 用的是两个根节点本来就独立。课件用两种颜色分别标注，答题时也要分开写（p.25）。

把它们串起来

上一讲的搜索假设世界是确定的：走哪条边、到哪个状态，全都知道。这一讲把这个假设拆掉。

主线只有一条向下的链。概率的三条公理里，可加性是全部计算的引擎——后面所有”拆开再相加”的动作，追根都到它（p.10）。条件概率给这套语言加上”已知某事发生”的前提，让信心可以随观测更新（p.12）。贝叶斯公式把条件方向反过来，于是从看得见的推看不见的成为可能，所有诊断、分类、推断任务都是这个形状（p.15）。

链式法则本来是条死路：n 个布尔变量的联合分布要 2ⁿ 个数，光 P(A₁|A₂…A_n) 一项就要 2^(n−1) 个条件概率，课件在那页右侧画了个气泡问”系统很复杂怎么办”（p.18）。条件独立是那把剪刀（p.19），BBN 是拿这把剪刀剪出来的成品（p.21）。省下来的量随变量数增长而变得巨大，课件的原话是 The savings will be huge when the number of variables is large（p.24）。

最后三页是三种值得练习的问法，不能据此断言考试范围：联合概率顺着通式乘一遍，因果推理顺着箭头走、把缺的父节点用全概率公式补齐，诊断推理逆着箭头走、先做一次因果推理再套贝叶斯（p.25–27）。

课件里的坑

• [课件有误] p.15 页脚印的是「32」，按序列应该是「16」，排版错误，不影响内容（p.15）
• [课件有误] p.11 图左下角写着 S = {H, T}，和图里画的 8 个结果对不上 → 前者是单次抛掷的样本空间，后者是三次抛掷的（2³ = 8 个结果），按图里的 8 个点理解（p.11）
• [课件有误] p.21、p.22、p.23 三页都把 non-descendants 拼成了 “non-decedents”，是笔误（p.21）
• [课件留白] p.10 的可加性只对互斥事件成立，课件没写有交集时的容斥公式 P(E ∪ F) = P(E) + P(F) − P(EF)，考”至少一个发生”的题要用，自己补上（p.10）

课后 10 分钟：考点复习

这 10 分钟怎么用：合上页面，先默写三条——P(E|F) = P(EF)/P(F) 的缩样本空间直觉、贝叶斯公式的分母怎么补、独立与互斥的区别；再把下面的「变式题」做一遍；最后回查两个最容易错的地方——把互斥当成独立、忘了汇聚节点的阻断方向和另外两种相反。三步做完再往下看答案。

必背

1. 概率的真正定义是三条公理：0 ≤ P(E) ≤ 1、P(S) = 1、互斥事件可加；可加性只对互斥成立。
2. 课件用 EF 表示交集（同时发生），看到几个大写字母连在一起一律读成「同时」。
3. P(E|F) = P(EF)/P(F)，直观是把样本空间从 S 缩小到 F。
4. 独立是 P(EF) = P(E)P(F)，互斥是 P(EF) = 0；两个概率都不为零的事件，互斥就一定不独立。
5. 贝叶斯公式 P(F|E) = P(E|F)P(F) / [P(E|F)P(F) + P(E|F^c)P(F^c)]，分母来自全概率公式；P(F) 是先验，P(F|E) 是后验。
6. 疾病检测题答案 ≈ 0.0194——先验极小时假阳性的绝对数量压倒真阳性，忽略这种基础率影响才叫 base rate fallacy。
7. 条件独立 P(AB|C) = P(A|C)P(B|C) 可推出 P(A|BC) = P(A|C)；它和独立互不蕴含。
8. 孤立三节点图中，串行和发散在中间节点已知时阻断；汇聚在自身或后代被观测时可打开（explaining away）。

完整例题

诊断推理是我押的大题方向（我的判断，课件没标重点），因为它把因果推理和贝叶斯公式串在了一起。用 p.24 的网络完整走一遍。

题面：四个布尔变量——E 供电正常、T 老师来了、C 上了课、L 图书馆开门。E 和 T 是根节点，E → L，E → C ← T。已知 P(E) = 0.95、P(T) = 0.9；P(C|E,T) = 0.93、P(C|E,T^c) = 0.1、P(C|E^c,T) = 0、P(C|E^c,T^c) = 0。求 P(T|C)：已知课上了，老师来过的概率是多少？

1. 判断方向。C 是 T 的后代，问的是从结果反推原因，属于诊断推理，要用贝叶斯公式：P(T|C) = P(C|T)·P(T) / [P(C|T^c)·P(T^c) + P(C|T)·P(T)]（p.27）。
2. 发现缺口。P(T) = 0.9、P(T^c) = 0.1 是给定的，但 P(C|T) 和 P(C|T^c) 表里没有——C 的条件概率表是按 (E, T) 两个父节点给的。这两项得先用因果推理算出来。
3. 补齐父节点，算 P(C|T)。课件的提示是 Include all the parents，把缺的那个父节点 E 用全概率公式补进去： P(C|T) = P(C|ET)·P(E|T) + P(C|E^c T)·P(E^c|T)，因为 E 与 T 都是根节点、彼此独立，条件里的 T 可以去掉， = 0.93 × 0.95 + 0 × 0.05 = 0.8835 + 0 ≈ 0.884（p.26）。
4. 同样的套路算 P(C|T^c)： P(C|T^c) = P(C|E T^c)·P(E) + P(C|E^c T^c)·P(E^c) = 0.1 × 0.95 + 0 × 0.05 = 0.095（p.26）。
5. 代回贝叶斯公式： P(T|C) = (0.884 × 0.9) / (0.095 × 0.1 + 0.884 × 0.9) = 0.7956 / (0.0095 + 0.7956) = 0.7956 / 0.8051 ≈ 0.988（p.27）。
6. 读懂这个数。先验上老师来的概率是 0.9，观测到”课上了”之后升到 0.988。升幅来自那个 0.095——老师不来时上课的概率很低，所以课上成了这件事几乎坐实了老师来过。这就是 p.15 说的 prior → posterior 更新。

这道题的骨架值得单独记：诊断推理 = 先做因果推理把两个条件概率算出来，再套贝叶斯公式。三种问法的本例答案分别是 0.76、0.884、0.988，另有练习题 0.095。

变式题（先自己做）

同一张网络、同一张条件概率表，只把问题换个方向：已知课上了，供电正常的概率 P(E|C) 是多少？

提示

方向仍然是从结果反推原因，贝叶斯公式的骨架不变，但这次要补的父节点换成了 T。先把 P(C|E) 和 P(C|E^c) 各算出来，再看分母。算完先别急着写数，回头看一眼 C 的条件概率表里 E^c 那两格填的是什么。

参考答案与自检（非官方评分标准）

自检要点：① 仍要先做因果推理把 P(C|E)、P(C|E^c) 补出来，不能把含两个父节点的条件概率直接当作边缘概率；② 答案是整数 1，而且必须写出理由；③ 算到 0.847 就停、忘了除以 P(C) 的，结果会错。

1. 补父节点 T：P(C|E) = P(C|E,T)·P(T) + P(C|E,T^c)·P(T^c) = 0.93 × 0.9 + 0.1 × 0.1 = 0.837 + 0.01 = 0.847。
2. 同样补一次：P(C|E^c) = P(C|E^c,T)·P(T) + P(C|E^c,T^c)·P(T^c) = 0 × 0.9 + 0 × 0.1 = 0。
3. 分母：P(C) = 0.847 × 0.95 + 0 × 0.05 = 0.80465。
4. P(E|C) = (0.847 × 0.95) / 0.80465 = 0.80465 / 0.80465 = 1。
5. 为什么正好是 1：C 的条件概率表里 E^c 那两格都填 0，意思是断电时绝不可能上课。于是「课上了」这个观测直接蕴含「供电正常」，后验被顶到确定。这也是检查表格有没有抄错的一个好办法——表里出现 0，往往意味着某个方向的推理会退化成确定性结论。

闪卡自测

1. 概率函数必须满足哪三条性质？第三条有什么前提？

0 ≤ P(E) ≤ 1；P(S) = 1；若 E₁…E_n 两两互斥，则 P(E₁ ∪ … ∪ E_n) = P(E₁) + … + P(E_n)。第三条要求事件两两互斥（p.10）。

2. 抛三次硬币，按正面个数分组的四个概率分别是多少？

X = 3 的概率 1/8（HHH），X = 2 是 3/8（HHT, HTH, THH），X = 1 是 3/8（HTT, THT, TTH），X = 0 是 1/8（TTT）。四者相加为 1，正好是可加性的实例（p.11）。

3. 随机变量的两条性质是什么？

一，X(s) 是一个函数，它划出的那些事件互不相交；二，X: S → R 必须对 S 中所有结果都有定义且单值，一个结果只能对应一个数（p.11）。

4. 写出条件概率的定义式并解释它的直观。

P(E|F) = P(EF)/P(F)，前提 P(F) ≠ 0。直观是换了样本空间：F 发生之后宇宙缩小成 F，分母换成 P(F)，分子只数 F 里还属于 E 的那部分（p.12）。

5. 两个概率均不为零的事件，互斥的话可能独立吗？

不可能。互斥意味着 P(EF) = 0，而独立要求 P(EF) = P(E)P(F) > 0，两者矛盾。只有当 P(E) = 0 或 P(F) = 0 时才能同时成立（p.13）。

6. 天气分布表里 Snowy 的概率是 0，为什么不直接把这一行删掉？

概率为 0 和不可能是两回事。「香港下雪」仍然在样本空间里，只是概率为零。在无限样本空间里这个区分更明显，比如气温恰好等于某个实数值的概率是 0，但它确实可能发生（p.14）。

7. 疾病检测题里 P(D|+) ≈ 0.0194，怎么解释它违反直觉？

先验极小时假阳性的绝对数量压倒真阳性。1000 人里 1 个病人贡献 0.00099 的阳性，999 个健康人按 5% 误报贡献 0.04995，是前者的 50 倍。忽略这种基础率影响才叫 base rate fallacy，这里是概率练习，不是临床诊断建议（p.17）。

8. 链式法则怎么展开三个变量？对变量顺序有要求吗？

P(A₁A₂A₃) = P(A₁|A₂A₃)·P(A₂|A₃)·P(A₃)，规律是每次剥掉最左边一个变量、把剩下的全塞进条件里。顺序没有要求，任意顺序都成立；BBN 的技巧正是选一个好顺序让每项的条件集尽量小（p.18）。

9. 完整推导 P(A|BC) = P(A|C)。

P(A|BC) = P(ABC)/P(BC) = P(AB|C)P(C) / [P(B|C)P(C)]，上下用 P(XY) = P(X|Y)P(Y) 把 C 提出来、P(C) 约掉；再把分子按条件独立定义展开成 P(A|C)P(B|C)，约掉 P(B|C)，得 P(A|C)（p.19）。

10. BBN 的三条定义性质是什么？

是图模型，图上标注的是条件概率；图必须有向且无环（DAG）；每个节点在给定其父节点后，与其所有非后代节点条件独立（p.21）。

11. 汇聚连接的展开式用的依据和另外两种有什么不同？

汇聚 A→V←B 展开成 P(V|AB)·P(A)·P(B)，把 P(A|B) 换成 P(A) 的依据是 Independence (no parent)——A、B 都是根节点、本来就独立，用不着条件独立假设。串行和发散那两步用的才是条件独立（p.21–p.23）。

12. p.24 那张 C 的条件概率表反映了什么建模假设？

后两行 P(C|E^c,T) 和 P(C|E^c,T^c) 都是 0，意思是没电就绝对上不了课；而 P(C|E,T^c) = 0.1，意思是有电但老师不来仍有 0.1 的概率上课，可能是自习或代课（p.24）。

下一讲

本周另一份课件走的是另一条路线：当信息是确定的蕴含关系而非概率时，用符号逻辑做推理。