1.3.3 全概率公式与贝叶斯公式

全概率公式

由概率的 定义 1.2.5 (概率测度), 大家看到, 概率测度除了非负性和规范性外, 就只有可列可加性了. 可以预见, 在分析计算较为复杂的事件的概率时, 可用的性质只有可列可加性. 也就是说, 通过将较为复杂事件分解为有限多个或可列多个互不相容的较为简单事件的和, 可以将复杂事件的概率表示为简单事件的概率之和. 这个思想虽然简单, 但却是贯穿概率论学科的基本思想.

在有些随机试验中, 一个较为复杂的结果 $A$ 可能与另外若干个不同时发生的结果 $B_1,B_2,\cdots$ 等相联系 (或者说 $B_1,B_2,\cdots$ 是导致 $A$ 发生的原因). 也就是说, 一次试验中 $A$ 只能与 $B_1,B_2,\cdots$ 中某一个同时发生, 且二者同时发生的概率容易计算, 此时 $A$ 的概率就可以用定理 1.3.2 给出的全概率公式计算. 还可以用定理 1.3.3 给出的贝叶斯 (Bayes) 公式计算 $P\left(A\mid B_i\right),i=1,2,\cdots$.

定理 1.3.2 (全概率公式)

设 $\left(\Omega ,\mathcal{F},P\right)$ 为概率空间,

• $B_i\in \mathcal{F},P\left(B_i\right)>0,i=1,2,\cdots$,
• $B_i\cap B_j=\varnothing ,i\ne j$,
• $A\subset \bigcup _{i=1}^{\infty }{B}_i$,

则

$$P\left(A\right)=\sum _{i=1}^{\infty }P\left(B_i\right)P\left(A\mid B_i\right).\text{\hspace{1em}(1.3.5)}$$

Link to original

• 例 1.3.3 (袋中摸取乒乓球)
• 例 1.3.4 (工厂产品不合格品概率)
• 4.1

贝叶斯公式

将 (1.3.5) 稍作变形, 我们得到定理 1.3.3.

定理 1.3.3 (贝叶斯公式)

在 定理 1.3.2 (全概率公式) 的条件下, 若 $P\left(A\right)>0$, 则

$$P\left(B_j\mid A\right)=\frac{P\left(B_j\right)P\left(A\mid B_j\right)}{\sum _{i=1}^{\infty }P\left(B_i\right)P\left(A\mid B_i\right)}.\text{\hspace{1em}(1.3.6)}$$

Link to original

贝叶斯公式 (1.3.6) 是由英国学者贝叶斯首先给出的, 该公式的推导虽然简单, 但其结论却不同凡响, 甚至可以说它引领了一个学派. 在引入全概率公式时, 我们曾指出导致 $A$ 发生的原因可能是 $B_1,B_2,\cdots$ 等事件, 且往往 $B_1,B_2,\cdots$ 发生的概率 $P\left(B_1\right),P\left(B_2\right),\cdots$ 是预先知道的, 我们称为先验概率, 这些概率值是不知 $A$ 是否发生时的无条件概率. 如果一次随机试验的结果是 $A$ 发生了, 那么此时 $B_1,B_2,\cdots$ 发生的概率就与先前的先验概率有所不同. 这种情况在人们的生活中大量存在.

Example

花 2 元钱买一张体育福利彩票, 得大奖的可能性很小, 但有人告诉你中奖了, 那么你得大奖的可能性就大大增加了.

另外, 还可以利用贝叶斯公式的思想作推断和判断. 设 $B_1,B_2,\cdots$ 是导致结果 $A$ 发生的原因, 那么, $A$ 的发生是由原因 $B_i$ 导致的可能性的大小就是 $P\left(B_i\mid A\right)$.

Example

医生在给一位症状为全身乏力的患者诊治时, 经验老到的医生知道何种原因 (比如贫血, 肝炎, 高血压等等) 可能会使患者全身乏力, 还知道人群中一个人患贫血, 患肝炎, 高血压等等的比率是多少, 从而他可以通过计算一个全身乏力的患者患贫血, 患肝炎, 高血压等等的条件概率的大小, 来帮助他判断该按贫血, 肝炎, 高血压等等的哪种疾病来治疗.

• 例 1.3.5 (系统维护人员的配置问题)
• 题型 2 利用贝叶斯公式求概率
• 三门问题