1.3 概率的定义与性质

作者: blueband21c | 来源:发表于2019-03-11 21:38 被阅读0次

1.3 概率的定义与性质
概率论导论笔记
概率基础
统计学5、6章
NJUPT《概率论与数理统计》
条件概率
树的定义与性质
概率论基础
一、随机事件及其概率笔记
第一章算法基础——概率论与数理统计基础

1.3 概率的定义与性质

对概率的直观认识

（随机）事件发生的可能性（的大小）
取值是客观确定的，不受人的主观意愿影响
- 可以通过大量重复试验加以检验
越容易发生的事件概率（值）越大，越不容易发生的事件的概率（值）越小
- 不可能事件的概率： $P ( \Phi ) = 0$
- 必然事件的概率： $P ( \Omega ) = 1$

概率论关注的基本问题 如何理解或确定随机事件发生可能性的大小

概率的几种来源

频率：在一系列重复试验中事件发生的频率
- 例：重复掷骰子，得到每个点数出现概率越来越精确的值
- 例：蒲丰投针实验，重复的次数，得到的 $\pi$ 值约精确
（主观）假设 ：依据以往的经验或历史观察的积累形成主观判断（基于某种专家共识提出数学假设）
- 信念：
  - 例：中国足球队有很大概率从世界杯小组赛出线，概率为30%
  - 例：某特大案件被侦破的概率为60%
  - 例：明天股市上涨的概率为70%
  - 例：校运会当天下雨的概率为95%
- 约定：
  - Principle of Indifference（同等无知原则）：如果没有任何理由认为某种可能性比其他可能性有优势的时候，我们应给予这些可能性同等的主观概率
  - 例：例抛一枚均匀的硬币,正、反面出现的概率相同
  - 例：将一段木棒任意截为两段,木棒上截点机会均等
  - 例：向某区域投掷一小球,认为小球落在区域内任何点都是等可能的
  - 例：物理学中，研究分子热运动时，假设每个分子朝任何方向的运动都是等可能的

James Bernoulli(1654-1705)在著作Arts of Conjecturing（《推测术》、《猜度术》、《推想的艺术》）中，将概率分为主观概率和客观概率，前者来源于某种主观的判断，后者则依赖于某种推理和计算。客观概率又被分为古典概率和统计概率，前者基于先验的主观概率进行推算，后者则需要利用频率加以估计。

Bertrand's Paradox：在半径为 $r$ 的圆内“任意”作一弦，求此弦长度 $l$ 大于圆内接等边三角形边长 $\sqrt3r$ 的概率 $p$ 。

三种不同的等可能假设

解法一：考虑弦的中点在圆内的任意性,则有
$p = \frac { \pi ( r / 2 ) ^ { 2 } } { \pi r ^ { 2 } } = \frac { 1 } { 4 }$
解法二：考虑弦的端点在圆周上的任意性,则有
$p=\frac{AB\text{的弧长}}{圆周长}=\frac13$
解法三：考虑弦的中点到圆心的距离的任意性,则有
$p = \frac { r / 2 } { r } = \frac { 1 } { 2 }$

同一问题有三种不同答案，究其原因在于圆内“取弦”时规定尚不够具体，不同的“等可能性假定”导致了不同的样本空间，具体如下：其中“均匀分布”应理解为“等可能取点”。

解法一中，假定弦的中点在直径上均匀分布，直径上的点组成样本空间 $\Omega_1$
解法二中假定弦的另一端在圆周上均匀分布，圆周上的点组成样本空间 $\Omega_2$
解法三中假定弦的中点在大圆内均匀分布，大圆内的点组成样本空间 $\Omega_3$
可见，上述三个答案是针对三个不同样本空间引起的，它们都是正确的，贝特朗悖论引起人们注意，在定义概率时要事先明确指出样本空间是什么。

更多的分析和解释：Bertrand悖论浅析

概率的公理化

1902年,勒贝格(H.Lebesgue)的论文《积分、长度和面积》建立了测度论基础
物体的长度，平面区域的面积都是一种“测度”,具有“非负性”与“可加性”的特征
研究发现“概率”实际上是对随机事件发生可能性大小的一种“度量”,也应具有“测度”的特征
1933年，苏联数学家柯尔莫哥洛夫在测度论基础上建立了概率论公理化体系

概率的定义
设 $\mathscr{F}$ 是样本空间 $\Omega$ 上的事件域，对任意 $A\in\mathscr{F}$ ，若存在实数 $P(A)$ 与之对应，且满足

非负性 ： $P(A)\geq 0,\;(A\in\mathscr{F})$
规范性 ： $P(\Omega)=1$
可列可加性 ：对两两不相容的事件列 $\{A_k\}_{k=1}^{\infty}$ ，有
$P \left( \bigcup _ { k = 1 } ^ { \infty } A _ { k } \right) = \sum _ { k = 1 } ^ { \infty } P \left( A _ { k } \right)$
则称 $P(A)$ 为事件A的概率，称 $\{\Omega,\mathscr{F},P\}$ 为概率空间

注：

概率是定义在事件域上的函数
“非负性”和“可列可加性”是测度的本质特征
“规范性”并非概率的本质特征，而是一个人为的约定！

概率的性质

$P ( \varnothing ) = 0$
有限可加性 ：若 $A_1,A_2,...,A_n$ 两两不相容，则
$P \left( \bigcup _ { k = 1 } ^ { n } A _ { k } \right) = \sum _ { k = 1 } ^ { n } P \left( A _ { k } \right)$
真差与单调性 ：若 $A\subset B$ ，则 $P ( A ) \leq P ( B )$ ，且
$P ( B - A ) = P ( B ) - P ( A )$
$0 \leq P ( A ) \leq 1$
$P ( \overline { A } ) = 1 - P ( A )$
加法公式 对任何事件 $A,B$ ，有
$P ( A \cup B ) = P ( A ) + P ( B ) - P ( A B )$

三事件的加法公式

三事件的加法公式

$\begin{aligned} P \left( A _ 1 \cup A _ { 2 } \cup A _ { 3 } \right) & = P \left( A _ { 1 } \right) + P \left( A _ { 2 } \right) + P \left( A _ { 3 } \right) \\ & - P \left( A _ { 1 } A _ { 2 } \right) - P \left( A _ { 2 } A _ { 3 } \right) - P \left( A _ { 1 } A _ { 3 } \right) \\ & + P \left( A _ { 1 } A _ { 2 } A _ { 3 } \right) \end{aligned}$

挖补公式
$\begin{aligned} P \left( A _ { 1 } \cup A _ { 2 } \cup \cdots \cup A _ { n } \right) = & \sum _ { i = 1 } ^ { n } P \left( A _ { i } \right) - \sum _ { i \leq i < j \leq n } P \left( A _ { i } A _ { j } \right) \\ & + \sum _ { 1 \leq i < j < k \leq n } P \left( A _ { i } A _ { j } A _ { k } \right) \\ &- \sum _ { 1 \leq i < j < k < l \leq n } P \left( A _ { i } A _ { j } A _ { k } A _ { l } \right)\\ &+ \cdots + ( - 1 ) ^ { n - 1 } P \left( A _ { 1 } A _ { 2 } \cdots A _ { n } \right) \end{aligned}$