概率（二）

作者: 无敌最俊俏 | 来源:发表于2018-10-11 12:59 被阅读0次

概率（二）
统计二-概率与概率分布
运气（二）概率
深度学习之路
统计学基础
木东居士学习计划：第三周数据分布（详实版）
学习笔记|程序员的数学：概率统计#3
2018-06-25
概率统治未来
②基础理论之概率统计

离散随机变量

伯努利分布(Bernoulli)：符合伯努利分布的随机变量只有两个可能的结果： $X(s)\in$ {0(Fail),1(Pass)}。记 $P(X=1)=p, P(X)=0=1-p=q$ 。
二项式分布(Binomial)：进行 $n$ 次结果符合伯努利分布的实验，用 $X$ 表示得到1(Pass)的次数，则 $P(X=k)=\binom{n}{k}p^kq^{n-k}, k = 0,1,2,\dots,n$ 。
几何分布(Geometry)：进行无数次结果符合伯努利分布的实验，用 $X$ 表示第一次得到1(Pass)前0(Fail)的个数，则 $P(X=k)=q^kp$ 。
泊松分布(Poisson)：某类随机且独立的事件平均在单位时间里出现 $\lambda$ 次，用 $X$ 表示它在单位时间内实际出现的次数，则 $P(X=k)=\frac{\lambda^k}{k!}e^{-\lambda}$ 。
当二项式分布的 $n$ 足够大， $p$ 足够小（一般取 $n\ge20,p\le0.05$ ）时，可以将二项式分布近似为泊松分布。

伯努利过程：一个由有限或无限个独立，符合伯努利分布的随机变量所组成的离散时间中的随机过程。
泊松过程：一个由独立随机变量所组成的连续时间中的随机过程。将事件的“发生”记作1，“不发生”记作0，则这些随机变量也可以看作符合伯努利分布。
由伯努利过程和泊松过程的定义可以看出，泊松分布是二项式分布趋近极限时的情况。这也是二项式分布可以近似为泊松分布的原因。当然，在数学上有更好的推导：
$\begin{align} \lim_{n\to\infty,p\to0}\binom{n}{k}p^kq^{n-k}&=\lim_{n\to\infty,p\to0}\frac{n*(n-1)\cdots(n-k+1)}{k!}p^kq^{n-k}\\ &=\lim_{n\to\infty,p\to0}\frac{(np)^k}{k!}(1-p)^{n-k}\\ &=\lim_{n\to\infty,p\to0}\frac{\lambda^k}{k!}(1-p)^{\frac{\lambda}{p}}\frac{1}{(1-p)^k}\\ &=\frac{\lambda^k}{k!}e^\lambda \end{align}$

连续随机变量

均匀分布(Uniform)：
$f_X(x)=\left\{\begin{matrix} \frac{1}{b-a}&x\in[a,b]\\ 0 & o.w \end{matrix} \right.$
指数分布(Exponential)： $f_X(x)=U(x)ke^{-k}$
$k>0$ , $U(x)$ 是阶跃函数。
正态/高斯分布(Normal/Gaussian)：也常被记作 $\mathcal{N}\sim(\mu,\sigma^2)$
$f_X(x)=\frac{1}{\sqrt{2\pi\sigma^2}} \cdot e^{-\frac{(x-\mu)^2}{2\sigma^2}}$
计算正态分布的累积分布函数：
a) 转换为标准正态分布： $x'=\frac{x-\mu}{\sigma^2}$
b) 标准正态分布的积分可以通过查表得出。注意：
$\begin{align} \Phi(x_0)&=\int_{-\infty}^{x_0}\frac{1}{\sqrt{2\pi}}e^{-\frac{x^2}{2}} dx\\ Q(x_0)&=1-\Phi(x)=\int_{x_0}^{\infty} \frac{1}{\sqrt{2\pi}}e^{-\frac{x^2}{2}} dx \end{align}$
高斯误差函数(error function)：
$\begin{align} \textrm{erf}(x)&:=\int_{-x_0}^{x_0}\frac{1}{\sqrt{2\pi}} e^{-x^2} dx\\ &=\int_{0}^{x_0}\frac{2}{\sqrt{2\pi}} e^{-\frac{(\sqrt{2}x)^2}{2}} dx\\ &=2\Phi(\sqrt{2}x)-1 \end{align}$
它的互补误差函数是
$\textrm{erfc}(x)=1-\textrm{erf}(x)$
莱斯分布(Racian)：一种最常见的用于描述接收信号包络统计时变特性的分布类型。
$f_X(x)=\left\{\begin{matrix} \frac{x}{\sigma^2}e^{-\frac{x^2+A^2}{2\sigma^2}}I_0(\frac{Ax}{\sigma^2})& A\ge 0, x\ge 0\\ 0 & x<0 \end{matrix}\right.$
其中 $A$ 是主信号幅度的峰值， $\sigma^2$ 是多径信号分量的功率 $I_0$ 是修正的0阶第一类贝塞尔函数。当 $A\to0$ 时，退化为瑞利分布。
瑞利分布(Rayleigh)：
$f_X(x)=\left\{\begin{matrix} \frac{x}{\sigma^2}e^{-\frac{x^2}{2\sigma^2}}& x\ge 0\\ 0 & x<0 \end{matrix}\right.$

概率（二）
离散随机变量伯努利分布(Bernoulli)：符合伯努利分布的随机变量只有两个可能的结果：{0(Fail),1(...
统计二-概率与概率分布
概率的古典具有的两大特点结果有限。即基本空间中只含有有限个元素。如掷硬币的试验中，只能出现“正面朝上”和“反面朝...
运气（二）概率
对于运气，我的观念是有的人运气好，有的人运气差；同一个人，有时运气好，有时运气差。最明显的例子是打牌，赢的时候，会...
深度学习之路
一.概率论与统计推断概率论与统计推断(一) ------ 概率论的基本概念概率论与统计推断(二) ------ ...
统计学基础
概念：随机变量，连续型变量，概率密度函数，边缘概率，条件概率，期望，方差，协方差，二项分布 http://blo...
木东居士学习计划：第三周数据分布（详实版）
基本概念古典概率条件概率离散分布连续变量期望值离散变量的概率分布二项分布伯努利分布泊松分布连续变量的概率分布均...
学习笔记|程序员的数学：概率统计#3
3.离散值的概率分布 3.1 一些简单的例子 pass 3.2 二项分布 3.2.1 二项分布的推导二项分布概率...
2018-06-25
客观概率不断的重复采样主观概率贝叶斯概率贝叶斯公式（重要）随机变量随机变量概率分布二项式的随机变量分布 ...
概率统治未来
最新电影，概率杀人，有我十一定律的影子，只要概率大过一个阕值，相比二选一的小概率，它就必然发生，
②基础理论之概率统计
二. 概率统计离散型概率分布 1. 数学期望（加权平均值） = 平均值 = 值*概率累加 2.方差 3.协...