统计学－参数估计

参数估计在统计方法中的地位 当在研究中从整体获得一组数据后，如何通过这组数据信息对总体特征进行估计，也就是如何从局部结果推论总体的情况，成为总体参数估计。
参数估计可分为 点估计和区间估计两种。
贝叶斯学派和频率学派最大的不同、根上的不同，就是在于模型 y=wx+b 其中的 w 和 b 两个参数，频率学派认为参数是固定的、也就是上面的非随机模型，只要通过不停的采样、不停的观测训练，就能够估算参数 w 和 b，因为它们是固定不变的；而贝叶斯学派相反，他们认为这些参数是变量，它们是服从一定的分布的，也就是上面的随机模型，这是它最根本的差别。通常上面两种也被称为点估计和区间估计。
一、点估计
点估计(point estimation)是依据样本估计总体分布中所含的未知参数或未知参数的函数。通常它们是总体的某个特征值，如数学期望、方差和相关系数等。
构造点估计常用的方法：

①矩估计法。用样本矩估计总体矩，从而得到总体分布中参数的一种估计。它的思想实质是用样本的经验分布和样本矩去替换总体的分布和总体矩。矩估计法的优点是简单易行, 并不需要事先知道总体是什么分布。缺点是，当总体类型已知时，没有充分利用分布提供的信息。一般场合下，矩估计量不具有唯一性。

②最大似然估计法。于1912年由英国统计学家R.A.费希尔提出，利用样本分布密度构造似然函数来求出参数的最大似然估计。

③最小二乘法。主要用于线性统计模型中的参数估计问题。

④贝叶斯估计法。基于贝叶斯学派的观点而提出的估计法。可以用来估计未知参数的估计量很多，于是产生了怎样选择一个优良估计量的问题。首先必须对优良性定出准则，这种准则是不唯一的，可以根据实际问题和理论研究的方便进行选择。优良性准则有两大类：一类是小样本准则，即在样本大小固定时的优良性准则；另一类是大样本准则，即在样本大小趋于无穷时的优良性准则。最重要的小样本优良性准则是无偏性及与此相关的一致最小方差无偏估计，其次有容许性准则，最小化最大准则，最优同变准则等。大样本优良性准则有相合性、最优渐近正态估计和渐近有效估计等。
二、区间估计
区间估计(interval estimation)是依据抽取的样本，根据一定的正确度与精确度的要求，构造出适当的区间，作为总体分布的未知参数或参数的函数的真值所在范围的估计。例如人们常说的有百分之多少的把握保证某值在某个范围内，即是区间估计的最简单的应用。

(1)一个总体参数的区间估计： 一个总体参数的区间估计 (2)两个总体参数的区间估计： 两个总体参数的区间估计
总结：
![ 一个总体参数的区间估计 两个总体参数的区间估计

三、样本量的确定
(1)估计总体均值时样本量的确定

(2)估计总体比例时样本量的确定
四、评价估计量的标准
(1)无偏性
无偏性是指估计量抽样分布的数学期望等于总体参数的真值。无偏性的含义是，估计量是一随机变量，对于样本的每一次实现，由估计量算出的估计值有时可能偏高，有时可能偏低，但这些估计值平均起来等于总体参数的真值。在平均意义下，无偏性表示没有系统误差。
(2)有效性
有效性是指估计量与总体参数的离散程度。如果两个估计量都是无偏的，那么离散程度较小的估计量相对而言是较为有效的。离散程度是用方差度量的，因此在无偏估计量中，方差愈小愈有效。
(3)一致性
一致性，又称相合性，是指随着样本容量的增大，估计量愈来愈接近总体参数的真值。