
均方误差计算公式
公司理财-沙画图片
2023年3月18日发(作者:还田)数字信号处理中均值、均⽅值、均⽅差、均⽅根值、均⽅误差、均⽅根误差、⽅
差、协⽅差、标准差对。。。
均值、均⽅值、均⽅差、均⽅根值、均⽅误差、均⽅根误差、⽅差、协⽅差、标准差
均值(MeanValue)
均值表⽰信号中直流分量的⼤⼩,⽤E(x)表⽰。⾼斯⽩噪声的均值为0,因此它只有交流分量
均值的平⽅,即{E(x)}^2,表⽰信号中直流分量的功率。
均⽅值
均⽅值表⽰信号平⽅后的均值,⽤E(x^2)表⽰。均⽅值表⽰信号的平均功率。信号的平均功率=信号交流分量功率+信号直流分量功率。
均⽅根(⽅均根值或有效值)
均⽅根值,也称作为⽅均根值或有效值,⽤RMS(rootmeansquare),即均⽅值开平⽅。在物理学中常⽤均⽅根值来分析噪声,反映物
理量的有效值。
⽅差(Variance)
⽅差是在概率论和统计⽅差衡量随机变量或⼀组数据时离散程度的度量。概率论中⽅差⽤来度量随机变量和其数学期望(即均值)之间的偏
离程度。统计学中的⽅差(样本⽅差)是每个样本值与全体样本值的平均数之差的平⽅值的平均数。在许多实际问题中,研究⽅差即偏离程
度有着重要意义。
统计学中计算公式
在统计描述中,⽅差⽤来计算每⼀个变量(观察值)与总体均数之间的差异。为避免出现离均差总和为零,离均差平⽅和受样本含量的影
响,统计学采⽤平均离均差平⽅和来描述变量的变异程度。
总体⽅差计算公式(有偏估计):
为总体⽅差,X为变量,为总体均值,N为总体例数
样本⽅差计算公式:
为总体⽅差,X为变量,为样本均值,n-1为样本例数
为样本均值是为总体均值的⽆偏估计,因此可替换为
标准差(StandardDeviation)、均⽅差
=xn
xi=0
∑
i
x=rms
n
xi=0
∑
i
2
σ=
2
N
(X−μ)∑
σ2μ
s=
2
n−1
(X−)∑X
ˉ
s2X
ˉ
X
ˉ
μμX
ˉ
标准差(StandardDeviation),中⽂环境中⼜常称均⽅差,是离均差平⽅的算术平均数的平⽅根,⽤σ表⽰。在概率统计中最常使⽤作
为统计分布程度上的测量。标准差是⽅差的算术平⽅根。标准差能反映⼀个数据集的离散程度。
标准差可以当作不确定性的⼀种测量。例如在物理科学中,做重复性测量时,测量数值集合的标准差代表这些测量的精确度。
如是总体(即估算总体⽅差),根号内除以n;
如是抽样(即估算样本⽅差),根号内除以(n-1);
⽅差与标准差:
⽅差与我们要处理的数据的量纲是不⼀致的,虽然能很好的描述数据与均值的偏离程度,但是处理结果是不符合我们的直观思维的。例如:
⼀个班级⾥有60个学⽣,平均成绩是70分,标准差是9,⽅差是81,成绩服从正态分布,那么我们通过⽅差不能直观的确定班级学⽣与均
值到底偏离了多少分,通过标准差我们就很直观的得到学⽣成绩分布在[61,79]范围的概率为0.6826,即约等于下图中的34.2%*2。
均⽅误差(mean-squareerror,MSE)
均⽅误差(mean-squareerror,MSE)是反映估计量与被估计量之间差异程度的⼀种度量。MSE可以评价数据的变化程度,MSE值越
⼩,则预测模型对实验数据的描述越精确。
均⽅误差常运⽤于信号处理的滤波算法(最⼩均⽅差)中,表⽰观测值observed与估计值predicted之间的偏差,即
⼀般地在样本量⼀定时,评价⼀个点估计的好坏标准使⽤的指标总是点估计与参数真值
的距离的函数,最常⽤的函数是距离的平⽅,由于估计量具有随机性,可以对该函数求期望,这就是下式给出的均⽅误差:
均⽅误差由点估计的⽅差与偏差的平⽅两部分组成。
如果是的⽆偏估计,则此时⽤均⽅误差评价点估计与⽤⽅差是完全⼀致的,这也说明了⽤⽅差考察⽆偏估计是合理的。
如果不是的⽆偏估计,就要看其均⽅误差,即不仅看⽅差⼤⼩,还要看其偏差⼤⼩。
均⽅根误差(RMSE)
均⽅根误差亦称标准误差,是均⽅误差的算术平⽅根。换句话说,是观测值与真值(或模拟值)偏差(⽽不是观测值与其平均值之间的偏差)的
平⽅与观测次数n⽐值的平⽅根,在实际测量中,观测次数n总是有限的,真值只能⽤最可信赖(最佳)值来代替。标准误差对⼀组测量中的
特⼤或特⼩误差反映⾮常敏感,所以,标准误差能够很好地反映出测量的精密度。这正是标准误差在⼯程测量中⼴泛被采⽤的原因。因此,
标准差是⽤来衡量⼀组数⾃⾝的离散程度,⽽均⽅根误差是⽤来衡量观测值同真值之间的偏差。
协⽅差(Covariance)
MSE=(observed−predicted)
N
1
i=1
∑N
tt
2
MSE()=θ
^
E[(−θ
^
θ)]=
2
E[(−θ
^
E()+θ
^
E()−θ
^
θ)]=
2
D()+θ
^
[E()−θ
^
θ]
2
D()θ
^
∣E()−θ
^
θ∣
θ
^
θ
θ
^
θ
协⽅差在概率论和统计学中⽤于衡量两个变量的总体误差。⽽⽅差是协⽅差的⼀种特殊情况,即当两个变量是相同的情况。协⽅差表⽰的是
两个变量的总体的误差,这与只表⽰⼀个变量误差的⽅差不同。如果两个变量的变化趋势⼀致,也就是说如果其中⼀个⼤于⾃⾝的期望
值,另外⼀个也⼤于⾃⾝的期望值,那么两个变量之间的协⽅差就是正值。如果两个变量的变化趋势相反,即其中⼀个⼤于⾃⾝的期望
值,另外⼀个却⼩于⾃⾝的期望值,那么两个变量之间的协⽅差就是负值。
相关系数(correlationcoefficient)
协⽅差作为描述X和Y相关程度的量,在同⼀物理量纲之下有⼀定的作⽤,但同样的两个量采⽤不同的量纲使它们的协⽅差在数值上表现出
很⼤的差异,因此引⼊相关系数,⽤于研究变量之间线性相关程度的量。
Pearson相关系数:
1.
cov(X,Y)=n−1
(X−)(Y−)∑i=1
n
iX
ˉ
iY
ˉ
cov(X,Y)=E[XY]−E[X]E[Y]
ρ=X,Y
D(X)D(Y)
cov(X,Y)