日常机器学习(二十一)误差项分析;似然函数求解;目标函数;最终求解;评估方法
一般来讲理论值和真实值之间都会有一定的误差。
假设:
1)一般来说假设误差满足均值为0,方差为sigma^2的高斯分布。
2)两个独立变量之间相互独立,即每个误差相互独立
3)所有误差满足同分布
为什么选用高斯分布呢?因为高斯分布绝大多数的情况下浮动不会太大。
预测模型为:
误差满足高斯分布
将误差带入模型:
该式子的似然函数为:
取对数后:
对对数似然函数进行化简:
前一项为常数,为了使似然函数越小,那么目标函数越大越好:
目标函数转化为:
求偏导:
偏导等于0,得到最终式子:
一般用的评估项:
分子是残差平方和,分母是类似方差项,这个值越接近1说明结果越好。
假设:
1)一般来说假设误差满足均值为0,方差为sigma^2的高斯分布。
2)两个独立变量之间相互独立,即每个误差相互独立
3)所有误差满足同分布
为什么选用高斯分布呢?因为高斯分布绝大多数的情况下浮动不会太大。
预测模型为:
误差满足高斯分布
将误差带入模型:
该式子的似然函数为:
取对数后:
对对数似然函数进行化简:
前一项为常数,为了使似然函数越小,那么目标函数越大越好:
目标函数转化为:
求偏导:
偏导等于0,得到最终式子:
一般用的评估项:
分子是残差平方和,分母是类似方差项,这个值越接近1说明结果越好。
评论
发表评论