|
本帖最后由 Zhao_kar 于 2024-3-3 15:38 编辑
控制之美(卷2)第七节——矩阵求导实例之线性回归
声明:
- 本节用一个简单的实际例子来展开向量矩阵求导,同样也是前面的运动员例子
- 只是15个运动员只需要考虑身高和体重这两个变量
实例引入:
- 首先根据数据可以绘制身高+体重的散点图,一般身高越高,体重越重,我们可以用一个线性函数表示
- 此时定义一个预测方程为下图,其中左到右分别是身高估计值、两个参量和一个实际体重
- 我们要确认y1和y2,同时定义一个代价函数,使其损失最小,代价函数定义为上图第二个式子:
- 其中式子左右的差就是实际值与估计值的误差,也就是说平方和最小时,预测方程可以较好体现数据的关系
- 这种方法就是最小二乘法
计算过程:
- 首先是把四个参数写成矩阵形式,构建方程,然后引入代价函数
- 然后得到一个函数后,把它分成三个部分,去做求导,求导公式见下图左上部分,且计算后得到如下右边部分的结果
-
|
|