博客
关于我
强烈建议你试试无所不能的chatGPT,快点击我
线性回归当中的矩阵求导问题
阅读量:5339 次
发布时间:2019-06-15

本文共 488 字,大约阅读时间需要 1 分钟。

问题

 

 

 

说明: yw为列向量,X为矩阵

式子演化

看到这个例子不要急着去查表求导,先看看它的形式,是u(w)v(w)的形式,这种形式一般求导较为复杂,因此为了简化运算,我们先把式子展开成下面的样子(注意:(Xw)T=wTXT): 

 

然后就可以写成四个部分求导的形式如下(累加后求导=求导后累加): 

 

 

求导

  •  

说明:分子部分为标量,分母部分为向量,找到维基百科中的表格,在表格中匹配形式到第1行的位置,因为分母为列向量,因此为分母布局,对应的求导结果就是 0 。


  •  

说明:同样的,在维基百科中的表格,在表格中匹配形式到第11行的位置,对应的求导结果就是 XTy 。


  •  

说明:因为分子为标量,标量的转置等于本身,所以对分子进行转置操作,其等价于第二部分。


  •  

说明:同样的,在维基百科中的表格,在表格中匹配形式到第13行的位置,矩阵的转置乘上本身(XTX)为对称矩阵当做表格中的A ,所以得到求导结果 2XTXw 。

整合

把四个部分求导结果进行相应的加减就可以得到最终的结果: 

得解

转载于:https://www.cnblogs.com/geeksongs/p/11148045.html

你可能感兴趣的文章
shell cat 合并文件,合并数据库sql文件
查看>>
python全栈 计算机硬件管理 —— 硬件
查看>>
Delphi7编译的程序自动中Win32.Induc.a病毒的解决办法
查看>>
egret3D与2D混合开发,画布尺寸不一致的问题
查看>>
struts1和struts2的区别
查看>>
Redis常用命令
查看>>
微软职位内部推荐-Sr. SE - Office incubation
查看>>
C#类与结构体究竟谁快——各种函数调用模式速度评测
查看>>
我到底要选择一种什么样的生活方式,度过这一辈子呢:人生自由与职业发展方向(下)...
查看>>
poj 题目分类
查看>>
windows 安装yaml支持和pytest支持等
查看>>
读书笔记:季羡林关于如何做研究学问的心得
查看>>
面向对象的优点
查看>>
套接口和I/O通信
查看>>
阿里巴巴面试之利用两个int值实现读写锁
查看>>
浅谈性能测试
查看>>
Winform 菜单和工具栏控件
查看>>
CDH版本大数据集群下搭建的Hue详细启动步骤(图文详解)
查看>>
巧用Win+R
查看>>
浅析原生js模仿addclass和removeclass
查看>>