将代价函数转化为矩阵方程的形式，再对其求导，令其等于0，得到代价函数取得最小值时的
θ
θ
θ：
θ
=
(
X
T
X
)
−
1
X
T
θ=(X^TX)^{-1}X^Ty
θ=(XTX)−1XTy
对比梯度下降算法：
正规方程算法不需要学习率和迭代，但对大规模数量（万数量级以上）的特征点（n），工作效率十分低下。对于一些如分类算法等等更加复杂的算法，正规方程法并不适用于求它们在极值处的θ值。
正规方程的不可逆性
在使用正规方程时，要注意的问题是，如果设计矩阵X不可逆（为奇异矩阵），正规方程会无法使用。
当设计矩阵X不可逆时，应当尝试删除一些特征点，或者考虑正规化（Regularation）。
但是总体而言，矩阵X不可逆的情况是极少数的。
原文地址:https://blog.csdn.net/2201_75381449/article/details/134721606
本文来自互联网用户投稿，该文观点仅代表作者本人，不代表本站立场。本站仅提供信息存储空间服务，不拥有所有权，不承担相关法律责任。
如若转载，请注明出处：http://www.7code.cn/show_18799.html
如若内容造成侵权/违法违规/事实不符，请联系代码007邮箱：suwngjj01@126.com进行投诉反馈，一经查实，立即删除！
声明：本站所有文章，如无特殊说明或标注，均为本站原创发布。任何个人或组织，在未征得本站同意时，禁止复制、盗用、采集、发布本站内容到任何网站、书籍等各类媒体平台。如若本站内容侵犯了原著者的合法权益，可联系我们进行处理。
