Re: [问题] 利用newton-raphson method 求回归系数

楼主: celestialgod (天)   2015-12-05 19:57:54
※ 引述《ritajen (asdfge)》之铭言:
: ※ 引述《celestialgod (天)》之铭言:
: : 我懒得推文了...
: : 问题如下:
: : 1. 你知道logistic的MLE怎么算吗?
: : 2. 你有了牛顿法的程式,但是你知道f3放什么?x0放什么吗?
: : 3. 我看不懂你创的矩阵,[Y-pi1]是从哪里来的?
: : 4. 从你的叙述里面,似乎都对newton这个函数不熟悉,你要怎么跑这个程式?
: : 5. 你知道R可以直接用glm求logistic regression的回归系数吗?
: 我知道R里面可以直接算唷,不过规定不可以使用内建函数。
: 然后我知道MLE的求法,求残差到回归线的最小平方和。
^^^^^^^^^^^^^^^^^^^^^^^^^^
logistic的求法不完全是这样...
你的Y是0 or 1,此时残差并没有太大的意义
logistic采取的是iterative reweighted least-square的方法
weighted least-square应该听过吧?
平常的least-square 对每一个样本在做加权的动作
logistic regression的Likelihood求出来之后
透过微分,可以得到
hessian 类似 X^TWX
gradient 是 X^T(y-pi) 的样子
pi = P(Y = 1 | X_i) 换成中文,就是给定X_i时,Y=1的机率
最后透过newton method做叠代就可以得到结果了~~
因此,你对logistic求解的过程不甚熟悉
所以不知道怎么利用newton这个函数
问题不是问的不好,我只是透过问题去了解你认识的程度,才方便做回答而已
我的文字可能比较生硬,如有得罪,还请多多包涵
最后,你可以google看看 logistic regression MLE 应该可以找到相关资讯
: f3的话我的理解是一个包刮{gradient,hessian}的函数,
: 我了解这两个值需要利用矩阵相乘而得。
: [Y-pi](这是提示给可以利用的矩阵),至于newton这个函数我是不熟没有错,因为刚开始接触又没有数理的背景,抱歉问了不好问题。
: 因为真的想了很多天还是无从下手,所以才想来请益各位,问题问得不好抱歉。
最后的程式:http://pastebin.com/hSJq1Enr
作者: ritajen (asdfge)   2015-12-05 20:33:00
谢谢^^ 不过我应该是先得到回归系数,才有办法算pi,这样的话我一开始的矩阵[Y-pi]是不是创造不出来?好唷,还是感谢你 :)
作者: allen1985 (我要低调 拯救形象)   2015-12-05 20:56:00
Y = pi 还比较合理我只是想说logistic是在fit机率 也许老师的hint是这个而不是Y-pi

Links booklink

Contact Us: admin [ a t ] ucptt.com