是同學(xué)
2021-07-02 00:20老師想問下，這里求b1_cap和b0_cap時，是怎么用到minimize the square residual這個條件的？ 老師推導(dǎo)的時候感覺沒有直接體現(xiàn)出minimize the square residual這個條件。
所屬：FRM Part I > Quantitative Analysis 視頻位置 相關(guān)試題
來源： 視頻位置 相關(guān)試題
1個回答
Jenny助教
2021-07-02 17:32
該回答已被題主采納
同學(xué)你好，簡單來說，你可以理解為，模型內(nèi)部會進行非常多次的模擬和計算，同時也會得到很多組的系數(shù)（b0 cap 和b1 cap），最終選擇一組系數(shù)使得εi^2或者說（Yi-（b0 cap +b1 cap*Xi））^2最小，那么這組系數(shù)就是最終的系數(shù)估計量，也就是我們在回歸結(jié)果，比如ANOVA table里面看到的那組系數(shù)。
-
追問
多次模擬是說取多個樣本算多個b0cap和b1cap出來么？因為按公式算的話，一個樣本就只能算出來一個b0cap和b1cap吧？
-
追問
原版書這里畫黃線的這句話，是在說前面這兩點性質(zhì)體現(xiàn)了minimize the square residual么？ 正好老師推導(dǎo)b1_cap和b0_cap的時候分別用到了這兩點性質(zhì)，是不是這就是用到minimize the square residual這個條件的地方啊
-
追答
后面那個問題可以這樣理解的。上面那個多次模擬可能會讓你有點誤解，相對簡單線性回歸來說，一個樣本就可以算出一個截距和斜率；而多元線性回歸中，就沒有這么直接，會用到矩陣，那么對截距和斜率求解就會很麻煩，其中一個方法就是梯度下降法，梯度的本意是一個向量（矢量），表示某一函數(shù)（該函數(shù)一般是二元及以上的）在該點處的方向?qū)?shù)沿著該方向取得最大值，即函數(shù)在該點處沿著該方向（此梯度的方向）變化最快，變化率最大（為該梯度的模）。當函數(shù)是一元函數(shù)時，梯度就是導(dǎo)數(shù)（一元函數(shù)的截距和斜率的公式就是通過偏導(dǎo)函數(shù)求得的，大多數(shù)線性回歸的書中都有講解，有興趣可以看一下）。在梯度下降法中，需要我們先給參數(shù)（比如截距和斜率）賦一個預(yù)設(shè)值，然后再一點一點的修改參數(shù)（在這個過程中會產(chǎn)生很多截距和斜率的值），直到關(guān)于該參數(shù)的函數(shù)（比如誤差項）取最小值時，最終確定斜率和截距的值。
0
0
0
0
