尹同學(xué)
2022-07-25 16:36老師想問(wèn)一下，在解決overfitting的方法中，boosting與bagging有啥區(qū)別？
所屬：FRM Part II > Current Issues in Financial Markets 視頻位置 相關(guān)試題
來(lái)源： 視頻位置 相關(guān)試題
1個(gè)回答
姚奕助教
2022-07-29 15:26
該回答已被題主采納
Bagging和Boosting的區(qū)別：
1. 訓(xùn)練集
Bagging：每個(gè)訓(xùn)練集都是從原始訓(xùn)練集中有放回的選取出來(lái)的，每個(gè)訓(xùn)練集各不相同且相互獨(dú)?。
Boosting：每?輪的訓(xùn)練集都是原始選練集，只是每次訓(xùn)練后會(huì)根據(jù)本輪的訓(xùn)練結(jié)果調(diào)整訓(xùn)練集中的各個(gè)樣本的權(quán)重，調(diào)整完權(quán)重的訓(xùn)練集?于下?輪的訓(xùn)練。
2. 樣本權(quán)重
Bagging：使?Bootstraping的?式均勻抽樣
Boosting：根據(jù)每?輪的訓(xùn)練不斷調(diào)整權(quán)值，分類錯(cuò)誤的樣本擁有更?的權(quán)值。
3）弱分類器權(quán)重
Bagging：所有弱分類器權(quán)重相同，使?voting的?式（或均值）決定最終結(jié)果
Boosting：每個(gè)弱分類器都有相應(yīng)的權(quán)重，對(duì)于分類誤差?的分類器會(huì)有更?的權(quán)重。
4）并?計(jì)算
Bagging：各個(gè)預(yù)測(cè)函數(shù)可以并??成，因?yàn)閿?shù)據(jù)集相互獨(dú)?，每個(gè)模型之間也獨(dú)?，沒(méi)有序列關(guān)系。
Boosting：各個(gè)預(yù)測(cè)函數(shù)只能順序?成，因?yàn)橄?個(gè)模型的產(chǎn)?依賴于之前模型的計(jì)算結(jié)果。
0
0
0
0
