閆同學(xué)
2023-11-14 18:27SVM和KNN都是分類總得方法為什么是線性?這個線性的性質(zhì)是什么意思?
所屬:CFA Level II > Quantitative Methods 視頻位置 相關(guān)試題
來源: 視頻位置 相關(guān)試題
1個回答
愛吃草莓的葡萄助教
2023-11-15 10:57
該回答已被題主采納
同學(xué)你好。SVM和KNN雖然它們都可以應(yīng)用于非線性和復(fù)雜的數(shù)據(jù)類型,但默認(rèn)情況下它們被解釋為線性方法,因為它們的基本形式都假設(shè)數(shù)據(jù)具有線性結(jié)構(gòu)。
在線性SVM中,決策邊界是一個超平面,它將數(shù)據(jù)點分成兩類。超平面可以通過找到最大化邊距的 hyperplane 來定義,其中邊距是兩類數(shù)據(jù)點之間的最小距離。這種方法假設(shè)數(shù)據(jù)在超平面上具有線性可分性。
另一方面,在最簡單的KNN算法中,預(yù)測是基于一個觀察點與其最近鄰居的相似性度量。這種度量通常是歐幾里得距離或其他形式的內(nèi)積,它們在低維空間中產(chǎn)生直線效果。因此,在這種情況下,“線性”指的是內(nèi)積或度量的距離度量,而不是數(shù)據(jù)本身的線性關(guān)系。
同學(xué)不需要理解到這么深,可以簡單的將線性理解為“直線”,使用“直線”將兩組數(shù)據(jù)分隔開。
