劉同學(xué)
2025-01-10 12:22What is information gain
所屬:FRM Part I > Quantitative Analysis 視頻位置 相關(guān)試題
來源: 視頻位置 相關(guān)試題
1個回答
黃石助教
2025-01-13 09:26
該回答已被題主采納
同學(xué)你好。Information gain指的是信息增益。在決策樹中,每個feature都能夠給我們帶來一定的信息增益,簡單來說其實(shí)就是給我們提供額外的信息、降低了我們的不確定性。舉個例子,假設(shè)你現(xiàn)在是一家公司的HR。同時假設(shè)每個應(yīng)聘者都有兩個不同的feature,其中feature 1是該應(yīng)聘者是否有碩士學(xué)位,feature 2是該應(yīng)聘者喜歡吃麥當(dāng)勞的漢堡還是肯德基的漢堡。顯然,第一個feature能夠給我?guī)砀嗟男畔⒃鲆妫喝绻搼?yīng)聘者是碩士畢業(yè)的話,那么他將更有可能入職,此時不確定性就降低了(而你也在獲取該feature的信息后得到了更多的信息增益);feature 2則是無關(guān)緊要的,不管你愛吃哪家的漢堡,通常不會影響你入職與否,該事件的不確定性并不會降低,對你來說也就沒有信息增益。
