1個回答
黃石助教
2024-11-05 13:30
該回答已被題主采納
同學你好。對于gradient descent algorithm的概念,稍作了解即可。首先明確loss function的概念。絕大多數(shù)機器學習模型都會有一個損失函數(shù),比方說均方誤差損失函數(shù)(見圖1)。這種函數(shù)其實就是用來衡量模型的精確度的。一般來說,損失函數(shù)越小,模型就越精確(如均方誤差越小、模型就越精確)。想要提高機器學習模型的精確度就要盡可能降低損失函數(shù)的值。Gradient descent algorithm就是一個常用的降低損失函數(shù)的算法,我們用這個算法不斷地調(diào)整weight和bias,以使損失函數(shù)越來越小。這一算法要用到loss function對于weight和bias的一階導,通過一階導乘以learning rate來對參數(shù)進行不斷的調(diào)整、使得loss function越來越?。ㄒ妶D2)。
