一、什么是回歸分析?
回歸分析是一種預測性的建模技術，它研究的是因變量(目標)和自變量(預測器)之間的關系。這種技術通常用于預測分析，時間序列模型以及發(fā)現(xiàn)變量之間的因果關系。例如，司機的魯莽駕駛與道路交通事故數(shù)量之間的關系，較好的研究方法就是回歸。
回歸分析是建模和分析數(shù)據(jù)的重要工具。在這里，我們使用曲線/線來擬合這些數(shù)據(jù)點，在這種方式下，從曲線或線到數(shù)據(jù)點的距離差異最小。我會在接下來的部分詳細解釋這一點。
二、我們?yōu)槭裁词褂没貧w分析?
如上所述，回歸分析估計了兩個或多個變量之間的關系。下面，讓我們舉一個簡單的例子來理解它：比如說，在當前的經濟條件下，你要估計一家公司的銷售額增長情況。現(xiàn)在，你有公司最新的數(shù)據(jù)，這些數(shù)據(jù)顯示出銷售額增長大約是經濟增長的2.5倍。那么使用回歸分析，我們就可以根據(jù)當前和過去的信息來預測未來公司的銷售情況。
使用回歸分析的好處良多。具體如下：
它表明自變量和因變量之間的顯著關系
它表明多個自變量對一個因變量的影響強度
回歸分析也允許我們去比較那些衡量不同尺度的變量之間的相互影響，如價格變動與促銷活動數(shù)量之間聯(lián)系。這些有利于幫助市場研究人員，數(shù)據(jù)分析人員以及數(shù)據(jù)科學家排除并估計出一組較佳的變量，用來構建預測模型。
三、我們有多少種回歸技術?
有各種各樣的回歸技術用于預測。這些技術主要有三個度量(自變量的個數(shù)，因變量的類型以及回歸線的形狀)。我們將在下面的部分詳細討論它們。
對于那些有創(chuàng)意的人，如果你覺得有必要使用上面這些參數(shù)的一個組合，你甚至可以創(chuàng)造出一個沒有被使用過的回歸模型。但在你開始之前，先了解如下最常用的回歸方法：
1、線性回歸(Linear Regression)
它是最為人熟知的建模技術之一。線性回歸通常是人們在學習預測模型時首選的技術之一。在這種技術中，因變量是連續(xù)的，自變量可以是連續(xù)的也可以是離散的，回歸線的性質是線性的。
線性回歸使用較佳的擬合直線(也就是回歸線)在因變量(Y)和一個或多個自變量(X)之間建立一種關系。
用一個方程式來表示它，即 Y=a+b*X + e，其中a表示截距，b 表示直線的斜率，e 是誤差項。這個方程可以根據(jù)給定的預測變量(s)來預測目標變量的值。
一元線性回歸和多元線性回歸的區(qū)別在于，多元線性回歸有(>1)個自變量，而一元線性回歸通常只有1個自變量?，F(xiàn)在的問題是：我們如何得到一個較佳的擬合線呢?
這個問題可以使用最小二乘法輕松地完成。最小二乘法也是用于擬合回歸線最常用的方法。對于觀測數(shù)據(jù)，它通過最小化每個數(shù)據(jù)點到線的垂直偏差平方和來計算較佳擬合線。因為在相加時，偏差先平方，所以正值和負值沒有抵消。
我們可以使用R-square指標來評估模型性能。
要點：
自變量與因變量之間必須有線性關系。
多元回歸存在多重共線性，自相關性和異方差性。
線性回歸對異常值非常敏感。它會嚴重影響回歸線，最終影響預測值。
多重共線性會增加系數(shù)估計值的方差，使得在模型輕微變化下，估計非常敏感。結果就是系數(shù)估計值不穩(wěn)定，在多個自變量的情況下，我們可以使用向前選擇法，向后剔除法和逐步篩選法來選擇最重要的自變量。
2、邏輯回歸(Logistic Regression)
邏輯回歸是用來計算「事件=Success」和「事件=Failure」的概率。當因變量的類型屬于二元(1 / 0，真/假，是/否)變量時，我們就應該使用邏輯回歸。這里，Y的值從0到1，它可以用下方程表示。
odds= p/ (1-p) = probability of event occurrence / probability of not event occurrence
ln(odds) = ln(p/(1-p))
logit(p) = ln(p/(1-p)) = b0+b1X1+b2X2+b3X3....+bkXk
上述式子中，p表述具有某個特征的概率。你應該會問這樣一個問題：我們?yōu)槭裁匆诠街惺褂脤?shù)log呢?
因為在這里我們使用的是的二項分布(因變量)，我們需要選擇一個對于這個分布較佳的連結函數(shù)。它就是Logit函數(shù)。在上述方程中，通過觀測樣本的極大似然估計值來選擇參數(shù)，而不是最小化平方和誤差(如在普通回歸使用的)。
要點：
它廣泛的用于分類問題。
邏輯回歸不要求自變量和因變量是線性關系。它可以處理各種類型的關系，因為它對預測的相對風險指數(shù)OR使用了一個非線性的log轉換。
為了避免過擬合和欠擬合，我們應該包括所有重要的變量。有一個很好的方法來確保這種情況，就是使用逐步篩選方法來估計邏輯回歸。它需要大的樣本量，因為在樣本數(shù)量較少的情況下，極大似然估計的效果比普通的最小二乘法差。
自變量不應該相互關聯(lián)的，即不具有多重共線性。然而，在分析和建模中，我們可以選擇包含分類變量相互作用的影響。
如果因變量的值是定序變量，則稱它為序邏輯回歸;如果因變量是多類的話，則稱它為多元邏輯回歸。
3、多項式回歸(Polynomial Regression)
對于一個回歸方程，如果自變量的指數(shù)大于 1，那么它就是多項式回歸方程。如下方程所示：y=a+b*x^2
在這種回歸技術中，較佳擬合線不是直線。而是一個用于擬合數(shù)據(jù)點的曲線。
重點：
雖然會有一個誘導可以擬合一個高次多項式并得到較低的錯誤，但這可能會導致過擬合。你需要經常畫出關系圖來查看擬合情況，并且專注于保證擬合合理，既沒有過擬合又沒有欠擬合。
下面是一個圖例，可以幫助理解：
明顯地向兩端尋找曲線點，看看這些形狀和趨勢是否有意義。更高次的多項式最后可能產生怪異的推斷結果。
4、逐步回歸(Stepwise Regression)
在處理多個自變量時，我們可以使用這種形式的回歸。在這種技術中，自變量的選擇是在一個自動的過程中完成的，其中包括非人為操作。
這一壯舉是通過觀察統(tǒng)計的值，如 R-square，t-stats 和 AIC 指標，來識別重要的變量。逐步回歸通過同時添加/刪除基于指定標準的協(xié)變量來擬合模型。
下面列出了一些最常用的逐步回歸方法：
標準逐步回歸法做兩件事情。即增加和刪除每個步驟所需的預測。
向前選擇法從模型中最顯著的預測開始，然后為每一步添加變量。
向后剔除法與模型的所有預測同時開始，然后在每一步消除最小顯著性的變量。
這種建模技術的目的是使用最少的預測變量數(shù)來最大化預測能力。這也是處理高維數(shù)據(jù)集的方法之一。
5、嶺回歸(Ridge Regression)
嶺回歸分析是一種用于存在多重共線性(自變量高度相關)數(shù)據(jù)的技術。在多重共線性情況下，盡管最小二乘法(OLS)對每個變量很公平，但它們的差異很大，使得觀測值偏移并遠離真實值。嶺回歸通過給回歸估計上增加一個偏差度，來降低標準誤差。
上面，我們看到了線性回歸方程。還記得嗎?它可以表示為：y=a+ b*x
這個方程也有一個誤差項。完整的方程是：
y=a+b*x+e (error term), [error term is the value needed to correct for a prediction error between the observed and predicted value]
=> y=a+y= a+ b1x1+ b2x2+....+e, for multiple independent variables.
在一個線性方程中，預測誤差可以分解為2個子分量。一個是偏差，一個是方差。預測錯誤可能會由這兩個分量或者這兩個中的任何一個造成。在這里，我們將討論由方差所造成的有關誤差。
嶺回歸通過收縮參數(shù) λ(lambda)解決多重共線性問題?？聪旅娴墓剑?/p>
在這個公式中，有兩個組成部分。第一個是最小二乘項，另一個是 β2(β-平方)的 λ 倍，其中 β 是相關系數(shù)。為了收縮參數(shù)把它添加到最小二乘項中以得到一個非常低的方差。
要點：
除常數(shù)項以外，這種回歸的假設與最小二乘回歸類似;它收縮了相關系數(shù)的值，但沒有達到零，這表明它沒有特征選擇功能，這是一個正則化方法，并且使用的是L2正則化。
6、套索回歸(Lasso Regression)
它類似于嶺回歸。Lasso (Least Absolute Shrinkage and Selection Operator)也會懲罰回歸系數(shù)的絕對值大小。此外，它能夠減少變化程度并提高線性回歸模型的精度。看看下面的公式：
Lasso 回歸與 Ridge 回歸有一點不同，它使用的懲罰函數(shù)是絕對值，而不是平方。這導致懲罰(或等于約束估計的絕對值之和)值使一些參數(shù)估計結果等于零。使用懲罰值越大，進一步估計會使得縮小值趨近于零。這將導致我們要從給定的n個變量中選擇變量。
要點：
除常數(shù)項以外，這種回歸的假設與最小二乘回歸類似;
它收縮系數(shù)接近零(等于零)，確實有助于特征選擇;
這是一個正則化方法，使用的是L1正則化;
如果預測的一組變量是高度相關的，Lasso 會選出其中一個變量并且將其它的收縮為零。
7、回歸(ElasticNet)
ElasticNet 是 Lasso 和 Ridge 回歸技術的混合體。它使用 L1 來訓練并且 L2 優(yōu)先作為正則化矩陣。當有多個相關的特征時，ElasticNet 是很有用的。Lasso 會隨機挑選他們其中的一個，而 ElasticNet 則會選擇兩個。
Lasso 和 Ridge 之間的實際的優(yōu)點是，它允許 E
lasticNet 繼承循環(huán)狀態(tài)下 Ridge 的一些穩(wěn)定性。
要點：
在高度相關變量的情況下，它會產生群體效應;
選擇變量的數(shù)目沒有限制;
它可以承受雙重收縮。
除了這 7 個最常用的回歸技術，你也可以看看其他模型，如 Bayesian、Ecological 和 Robust 回歸。
四、如何正確選擇回歸模型?
當你只知道一個或兩個技術時，生活往往很簡單。我知道的一個培訓機構告訴他們的學生，如果結果是連續(xù)的，就使用線性回歸。如果是二元的，就使用邏輯回歸!然而，在我們的處理中，可選擇的越多，選擇正確的一個就越難。類似的情況下也發(fā)生在回歸模型中。
在多類回歸模型中，基于自變量和因變量的類型，數(shù)據(jù)的維數(shù)以及數(shù)據(jù)的其它基本特征的情況下，選擇最合適的技術非常重要。以下是你要選擇正確的回歸模型的關鍵因素：
1.數(shù)據(jù)探索是構建預測模型的必然組成部分。在選擇合適的模型時，比如識別變量的關系和影響時，它應該首選的一步。
2.比較適合于不同模型的優(yōu)點，我們可以分析不同的指標參數(shù)，如統(tǒng)計意義的參數(shù)，R-square，Adjusted R-square，AIC，BIC 以及誤差項，另一個是 Mallows' Cp 準則。這個主要是通過將模型與所有可能的子模型進行對比(或謹慎選擇他們)，檢查在你的模型中可能出現(xiàn)的偏差。
3.交叉驗證是評估預測模型較好額方法。在這里，將你的數(shù)據(jù)集分成兩份(一份做訓練和一份做驗證)。使用觀測值和預測值之間的一個簡單均方差來衡量你的預測精度。
4.如果你的數(shù)據(jù)集是多個混合變量，那么你就不應該選擇自動模型選擇方法，因為你應該不想在同一時間把所有變量放在同一個模型中。
5.它也將取決于你的目的?？赡軙霈F(xiàn)這樣的情況，一個不太強大的模型與具有高度統(tǒng)計學意義的模型相比，更易于實現(xiàn)。
6.回歸正則化方法(Lasso，Ridge和ElasticNet)在高維和數(shù)據(jù)集變量之間多重共線性情況下運行良好。
量化金融分析師（簡稱AQF ，Analyst of Quantitative Finance）由量化金融標準委員會（Standard Committee of Quantitative Finance，SCQF）主考并頒證，是代表量化金融領域的專業(yè)水平證書。>>>點擊咨詢AQF證書含金量
.png)
(點擊上圖了解課程詳情)
近年來，我國金融業(yè)改革與創(chuàng)新不斷，金融工作越來越專業(yè)化、標準化、國際化。結合現(xiàn)代計算機技術的發(fā)展，量化方法在金融實務中的應用也越來越普遍和深入。本項目在借鑒國外發(fā)達國家的量化金融分析師執(zhí)業(yè)標準的基礎上，結合我國現(xiàn)代金融領域的實踐發(fā)展和實際情況，并通過研究分析相應實戰(zhàn)崗位的專業(yè)要求和工作內容，以培養(yǎng)量化金融分析師專業(yè)人員為目標，通過專業(yè)理論知識與實戰(zhàn)能力的訓練，培養(yǎng)具備量化分析能力的專業(yè)金融從業(yè)人員。
此外，本項目的課程內容和結構設計也適宜短期學習概覽量化分析方法，并且應用于日常的投資分析工作中的金融從業(yè)人員。
AQF核心課程體系
課程內容以學習主流交易策略為核心，提供Python語言編程基礎、數(shù)據(jù)處理基礎、金融知識基礎、量化投資策略實現(xiàn)和量化投資多平臺模擬交易五個模塊的教學。在市面課程中，本課程具備課程體系完整、課程內容豐富、課程內容銜接合適等優(yōu)勢。
AQF課程方案
量化金融實訓項目(AQF)課程學習周期3個月，分三階段開展課程，階段課程時長為1個月。
AQF課程內容
課程內容包括量化金融分析師AQF實訓項目(線上)及線上答疑，分三階段開展課程。
第一階段(1個月)：Python編程基礎+金融知識基礎
零基礎到入門，線上課程+線下面授。通過大量金融數(shù)據(jù)和金融案例的初步學習，了解Python編程核心基礎。課程內容主要包括：Python語言環(huán)境的搭建、編程基礎、編程進階(Numpy / Pandas配對交易實戰(zhàn)策略)、金融數(shù)據(jù)的獲取及相關處理、Python實戰(zhàn)金融應用(統(tǒng)計分析、資產組合、風險管理、資產定價)、量化交易策略(SMA經典策略、CTA交易策略、基于爬蟲技術的事件驅動策略、大宗商品&股票市場聯(lián)動策略、基于機器學習算法預測股市漲跌)
第二階段(1個月)：量化金融進階課程
中級進階課程，主要涉及基于Python的經典量化投資策略的深入學習等。包含了最負有盛名、最前沿的量化交易思想和交易策略。例如：海龜交易模型、配對交易模型、Alpha模型、機器學習各種模型等內容。
第三階段(1個月)：量化金融高階課程
量化高階課程，課程內容包括量化交易系統(tǒng)設計及量化實盤交易的學習。第三階段高階課程旨在學習量化交易系統(tǒng)的具體知識，包括過濾器、進入信號、退出信號、倉位管理等詳細內容，并指導學員設計涵蓋個人交易哲學的量化交易系統(tǒng)。量化實盤交易旨在為解決實際量化交易策略搭建過程中的一些問題提供較優(yōu)解方案。
通過第三階段的學習，學員將獲得報名參與量化金融分析師(AQF)的證書考試資格。
AQF證書頒發(fā)與協(xié)會會員
每一個通過量化金融分析師AQF課程考核的學員都可申請成為量化金融分析師協(xié)會的會員。協(xié)會會員有資格參與定期舉辦的高峰論壇、量化投資策略分享會等活動，并有機會在完成基礎課程的基礎上后續(xù)學習難度更高的高頻量化交易策略課程。
.png)
金程推薦： AQF是什么意思 量化金融分析師年薪 AQF考試流程
全國熱線電話：400-700-9596
金融寬客交流群：801860357
AQF考友群：760229148
微信公眾號：量化金融分析師
