《研《回歸分析》理解簡(jiǎn)單.ppt》由會(huì)員分享，可在線閱讀，更多相關(guān)《研《回歸分析》理解簡(jiǎn)單.ppt（83頁(yè)珍藏版）》請(qǐng)?jiān)谘b配圖網(wǎng)上搜索。
1、回歸分析,追求,回歸分析,,一元回歸 多元回歸 全部強(qiáng)行進(jìn)入回歸,逐步回歸,回歸：揭示出不確定數(shù)量關(guān)系的內(nèi)在數(shù)量變化規(guī)律，并通過(guò)一定的表達(dá)式描述數(shù)量之間的這種內(nèi)在關(guān)系的方法。,不確定性的函數(shù)關(guān)系,回歸的涵義,,數(shù)據(jù)之間的關(guān)系 函數(shù),,,,確定性的函數(shù)關(guān)系,回歸方程,回歸分析的任務(wù),（1）通過(guò)分析大量的樣本數(shù)據(jù)，確定變量之間的統(tǒng)計(jì)關(guān)系，并以數(shù)學(xué)表達(dá)式形式給出； （2）對(duì)確定的數(shù)學(xué)關(guān)系式的可信度進(jìn)行統(tǒng)計(jì)檢驗(yàn)，找出對(duì)某一特定變量影響較為顯著的變量和不顯著的變量； （3）利用確定的數(shù)學(xué)關(guān)系式，根據(jù)自變量預(yù)測(cè)或控制因變量的取值，并找出這種預(yù)測(cè)或控制的精確度。,回歸分析時(shí)變量的設(shè)定,回歸分析的被解釋變量
2、必須是刻度級(jí)的，如果是順序級(jí)的，要用Numeric型的來(lái)表示。如果被解釋變量是名義級(jí)的，將用Logistic回歸等方法處理。 解釋變量可以是刻度級(jí)、順序級(jí)、名義級(jí)的變量，不論是什么級(jí)別的數(shù)據(jù)，都必須用Numeric型的來(lái)表示。,一元線性回歸分析,高斯假設(shè),一元線性回歸模型的求解,一元線性回歸模型的SPSS實(shí)現(xiàn),一元線性回歸模型的設(shè)定,SPSS的實(shí)現(xiàn)：Analyze菜單Regression項(xiàng)中選擇Linear命令。,Enter：強(qiáng)行進(jìn)入法，即所選自變量全部進(jìn)入模型。 Remove：強(qiáng)制剔除法，即建立回歸方程時(shí)，根據(jù)設(shè)定的條件從回歸方程中剔除部分自變量。 Backward：向后剔除法，根據(jù)Opti
3、on對(duì)話框中設(shè)定的判據(jù)，先建立全模型，然后根據(jù)設(shè)置的判據(jù)，每次剔除一個(gè)使方差分析中的F值最小的自變量，直到回歸方程中不再含有不符合判據(jù)的自變量為止。 Forward：向前選擇法。 Stepwise：逐步進(jìn)入法，根據(jù)Option對(duì)話框中設(shè)定的判據(jù)及方差分析結(jié)果，選擇符合判據(jù)的自變量與因變量相關(guān)程度最高的進(jìn)入回歸方程。依據(jù)Forward選入自變量，依據(jù)Backward將模型中F值最小且符合剔除判據(jù)的變量剔除，重復(fù)。,Method處下拉菜單，共有5個(gè)選項(xiàng)：,WLS選項(xiàng)是存在異方差時(shí)，利用加權(quán)最小二乘法替代普通最小二乘法估計(jì)回歸模型參數(shù)。通過(guò)WLS可以選定一個(gè)變量作為加權(quán)變量。 在實(shí)際問(wèn)題中，如果無(wú)
4、法自行確定權(quán)重變量，可以用SPSS的權(quán)重估計(jì)來(lái)實(shí)現(xiàn)。,Descriptives：輸出自變量和因變量的均值、標(biāo)準(zhǔn)差相關(guān)系數(shù)矩陣及單側(cè)檢驗(yàn)概率。,Estimates：輸出與回歸系數(shù)相關(guān)統(tǒng)計(jì)量。有：回歸系數(shù)、回歸系數(shù)的標(biāo)準(zhǔn)誤差、標(biāo)準(zhǔn)回歸系數(shù)、T統(tǒng)計(jì)量和相應(yīng)的相伴概率、各自變量的容忍度。,Confidence intervals：輸出每一個(gè)非標(biāo)準(zhǔn)化回歸系數(shù)95%的可信區(qū)間。,Covariance matix：輸出方程中各自變量間的相關(guān)系數(shù)矩陣及各變量的協(xié)方差矩陣。,Model fit：輸出判定系數(shù)、調(diào)整的判定系數(shù)、回歸方程的標(biāo)準(zhǔn)誤差，F(xiàn)檢驗(yàn)的ANOVA方差分析表。,R squared change：當(dāng)
5、回歸方程中引入或剔除一個(gè)自變量后，判定系數(shù)、F值產(chǎn)生的變化。,Casewise diagnostics：輸出標(biāo)準(zhǔn)化殘差絕對(duì)值3的樣本數(shù)據(jù)點(diǎn)的相關(guān)信息，包括：標(biāo)準(zhǔn)化殘差、觀測(cè)值預(yù)測(cè)值、最小(最大)預(yù)測(cè)值、殘差、最小(最大)殘差以及它們的均值和標(biāo)準(zhǔn)差。 Outliers outside standard devistion：設(shè)置奇異值的判據(jù)，默認(rèn)3倍的標(biāo)準(zhǔn)差。 All case：輸出所有樣本數(shù)據(jù)有關(guān)殘差值。,Part and partial correlation：輸出方程中各自變量與因變量之間的簡(jiǎn)單相關(guān)系數(shù)、偏相關(guān)系數(shù)與部分相關(guān)系數(shù)。,Collinearity diagnostics：多重共線
6、性分析，輸出各自變量的容限度、方差膨脹因子、最小容忍度、特征值、條件指標(biāo)及方差比例等。,Durbin-Watson：輸出Durbin-watson檢驗(yàn)值。,Plots對(duì)話框用來(lái)檢驗(yàn)殘差序列的正態(tài)性、隨機(jī)性和是否存在異方差現(xiàn)象。,Produce all partial plots：輸出每一個(gè)自變量殘差相對(duì)于因變量殘差的散布圖。,** ZPRED選項(xiàng)：標(biāo)準(zhǔn)化預(yù)測(cè)值。,** ZRESID選項(xiàng)：標(biāo)準(zhǔn)化殘差。,** DRESID選項(xiàng)：剔除殘差。,** ADJPRED選項(xiàng)：修正后預(yù)測(cè)值。,** SRESID選項(xiàng)：t分析殘差。,** SDRESID選項(xiàng)：t分析剔除殘差。,Mahalanobis：保存Maha
7、lanobis距離,Cooks：保存Cook距離,Leverage values：保存中心點(diǎn)杠桿值,Individual：保存一個(gè)觀測(cè)量上限與下限的預(yù)測(cè)區(qū)間。,Studentized：標(biāo)準(zhǔn)化殘差,Deleted：剔除殘差,Studentized deleted：標(biāo)準(zhǔn)化剔除殘差,DfBeta(s)：因排除一個(gè)特定的觀察值所引起的回歸系數(shù)的變化。若該值2，則被排除的觀測(cè)值有可能是影響點(diǎn)。,DfFit：因排除一個(gè)特定的觀測(cè)值所引起的觀測(cè)值的變化。,Use probalitlity of F：以回歸系數(shù)顯著性檢驗(yàn)中各自變量的F統(tǒng)計(jì)量的相伴概率作為自變量是否引入模型或者從模型中剔除的標(biāo)準(zhǔn)。實(shí)際應(yīng)用中，應(yīng)
8、使Entry值小于Remove值，否則，自變量一進(jìn)入方程就會(huì)被立即剔除。,Use F value：以回歸系數(shù)顯著性檢驗(yàn)中的各自變量的F統(tǒng)計(jì)量作為自變量進(jìn)入模型或者從模型中剔除的標(biāo)準(zhǔn)。,Include constant in equationF：表示回歸方程中將包含常數(shù)項(xiàng)。,練習(xí)，某企業(yè)產(chǎn)品廣告費(fèi)和銷售收入資料如下，判斷廣告費(fèi)和銷售收入之間關(guān)系密切程度如何？,3 10 28 40 66 117 140 404,,,,,,,,,序號(hào),廣告費(fèi)(萬(wàn)元),銷售收入(百萬(wàn)元),,1 2 3 4 5 6 7,3 5 7 8 11 13 14 61,1 2 4 5 6 9 10 37,9 25 49 64 1
9、21 169 196 633,1 4 16 25 36 81 100 263,合計(jì),多元線性回歸分析,一個(gè)被解釋變量(因變量)，,的線性模型，,多個(gè)解釋變量(自變量),多元回歸的高斯假設(shè),,多元回歸方程為,回歸方程的顯著性檢驗(yàn),多元線性回歸的檢驗(yàn)與估計(jì),二、多元線性回歸,三、回歸系數(shù)的顯著性檢驗(yàn),四、回歸分析的置信區(qū)間,五、標(biāo)準(zhǔn)回歸系數(shù),,,,,,回歸效果的檢驗(yàn),回歸系數(shù),,總體均值,方程的檢驗(yàn),多元線性回歸的三大基本問(wèn)題,多重共線性,序列相關(guān)問(wèn)題,異方差問(wèn)題,多元線性回歸的SPSS實(shí)現(xiàn),,多元回歸的SPSS處理,,逐步回歸,,,,,第一種方法,第二種方法,第三種方法,逐步回歸的SPSS處理,
10、逐步回歸,,從數(shù)學(xué)上看，如果變量xj可以表達(dá)為另外一些變量xt、xs 等的線性組合，則,,而,會(huì)出現(xiàn)計(jì)算溢出問(wèn)題。,稱變量xj、 xt、xs具有多重共線性。 多重共線性在經(jīng)濟(jì)管理問(wèn)題上的表現(xiàn)是：多個(gè)變量有共同的變化趨勢(shì)。多重共線性的后果,或者說(shuō),xj與其它自變量xt、xs 等的復(fù)相關(guān)系數(shù)接近1，,多重共線性是指各個(gè)解釋變量之間存在線性相關(guān)關(guān)系的現(xiàn)象。多重共線性常常會(huì)回歸系數(shù)方差增大，從而使 t 檢驗(yàn)難以通過(guò)。,，,會(huì)導(dǎo)致,趨向于1,給出虛假的回歸效果好的結(jié)論,統(tǒng)計(jì)量將普遍變小,(3),(1)計(jì)算,,,將溢出,，,因?yàn)?時(shí),，,。,(2),的方差將變得很大,，,因?yàn)?，,是矩陣,的對(duì)角線元素,
11、。,，,導(dǎo)致錯(cuò)誤地刪除變量,式中,，,。,(4),，,。,因?yàn)?的溢出,，,的溢出,，,所以會(huì)導(dǎo),致,(5),仍無(wú)偏。,如果輸出的F統(tǒng)計(jì)值很大，R趨于1，同時(shí)許多t 統(tǒng)計(jì)值小(顯著性概率大于 ），估計(jì)系數(shù)的標(biāo)準(zhǔn)差大 ，則表明存在多重共線性問(wèn)題。,判斷是否存在多重共線性的方法,(1)容忍度,對(duì)應(yīng)于解釋變量xj的容忍度定義為,Tolj=1-R2,R2是解釋變量xj與方程中其他所有解釋變量之間的復(fù)相關(guān)系數(shù)平方，可以衡量xj與其他解釋變量的線性相關(guān)程度。,多共線性問(wèn)題的處理,逐步刪除不重要的（t 相對(duì)小的）解釋變量，可直接用逐步回歸法完成。,此外，也可以采用如下方法：,(1)用變量的比例代替原來(lái)的變
12、量：,(2)方差膨脹因子,方差膨脹因子定義為容忍度的倒數(shù)，即,VIFj=1/1-R2,一般認(rèn)為，方差膨脹因子大于10時(shí)，就認(rèn)為存在多重共線性。,例如，,在,中,，,可用如下變量替代,，,共線性問(wèn)題,解決多重,。,取對(duì)數(shù)后得到如下回歸方程：,就可以消除多重共線性問(wèn)題。,(2)改變模型結(jié)構(gòu)。,例如,，,用,代替,等。,很容易出現(xiàn)多重共線性問(wèn)題。,(3)恰當(dāng)處理滯后變量。,回歸方程,，,由于滯后變量,的同趨勢(shì)性,，,解決的辦,法是,，,于是,同時(shí)有,于是,，,前式,后式,，,有,這就消除了解釋變量之間的多重共線性問(wèn)題。,(4)增大樣本容量。,令,,,用SPSS處理多重共線性,,是指隨著解釋變量的變化
13、，被解釋變量的方差存在明顯的變化趨勢(shì)(不具有常數(shù)方差的特征)這也是經(jīng)濟(jì)與管理領(lǐng)域中經(jīng)常出現(xiàn)的問(wèn)題之一。,高斯假設(shè)的第(3)條是：,異方差問(wèn)題,對(duì)多元線性回歸模型而言,，,一是不存在序列相關(guān)，即,二是具有同方差性(齊次方差性)。,按照高斯條件，被解釋的隨機(jī)性，實(shí)際上是由隨機(jī)干擾項(xiàng)的隨機(jī)性所決定的。因此被解釋變量的異方差性，實(shí)際上也是由隨機(jī)干擾項(xiàng)的異方差性決定的，即方差與下標(biāo)i有關(guān)。,回歸參數(shù)的估計(jì)值仍無(wú)偏，但是不再有最小方差所以不再有效，由于不滿足關(guān)于高斯-馬爾柯夫定理的條件，所以其結(jié)論也不成立。,異方差問(wèn)題出現(xiàn)時(shí)的后果,異方差問(wèn)題是否存在的判斷,(1)用散點(diǎn)圖判斷,與Xij的Spearman相
14、關(guān)系數(shù)的絕對(duì)值大，意味著存在非齊次方差。,(2)求,與Xij的Spearman等級(jí)相關(guān)系數(shù),異方差問(wèn)題的SPSS處理,檢驗(yàn)異方差是否存在,以1/收入為權(quán)重，作如下回歸：,用加權(quán)最小二乘法估計(jì)回歸方程的系數(shù),直接回歸 （1）定義變量“儲(chǔ)蓄/收入”和“1/收入” （2）進(jìn)入一元線性回歸過(guò)程 用加權(quán)最小二乘法估計(jì)回歸系數(shù),檢驗(yàn)異方差是否得到改善,產(chǎn)生新的未標(biāo)準(zhǔn)化殘差； 重新計(jì)算未標(biāo)準(zhǔn)化殘差絕對(duì)值與收入倒數(shù)的等級(jí)相關(guān)系數(shù)，判別異方差性是否已經(jīng)得到矯正。 得出回歸方程。,用加權(quán)最小二乘法估計(jì)回歸系數(shù),方法一,此方法不能輸出殘差圖，需要另外計(jì)算等級(jí)相關(guān)系數(shù)，檢查異方差是否已經(jīng)消除。,用加權(quán)最小二乘法估計(jì)回
15、歸系數(shù),方法二,此方法也不能輸出殘差圖，需要另外計(jì)算等級(jí)相關(guān)系數(shù)，檢查異方差是否已消除。 這里的最佳權(quán)重變量是：,,自相關(guān)問(wèn)題，是指隨著不同期的樣本值(不同編號(hào)的樣本值)之間存在相關(guān)關(guān)系，這也是經(jīng)濟(jì)與管理領(lǐng)域中經(jīng)常出現(xiàn)的問(wèn)題之一。它違反了高斯-馬爾柯夫定理的條件，從而使最小二乘法估計(jì)值不再具有最優(yōu)的性質(zhì)。,所謂序列相關(guān)問(wèn)題就是指：,(4)災(zāi)害的影響是多年的,也會(huì)出現(xiàn)序列相關(guān)。,(1)固定資產(chǎn)變量本來(lái)就前后期相關(guān)。,(2)漏掉的變量被包含在隨機(jī)干擾項(xiàng)中了。,(3)系統(tǒng)觀察誤差，會(huì)引起序列相關(guān)問(wèn)題。,經(jīng)濟(jì)管理問(wèn)題中產(chǎn)生序列相關(guān)的主要原因,置信區(qū)間太大,3.序列相關(guān)問(wèn)題的影響,(1)OLS估計(jì)值不具
16、最小方差性。,(2)統(tǒng)計(jì)量的值不準(zhǔn)確。,(3)隨機(jī)干擾項(xiàng)的估計(jì)值,有偏。,(4)用這樣的模型預(yù)測(cè)不準(zhǔn)，,失去意義,(,),。,4.一階序列相關(guān)的檢驗(yàn),所謂一階序列相關(guān)，,是指前后相鄰兩期樣本之間的,序列相關(guān)問(wèn)題。,其檢驗(yàn)的工具是DW統(tǒng)計(jì)量。,DW統(tǒng)計(jì)量的定義如下：,，,其中，,由于,，,所以,。,與,所以,DW=2，,當(dāng),時(shí)，,DW=0，,完全正自相關(guān)。,由于,只能接近1,，,只能接近完全正自相關(guān),。,可用下圖表示：,當(dāng),時(shí)，,與,完全沒(méi)有自相關(guān),。,當(dāng),時(shí)，,DW=4，,完全負(fù)相關(guān)。,由于,只能接近-1,，,所以,與,只能接近完全負(fù)自相關(guān)。,具體的判別準(zhǔn)則，,圖 DW統(tǒng)計(jì)量的值的分布區(qū)域與判
17、別,圖中，,DW3=4-DW2，DW4=4-DW1。,當(dāng),時(shí)，,存在正一階序列相關(guān)。,當(dāng),時(shí)，,不能斷定是否存在序列相關(guān),當(dāng),時(shí)，,不存在一階序列相關(guān)。,當(dāng),時(shí)，,不能斷定是否存在序列相關(guān),當(dāng),時(shí),,存在負(fù)一階序列相關(guān)。,。,。,一階序列相關(guān)是指：,二階序列相關(guān)是指：,三階以上類推。,這里是序列相關(guān)的“觀察形式”,自相關(guān)的“理論,，,形式”,是把上面的,換成,。,用SPSS處理序列相關(guān),觀察、檢驗(yàn)序列相關(guān)； 試算序列相關(guān)形式，估計(jì)序列相關(guān)系數(shù)； 按照最佳序列相關(guān)形式，消除序列相關(guān)，得出估計(jì)值； 估計(jì)自相關(guān)系數(shù)的DW兩步法。,可以通過(guò)觀察殘差的序列圖和散點(diǎn)圖來(lái)直觀地對(duì)是否存在序列相關(guān)進(jìn)行判斷。
18、殘差序列圖是以et為縱軸，以時(shí)間t為橫軸繪制的；殘差散點(diǎn)圖是分別以et和et-1為縱軸和橫軸繪制的。 若殘差序列圖呈隨機(jī)走勢(shì)，或散點(diǎn)圖呈隨機(jī)分布，則可以認(rèn)為不存在序列相關(guān)； 若殘差序列圖呈連續(xù)上升或連續(xù)下降的變化，或散點(diǎn)圖中et和et-1呈正相關(guān)分布，則可認(rèn)為存在正的序列相關(guān)； 若殘差序列圖呈升降交替變化，或散點(diǎn)圖中et和et-1呈負(fù)相關(guān)分布，則可認(rèn)為存在負(fù)的序列相關(guān)；,試算序列相關(guān)形式，估計(jì)序列相關(guān)系數(shù),產(chǎn)生2個(gè)新變量e(t-1)和e(t-2)，用SPSS中的transform Compute中的LAG函數(shù)產(chǎn)生； 用e(t)對(duì)e(t-1)回歸，觀察回歸系數(shù)； 用e(t)對(duì)e(t-1)和e(t
19、-2)回歸，觀察回歸系數(shù)，選擇回歸效果相對(duì)好的回歸系數(shù)，即為自相關(guān)系數(shù)。,按照最佳序列相關(guān)形式，消除序列相關(guān)，得出估計(jì)值；,用SPSS中的Transform Compute產(chǎn)生新變量，即用原變量(t)減去自相關(guān)系數(shù)乘以原變量(t-1)。回歸分析中有幾個(gè)變量，就相應(yīng)產(chǎn)生幾個(gè)變量。 對(duì)新變量進(jìn)行回歸，觀察DW值是否已經(jīng)得到改善。,估計(jì)自相關(guān)系數(shù)的DW兩步法,若得出e(t)對(duì)e(t-1)的回歸效果好，則對(duì)因變量(t-1)、原自變量及自變量(t-1)進(jìn)行多元回歸分析，找出自相關(guān)系數(shù)。 用自相關(guān)系數(shù)分別重新計(jì)算上一步的自變量和因變量，再對(duì)重新計(jì)算的自變量和因變量進(jìn)行回歸，則效果更好。,,人均收入與人均食
20、品支出關(guān)系的散點(diǎn)圖,一元線性回歸模型的設(shè)定,人均收入與多孩率的散點(diǎn)圖,一元線性回歸模型的設(shè)定,1.總體回歸模型：,2.樣本回歸模型：,樣本回歸直線：,,服從,高斯假設(shè),(1) (2) (3) (4) (5) (6),。,分布。正態(tài)性假設(shè)；,為隨機(jī)變量；,即所有隨機(jī)誤差都具有相同方差,隨機(jī)擾動(dòng)項(xiàng)協(xié)方差等于零，,相互獨(dú)立。無(wú)序列相關(guān)假設(shè)；,獨(dú)立性假設(shè)或零均值假設(shè)；,,一元線性回歸模型的求解,最小平方法,,普通最小二乘法估計(jì)式,在模型中，代入樣本觀察值之后，可得,此式也可用向量、矩陣方式表達(dá)為,式中，,是,階矩陣,這就是普通最小二乘法估計(jì)系數(shù)的公式。,若估計(jì)出,，,則有,,,所以,于是有,兩邊左乘,
21、,,得,由幾何解釋,,,故而上式中,,,所以可以求出,如下：,,回歸方程的顯著性檢驗(yàn)F檢驗(yàn),,：回歸方程不顯著,：回歸方程顯著,：總離差平方和,：剩余平方和/殘差平方和,：回歸離差平方和,判定相關(guān)系數(shù)越接近1，表明回歸平方和占總離差平方和的比例越大，用x的變動(dòng)解釋y 值變動(dòng)的部分就越多，回歸的效果就越好。,回歸效果的檢驗(yàn)判定相關(guān)系數(shù)檢驗(yàn),若全部觀測(cè)值都落在回歸直線上，則,若x完全無(wú)助于解釋y的變動(dòng)，則,,F檢驗(yàn),校正的判定系數(shù),統(tǒng)計(jì)量 中不含有自由度。所謂校正的判定系數(shù)是指“考慮了自由度的判定系數(shù) ”。其定義如下：,剔除了自由度的影響。,校正的判定系數(shù)Adjusted,,式中：,回歸效果的檢
22、驗(yàn)F檢驗(yàn),,：樣本容量,：自變量的個(gè)數(shù)(含常數(shù)項(xiàng)),：判定系數(shù),回歸系數(shù)的顯著性檢驗(yàn)T檢驗(yàn),,,成立,即,當(dāng),時(shí),顯著異于0。,針對(duì)回歸系數(shù)的,統(tǒng)計(jì)量的顯著性檢驗(yàn)決定了相,應(yīng)的變量能否作為解釋變量進(jìn)入回歸方程。,總體均值的置信區(qū)間,,,用,代替 可以得到統(tǒng)計(jì)量,,回歸系數(shù)的置信區(qū)間,,給定一置信水平,區(qū)間,為,水平上的置信區(qū)間。例,，則,即,標(biāo)準(zhǔn)化即剔除自變量單位的影響，是指對(duì)變量,標(biāo)準(zhǔn)回歸系數(shù),,進(jìn)行如下處理：,轉(zhuǎn)化為標(biāo)準(zhǔn)方程,于是原始方程,，,式中：,多元回歸的高斯假設(shè),,(1) 為隨機(jī)向量,(2),(3),(4),包括,(5),或者X為確定矩陣,,(6)秩,(7)行列式,遠(yuǎn)離零。,應(yīng)當(dāng)滿
23、足：統(tǒng)計(jì)量的值 的顯著性概率 小于等于選定的顯著性水平,的 先進(jìn)入方程；最后一個(gè)進(jìn)入方程的自變量,(即偏解釋變差)最大的變量，進(jìn)入回歸方程。即進(jìn)入的變量與因變量具有最大的正相關(guān)或負(fù)相關(guān)而對(duì)已解釋變差貢獻(xiàn)大小的判別依據(jù)，是包含了偏解釋變差的F統(tǒng)計(jì)量,的值,。統(tǒng)計(jì)量,第一種方法,,最大,在考慮y對(duì)已知的一群變量,回歸時(shí)，,從變量,中，逐步選出對(duì)已解釋變差的貢獻(xiàn),。,偏解釋變差,偏解釋變差（偏回歸平方和）：在一個(gè)回歸方程中，當(dāng)把 xj從自變量的隊(duì)伍中刪除后，可得到一組新的回歸系數(shù)的估計(jì)值， 從而得到Y(jié)新的計(jì)算值 則原回歸平方和與新回歸平方和的差就是xj對(duì)已解釋變差（回歸平方和）的貢獻(xiàn)，稱為xj的偏
24、解釋變差（偏回歸平方和）。,,的 在剔除時(shí)，其統(tǒng)計(jì)量的值 的顯著性概率,逐步把 最小的 剔除出方程，所有剔除出方程,第二種方法,,大于選定的顯著性水平 。,先把Y對(duì)所有的自變量,回歸，然后,大于 從而有更少的變量被剔除出方程，防止變量“進(jìn)”“出”方程，陷入死循環(huán)。,更大一些，以便能夠有較少的 的顯著性慨率,的顯著性慨率 所對(duì)照的顯著性水平 則要取得,以便能有更多的 的外側(cè)概率(顯著性概率)小于,是一邊進(jìn)、一邊出?！斑M(jìn)”變量的 的顯著性,概率 所對(duì)應(yīng)的顯著性水平 ，通常取得大一些,第三種方法,,從而使較多的變量進(jìn)入方程。而“出”的變量,注意,的變化。一次處理，會(huì)造成誤判。只有逐步處理，才是恰當(dāng)?shù)摹?來(lái)決定是否作為 的自變量。因?yàn)槊刻砑踊蛱蕹粋€(gè)變量都會(huì)引起所有回歸系數(shù)及統(tǒng)計(jì)量的值,的顯著性概率 是否小于等于選定的顯著性水平,逐步添加法或逐步剔除法，都應(yīng)當(dāng)強(qiáng)調(diào),“逐步”，不能一次按照各個(gè)變量的統(tǒng)計(jì)量值,,注意,
研《回歸分析》理解簡(jiǎn)單.ppt
