回歸模型-華東理工大學(xué)數(shù)學(xué)建模.ppt

《回歸模型-華東理工大學(xué)數(shù)學(xué)建模.ppt》由會員分享，可在線閱讀，更多相關(guān)《回歸模型-華東理工大學(xué)數(shù)學(xué)建模.ppt（52頁珍藏版）》請?jiān)谘b配圖網(wǎng)上搜索。

2020/5/19東華理工學(xué)院數(shù)信學(xué)院信息技術(shù)系,數(shù)學(xué)建模,第七章回歸模型,7.1回歸分析7.2一元線性回歸模型及其參數(shù)估計(jì)7.3多元線性回歸7.4非線性回歸7.5預(yù)測區(qū)間,2020/5/19東華理工學(xué)院數(shù)信學(xué)院信息技術(shù)系,數(shù)學(xué)建模,在客觀現(xiàn)實(shí)世界中，事物的發(fā)展變化往往受到其他因素的影響，即是由其他事物的發(fā)展變化所造成的，事物之間的這種關(guān)系稱為因果關(guān)系。因果關(guān)系可分為兩類:,回歸分析,確定性關(guān)系,確定性關(guān)系,因果關(guān)系,2020/5/19東華理工學(xué)院數(shù)信學(xué)院信息技術(shù)系,數(shù)學(xué)建模,所謂確定性關(guān)系是指在相互聯(lián)系的變量中，某一個(gè)變量的值可由其余變量的值精確求出，變量之間的這種關(guān)系稱為確定性關(guān)系即函數(shù)關(guān)系。如，一個(gè)地區(qū)某產(chǎn)品銷售率q與該產(chǎn)品實(shí)際銷售量Ｑ與該地區(qū)人數(shù)Ｎ之間有如下關(guān)系：q＝Ｑ/Ｎ。所以，q、Ｑ、Ｎ之間的關(guān)系屬確定性關(guān)系。,,2020/5/19東華理工學(xué)院數(shù)信學(xué)院信息技術(shù)系,數(shù)學(xué)建模,非確定性關(guān)系：變量之間雖然存在一定的聯(lián)系，但其中一個(gè)變量的值卻不能由其余變量的值精確地求出。其原因是它們之間的這種聯(lián)系，由于受到隨機(jī)因素的影響而并非一成不變，呈現(xiàn)出不確定性。它們之間的關(guān)系不能用精確的數(shù)學(xué)表達(dá)式來表達(dá)。通常只能將有關(guān)變量的實(shí)驗(yàn)數(shù)據(jù)，用數(shù)理統(tǒng)計(jì)方法找到它們之間的關(guān)系。變量之間的這種非確定性關(guān)系稱為相關(guān)關(guān)系或回歸關(guān)系。如，汽車配件銷售額與車擁有量之間的關(guān)系；貨幣流通量與社會商品零售總額、工農(nóng)業(yè)總產(chǎn)值、貨幣流通速度等變量間的關(guān)系，均屬于相關(guān)關(guān)系。,2020/5/19東華理工學(xué)院數(shù)信學(xué)院信息技術(shù)系,數(shù)學(xué)建模,在對經(jīng)濟(jì)問題的研究中，不僅要分析該問題的基本性質(zhì)，也需要對經(jīng)濟(jì)變量之間的數(shù)量關(guān)系進(jìn)行具體分析。常用的分析方法有回歸分析、相關(guān)分析、方差分析等方法。這些方法中應(yīng)用最廣泛的是回歸分析?；貧w分析就是應(yīng)用數(shù)理統(tǒng)計(jì)方法，對變量的大量實(shí)驗(yàn)統(tǒng)計(jì)數(shù)據(jù)進(jìn)行分析處理，找到變量之間的聯(lián)系方式并進(jìn)行預(yù)測分析的方法。它是經(jīng)濟(jì)預(yù)測中一種重要的、應(yīng)用廣泛的預(yù)測方法。在回歸分析中，常常把預(yù)測變量稱為因變量，而把影響預(yù)測變量的因素稱為自變量。,2020/5/19東華理工學(xué)院數(shù)信學(xué)院信息技術(shù)系,數(shù)學(xué)建模,回歸分析的步驟為：（1）根據(jù)自變量和因變量的一組實(shí)驗(yàn)數(shù)據(jù)，確定自變量和因變量之間的數(shù)學(xué)關(guān)系式（稱為實(shí)驗(yàn)公式或回歸方程）。（2）對回歸方程中的參數(shù)進(jìn)行估計(jì)和統(tǒng)計(jì)檢驗(yàn)，分析影響因素（自變量）與預(yù)測目標(biāo)（因變量）之間關(guān)系強(qiáng)弱和影響程度。（3）利用回歸方程，預(yù)測因變量的值，并分析研究預(yù)測結(jié)果的誤差范圍和精度?；貧w分析分為線性回歸和非性回歸。而線性回歸又可分為一元線性回歸和多元線性回歸。,（,,,,2020/5/19東華理工學(xué)院數(shù)信學(xué)院信息技術(shù)系,數(shù)學(xué)建模,設(shè)x為自變量,y為因變量，y與x之間滿足如下線性關(guān)系：……………..(1)其中為隨機(jī)變量。若為n次獨(dú)立實(shí)驗(yàn)的觀察值，則…………….(2),“一元線性回歸模型”及其參數(shù)估計(jì),,,,2020/5/19東華理工學(xué)院數(shù)信學(xué)院信息技術(shù)系,數(shù)學(xué)建模,稱(2)為一元線性回歸模型.“一元”是指只有一個(gè)自變量X,這個(gè)自變量X是引起因變量Y變化的部分原因.“線性”它一方面指因變量Y與自變量X之間為線性關(guān)系,即另一方面也指因變量Y與參數(shù)a,b之間為線性關(guān)系,即,,2020/5/19東華理工學(xué)院數(shù)信學(xué)院信息技術(shù)系,數(shù)學(xué)建模,模型假設(shè)條件,(1)誤差項(xiàng)的數(shù)學(xué)期望(均值)為零.即(2)不同的誤差項(xiàng)和之間互相獨(dú)立.即(3)誤差項(xiàng)的方差與n無關(guān),為一常數(shù).即,,,2020/5/19東華理工學(xué)院數(shù)信學(xué)院信息技術(shù)系,數(shù)學(xué)建模,(4)自變量與誤差項(xiàng)不相關(guān).即(5)為服從正態(tài)分布的隨機(jī)變量.即,,,2020/5/19東華理工學(xué)院數(shù)信學(xué)院信息技術(shù)系,數(shù)學(xué)建模,綜上所述,一元線性回歸模型可以歸結(jié)為,,2020/5/19東華理工學(xué)院數(shù)信學(xué)院信息技術(shù)系,數(shù)學(xué)建模,模型的參數(shù)最小二乘估計(jì),問題：設(shè)x與y之間的線性關(guān)系為（１）式，如何由一組統(tǒng)計(jì)值（xi,yi）,i=1,2…n.來建立起y與x之間的線性統(tǒng)計(jì)模型（線性回歸方程）。如何確定參數(shù)，使直線盡可能靠近所有的點(diǎn)（xi,yi）。即如何去尋找擬合散布點(diǎn)的直線？擬合一條直線的準(zhǔn)則是什么？,,,,,2020/5/19東華理工學(xué)院數(shù)信學(xué)院信息技術(shù)系,數(shù)學(xué)建模,擬合直線的的準(zhǔn)則,直線外一點(diǎn)到直線上的點(diǎn)的距離有三種特殊情況：１.點(diǎn)到直線的垂直距離；２.點(diǎn)到直線的垂直坐標(biāo)距離；３.點(diǎn)到直線的水平坐標(biāo)距離；,2020/5/19東華理工學(xué)院數(shù)信學(xué)院信息技術(shù)系,數(shù)學(xué)建模,準(zhǔn)則：,１.使達(dá)到最小值；２.使達(dá)到最小值；３.使達(dá)到最小值；４.使達(dá)到最小值；,,,最小二乘準(zhǔn)則,2020/5/19東華理工學(xué)院數(shù)信學(xué)院信息技術(shù)系,數(shù)學(xué)建模,最小二乘準(zhǔn)則尋找擬合直線,假設(shè)分別為模型參數(shù)a,b的估計(jì)值。擬合直線為其中，為的估計(jì)值。它可按如下方法求得，。由令則可將ei殘差看成隨機(jī)誤差項(xiàng)的估計(jì)值。令Q：殘差平方和.則最小二乘準(zhǔn)則就是求Ｑ的最小值。,,,,,殘差,2020/5/19東華理工學(xué)院數(shù)信學(xué)院信息技術(shù)系,數(shù)學(xué)建模,為使Ｑ達(dá)到最小，令,,,,,,2020/5/19東華理工學(xué)院數(shù)信學(xué)院信息技術(shù)系,數(shù)學(xué)建模,解之得：,,,2020/5/19東華理工學(xué)院數(shù)信學(xué)院信息技術(shù)系,數(shù)學(xué)建模,其中,,2020/5/19東華理工學(xué)院數(shù)信學(xué)院信息技術(shù)系,數(shù)學(xué)建模,,例１：某市自行車配件銷售額y（萬元）與自行車保有量x（萬輛）歷年統(tǒng)計(jì)數(shù)據(jù)如下所示，運(yùn)用一元線性回歸方法，建立自行車配件銷售額與自行車保有量之間的回歸模型。若該市自行車保有量近幾年按每年8%遞增，試預(yù)測該市1993年及1994年自行車配件銷售額。,,,,2020/5/19東華理工學(xué)院數(shù)信學(xué)院信息技術(shù)系,數(shù)學(xué)建模,2020/5/19東華理工學(xué)院數(shù)信學(xué)院信息技術(shù)系,數(shù)學(xué)建模,,解：樣本個(gè)數(shù)n=13,由表中數(shù)據(jù)經(jīng)計(jì)算可得：,,,2020/5/19東華理工學(xué)院數(shù)信學(xué)院信息技術(shù)系,數(shù)學(xué)建模,代入（３）式得，=3.7955,=3.9403.所以回歸預(yù)測方程為=3.9403+3.9755x…………(4)由給方程即可對1993年、1994年的自行車配件銷售額進(jìn)行預(yù)測，由題意可知，近幾年自行車保有量每年遞增8％，所以1993年、1994年該市自行車保有量分別為：26.611.08＝28.7388（萬輛）26.611.08*1.08＝31.09379（萬輛）,,,,2020/5/19東華理工學(xué)院數(shù)信學(xué)院信息技術(shù)系,數(shù)學(xué)建模,將上述數(shù)據(jù)代入（4）式，得1993年、1994年該市自行車配件銷售額的預(yù)測值分別為：=3.9403+3.795528.7388=113.0184(萬元)=3.9403+3.795531.0379=121.7446(萬元)值得注意，在求得回歸模型參數(shù)的估計(jì)值后還應(yīng)該分析研究模型參數(shù)的估計(jì)值是否與實(shí)際經(jīng)濟(jì)現(xiàn)象相吻合。例如b的符號及大小是否與所討論的經(jīng)濟(jì)問題相符。若所研究的是某機(jī)械產(chǎn)品配件銷售額y與該機(jī)械保有量x之間的關(guān)系，,,,2020/5/19東華理工學(xué)院數(shù)信學(xué)院信息技術(shù)系,數(shù)學(xué)建模,在一般情況下，保有量增加則其配件銷售額增加，而保有量減少其配件銷售額也將減少，所以這時(shí)回歸模型的參數(shù)b應(yīng)為正，若b<0，則意味著保有量增加（減少）而其配件銷售額卻反而減少（或增加），這與一般正常規(guī)律相矛盾。又如在某產(chǎn)品的需求量y對該產(chǎn)品的價(jià)格x的回歸模型中，在一般情況下，價(jià)格上升則需求下降，而價(jià)格下降則需求上升，所以回歸參數(shù)b1,則說明b的大小與實(shí)際情況或經(jīng)濟(jì)規(guī)律不相符。凡是出現(xiàn)上述類似情況，所得回歸模型都是不適用的，必須檢查其產(chǎn)生的原因，重新建模。,2020/5/19東華理工學(xué)院數(shù)信學(xué)院信息技術(shù)系,數(shù)學(xué)建模,由回歸方程求得的預(yù)測值是y的回歸估計(jì)值，稱為點(diǎn)估計(jì)。但在實(shí)際問題中，不但需要求出y的預(yù)測估計(jì)值，更重要的是需要知道y的實(shí)際值與預(yù)測值之間的誤差有多大，即需要知道y的實(shí)際值偏離預(yù)測值的范圍。為此只要能估計(jì)出y的實(shí)際值可能的取值范圍及其可靠程度即可。該范圍一般用區(qū)間表示，稱為預(yù)測區(qū)間。對預(yù)測區(qū)間估計(jì)過程稱為區(qū)間估計(jì)。其方法是由一組統(tǒng)計(jì)數(shù)據(jù)（xi,yi）(i=1,2…n)確定一個(gè)區(qū)間（），對于給定的值a（0令Y=Ln(y-k),A=Lna,B=b,則上述模型轉(zhuǎn)化為：Y=A+Bx+ε:線性回歸模型（3）y=,(a,b為參數(shù)，ε為隨機(jī)誤差項(xiàng))=>Lny=Lna+b/x+ε=>Y=Lny,X=1/x,A=Lna,B=b=>Y=A+Bx+Σ:線性回歸模型3、雙曲線函數(shù)模型1/y=a+b/x+ε,(a,b為模型參數(shù)，ε為隨機(jī)誤差項(xiàng)),,,,2020/5/19東華理工學(xué)院數(shù)信學(xué)院信息技術(shù)系,數(shù)學(xué)建模,令Y=1/y,X=1/x,=>上述模型轉(zhuǎn)化為Y=a+bX+ε:線性回歸模型4、對數(shù)函數(shù)模型：y=a+bLnx+ε,(a,b為模型參數(shù)，ε為隨機(jī)誤差項(xiàng))令x=Lnx=>y=a+bX+:線性回歸模型。5、多項(xiàng)式函數(shù)模型y=a，式中為模型參數(shù)，為隨機(jī)誤差項(xiàng)，令x1=x,,則,（,,,,,,,,,2020/5/19東華理工學(xué)院數(shù)信學(xué)院信息技術(shù)系,數(shù)學(xué)建模,,y=:多元線性回歸模型以上非線性回歸模型，經(jīng)過適當(dāng)?shù)淖兞刻鎿Q，均可轉(zhuǎn)化為線性回歸模型，所以稱為可線性化模型。6、柯布——道格拉斯（Cobb-Douglas）生產(chǎn)函數(shù)模型。y=其中L為勞動(dòng)投入，K為投資，y的總產(chǎn)出，a,b,c為模型參數(shù)，ε為隨機(jī)誤差項(xiàng)。上式兩端取對數(shù)，得,,,,,2020/5/19東華理工學(xué)院數(shù)信學(xué)院信息技術(shù)系,數(shù)學(xué)建模,Lny=Lnc+aLnL+bLnK+ε令Y=Lny,C=Lnc,x1=LnL,x2=LnK,則得Y=c+ax1+bx2+ε:二元線性回歸模型。,,,,,,