《數(shù)值分析之曲線擬合.ppt》由會(huì)員分享，可在線閱讀，更多相關(guān)《數(shù)值分析之曲線擬合.ppt（46頁珍藏版）》請(qǐng)?jiān)谘b配圖網(wǎng)上搜索。
1、第三章 曲線擬合的最小二乘法 /函數(shù)平方逼近初步,Numerical Analysis,曲線擬合問題: (建立試驗(yàn)數(shù)據(jù)的模型) 在實(shí)際應(yīng)用中，往往并不需要曲線通過給定的數(shù)據(jù)點(diǎn)，而只要求用曲線(函數(shù))近似代替給定的列表函數(shù)時(shí)，其 誤差在某種度量意義下最小。 函數(shù)逼近問題: (連續(xù)函數(shù)的逼近) 在實(shí)際應(yīng)用中常需為解析式子比較復(fù)雜的函數(shù)尋找一個(gè)簡(jiǎn)單函數(shù)來近似代替它，并要求其誤差在某種度量意義下最小。 可統(tǒng)稱為最佳逼近問題, 3.1 擬合與逼近問題,,,一. 問題的提出,插值法是使用插值多項(xiàng)式來逼近未知或復(fù)雜函數(shù)的， 它要求插值函數(shù)與被插函數(shù)在插值節(jié)點(diǎn)上函數(shù)值相同 ， 而在其他點(diǎn)上沒有要求。在
2、非插值節(jié)點(diǎn)上有時(shí)函數(shù)值 會(huì)相差很大。若要求在被插函數(shù)的定義區(qū)間上都有 較好的近似，就是最佳逼近問題。,必須找到一種度量標(biāo)準(zhǔn)來衡量什么是最佳逼近.,最佳一致逼近是在函數(shù)空間 M中選 P(x) 滿足 但由于絕對(duì)值函數(shù)不宜進(jìn)行分析運(yùn)算，常替之以 來討論，于是最佳逼近問題變?yōu)樽罴哑椒奖平鼏栴} 這即為連續(xù)函數(shù)的最佳平方逼近. 對(duì)于離散的問題，最佳平方逼近問題為: 就是常說的曲線擬合的最小二乘法.,最佳逼近,,,,,二. 預(yù)備知識(shí),內(nèi)積:,常采用的內(nèi)積與范數(shù),1.正交函數(shù)族與正交多項(xiàng)式 定義1 若f(x),g(x)Ca,b, (x)為a,b上的權(quán)函數(shù) 且滿足: 則稱f(x)與g(x)在a,b上帶權(quán)(
3、x)正交。,正交多項(xiàng)式,,若函數(shù)族 0(x), 1(x), , n(x), 滿足關(guān)系 則稱k(x)是a,b上帶權(quán)(x)的正交函數(shù)族。 例如，三角函數(shù)族 1 ,cosx , sinx , cos2x , sin2x , 就是在區(qū)間 -, 上的正交函數(shù)族。,,定義2 設(shè) n(x) 是a,b上首項(xiàng)系數(shù) an0 的 n次多項(xiàng)式,(x)為a,b上權(quán)函數(shù)，如果多項(xiàng)式序列 滿足關(guān)系式: 則稱為多項(xiàng)式序列 為在a,b上帶權(quán)(x)正交，稱n(x)為a,b上帶權(quán)(x)的n次正交多項(xiàng)式。,,,只要給定區(qū)間a,b及權(quán)函數(shù)(x), 均可由一族線性無關(guān)的冪函數(shù) 1 , x , , xn ,
4、利用逐個(gè)正交化手續(xù)(Gram-Schmidt正交化方法)： 構(gòu)造出正交多項(xiàng)式序列 。,,,2.勒讓德多項(xiàng)式,定義3 當(dāng)區(qū)間為 -1,1, 權(quán)函數(shù) (x) 1 時(shí), 由1,x,,xn ,正交化得到的多項(xiàng)式就稱為勒讓德 (Legendre) 多項(xiàng)式,并用 P0(x),P1(x)，，Pn(x)， 表示。 這是勒讓德于1785年引進(jìn)的。1814年羅德利克(Rodrigul) 給出了簡(jiǎn)單的表達(dá)式：,,由于(x2 -1)n 是2n次多項(xiàng)式，求n階導(dǎo)數(shù)后得到 于是得首項(xiàng) xn 的系數(shù) 顯然最高項(xiàng)系數(shù)為1的勒讓德多項(xiàng)式為:,,,勒讓德多項(xiàng)式有下述幾個(gè)重要性質(zhì)： 性質(zhì)1. 正交性 性質(zhì)2.奇偶性
5、 pn(-x)=(-1)n pn (x) 性質(zhì)3.遞推關(guān)系(n+1)pn+1(x)=(2n+1)xpn(x)-npn-1(x) (n=1,2,) (*) 由p0(x)=1，p1(x)=x，利用 (*) 就可推出pn(x)的 表達(dá)式:,,性質(zhì)4. pn(x) 在區(qū)間-1，1內(nèi)有n個(gè)不同的實(shí)零點(diǎn)。,,,,實(shí)例：考察某種纖維的強(qiáng)度y與其拉伸倍數(shù)x的關(guān)系，下表是實(shí)際測(cè)定的24個(gè)纖維樣品的強(qiáng)度與相應(yīng)的拉伸倍數(shù)的記錄:,一. 實(shí)例講解,3.2 曲線擬合(最小二乘法),纖維強(qiáng)度隨拉伸 倍數(shù)增加而增加,,并且24個(gè)點(diǎn)大致分 布在一條直線附近,,---------(1),,,,,必須找到一
6、種度量標(biāo)準(zhǔn)來衡量什么曲線最接近所有數(shù)據(jù)點(diǎn).,,,二、 問題的提法,定義平方誤差(偏差平方和):,我們選取的度量標(biāo)準(zhǔn)是,---------(2),---------(3),,,使得,,,,,,,,,,,三、法方程組,由,可知,因此可假設(shè),因此求最小二乘解轉(zhuǎn)化為,二次函數(shù),,,由多元函數(shù)取極值的必要條件,得,即,,,---------(4),即,,,引入記號(hào),則由內(nèi)積的概念可知,---------(5),---------(6),顯然內(nèi)積滿足交換律,,,方程組(4)便可化為,---------(7),將其表示成矩陣形式,-----(8),,,,并且其系數(shù)矩陣為對(duì)稱陣.,根據(jù)Cramer法則,法方程
7、組有唯一解,,,,即,是,的最小值,所以,因此,,,,作為一種簡(jiǎn)單的情況,,基函數(shù)之間的內(nèi)積為,,,平方誤差,例1. 回到本節(jié)開始的實(shí)例，從散點(diǎn)圖可以看出,纖維強(qiáng)度和拉伸倍數(shù)之間近似與線性關(guān)系,故可選取線性函數(shù),為擬合函數(shù)，其基函數(shù)為,建立法方程組,根據(jù)內(nèi)積公式，可得,,,法方程組為,解得,平方誤差為,,,擬合曲線與散點(diǎn) 的關(guān)系如右圖:,,,四、加權(quán)最小二乘法,各點(diǎn)的重要性可能是不一樣的,權(quán):,即權(quán)重或者密度，統(tǒng)稱為權(quán)系數(shù).,定義加權(quán) 平方誤差為,-----(9),,,使得,,,由多元函數(shù)取極值的必要條件,得,即,,,引入記號(hào),定義加權(quán)內(nèi)積,-----(10),,,矩陣形式(法方程組)為,方程
8、組(10)式化為,-----(11),---(12),,,平方誤差為,作為特殊情形,用多項(xiàng)式作擬合函數(shù)的法方程組為,-----(13),五、最小二乘原理的其他應(yīng)用,1、算術(shù)平均：最小二乘意義下誤差最小 2、超定方程組的最小二乘解 P103 例3.3.3,3.3 連續(xù)函數(shù)的最佳平方逼近,1. 最佳平方逼近問題,-----(14),2. 解法(法方程),-----(15),最小二乘法方法評(píng)注,曲線擬合的最小二乘法是實(shí)驗(yàn)數(shù)據(jù)處理的常用方法。最佳逼近可以在一個(gè)區(qū)間上比較均勻的逼近函數(shù)。具有方法簡(jiǎn)單易行，實(shí)效性大，應(yīng)用廣泛等特點(diǎn)。 但當(dāng)法方程組階數(shù)較高時(shí)，往往出現(xiàn)病態(tài)。因此必須謹(jǐn)慎對(duì)待和加以巧妙處理。有效方法之一是引入正交多項(xiàng)式以改善其病態(tài)性（簡(jiǎn)介基本思想）。,,See you next chapter!,復(fù)習(xí)題 P32 例1.8.3 習(xí)題 3.13.3、3.6、3.7、3.9 3.13(1)、3.20,
數(shù)值分析之曲線擬合.ppt
