復(fù)習(xí)線性回歸方程的求法

《復(fù)習(xí)線性回歸方程的求法》由會(huì)員分享，可在線閱讀，更多相關(guān)《復(fù)習(xí)線性回歸方程的求法（30頁珍藏版）》請?jiān)谘b配圖網(wǎng)上搜索。

1、必修 3(第二章 統(tǒng)計(jì) )知識結(jié)構(gòu) 收集數(shù)據(jù) (隨機(jī)抽樣 ) 整理、分析數(shù)據(jù) 估計(jì)、推斷 簡 單 隨 機(jī) 抽 樣 分 層 抽 樣 系 統(tǒng) 抽 樣 用樣本估計(jì)總體 變量間的相關(guān)關(guān)系 用樣本 的頻率 分布估 計(jì)總體 分布 用樣本 數(shù)字特 征估計(jì) 總體數(shù) 字特征 線 性 回 歸 分 析 統(tǒng)計(jì)的基本思想 y = f(x) y = f(x) y = f(x) 實(shí)際 樣本 模 擬 抽 樣 分 析 問題 1： 正方形的面積 y與正方形的邊長 x之間 的 函數(shù)關(guān)系 是 y = x2 確定性關(guān)系 問題 2： 某水田水稻產(chǎn)量 y與施肥量 x之間是否 -有一個(gè)確定性的關(guān)系？ 例如： 在 7 塊并排、形狀大小相同的試

2、驗(yàn)田 上 進(jìn)行施肥量對水稻產(chǎn)量影響的試驗(yàn)，得到 如下所示的一組數(shù)據(jù)： 施化肥量 x 15 20 25 30 35 40 45 水稻產(chǎn)量 y 330 345 365 405 445 450 455 回顧變量之間的兩種關(guān)系 自變量取值一定時(shí)，因變量的取值帶有一 定隨機(jī)性的兩個(gè)變量之間的關(guān)系叫做 相關(guān)關(guān)系 。 1、定義： 1）：相關(guān)關(guān)系是一種不確定性關(guān)系； 注 對具有相關(guān)關(guān)系的兩個(gè)變量進(jìn)行 統(tǒng)計(jì)分析的方法叫 回歸分析 。 2）： 2、 現(xiàn)實(shí)生活中存在著大量的相關(guān)關(guān)系。 如：人的身高與年齡； 產(chǎn)品的成本與生產(chǎn)數(shù)量； 商品的銷售額與廣告費(fèi)； 家庭的支出與收入。等等 探索：水稻產(chǎn)量 y與施肥量 x之間大致

3、有何 規(guī)律？ 10 20 30 40 50 500 450 400 350 300 發(fā)現(xiàn)：圖中各點(diǎn)，大致分布在某條直線附近。 探索 2：在這些點(diǎn)附近可畫直線不止一條， 哪條直線最能代表 x與 y之間的關(guān)系呢？ x y 施化肥量 水稻產(chǎn)量 施化肥量 x 15 20 25 30 35 40 45 水稻產(chǎn)量 y 330 345 365 405 445 450 455 散點(diǎn)圖 10 20 30 40 50 500 450 400 350 300 x y 施化肥量 水稻產(chǎn)量 n 2 ii i= 1 Q ( a , b ) = ( y - b x - a ) 取最小值時(shí), a , b 的值. ii(x ,

4、y ) ii(x ,y ) |ii|y -y 怎樣求回歸直線？ 最小二乘法： y = b x + a ( x ,y ) 稱為樣本點(diǎn)的中心 。 n ( x - x ) ( y - y ) ii i = 1 b= n 2 ( x - x ) i i = 1 a = y - b x . nn 11 其中x = x ,y = y . ii nn i = 1 i = 1 n ii i = 1 n 22 i i = 1 x y - n x y =, x - n x （ 3）對兩個(gè)變量進(jìn)行的線性分析叫做 線性回歸分析 。 2、回歸直線方程： nn i i i i i = 1 i = 1 nn 2 22 ii

5、 i = 1 i = 1 ( x - x ) ( y - y ) x - n x y b = = , ( x - x ) x - n x a = y - b x y （ 2）相應(yīng)的直線叫做 回歸直線 。 （ 1）所求直線方程 叫做 回歸直線方程 ； 其中 y = b x + a （注意回歸直線一定經(jīng)過樣本點(diǎn)的中心） 例 1 假設(shè)關(guān)于某設(shè)備的使用年限 x和所有支出的維修費(fèi)用 y(萬 元 )有如下的統(tǒng)計(jì)數(shù)據(jù)： x 2 3 4 5 6 Y 2.2 3.8 5.5 6.5 7.0 若由此資料所知 y對 x呈線性相關(guān)關(guān)系，試求： 1.回歸直線方程 2.估計(jì)使用年限為 10年時(shí)，維修費(fèi)用是多少？ 解題步驟

6、： 1.作散點(diǎn)圖 2.把數(shù)據(jù)列表，計(jì)算相應(yīng)的值，求出回歸系數(shù) 3.寫出回歸方程 ,并按要求進(jìn)行預(yù)測說明。 例 2 （ 2007年廣東）下表提供了某廠節(jié)能降耗技術(shù)改造后生產(chǎn) 甲產(chǎn)品過程中記錄的產(chǎn)量 x（噸）與相應(yīng)的生產(chǎn)能耗 y (噸標(biāo)準(zhǔn) 煤 )的幾組對應(yīng)數(shù)據(jù)。 X 3 4 5 6 y 2.5 3 4 4.5 (1)請畫出上表數(shù)據(jù)的散點(diǎn)圖 (2)請根據(jù)上表提供的數(shù)據(jù)，用最小二乘法求出 y關(guān)于 x的 性回歸方程 y bx a (3)已知該廠技改前 100噸甲產(chǎn)品的生產(chǎn)能耗為 90噸標(biāo)準(zhǔn) 煤，試根據(jù)（ 2）求出的線性回歸方程，預(yù)測生產(chǎn) 100 噸甲產(chǎn)品的生產(chǎn)能耗比技改前降低多少噸標(biāo)準(zhǔn)煤？ （參考數(shù)值：

7、 3 2 . 5 4 3 5 4 6 4 . 5 6 6 . 5 ） 小結(jié)：求回歸直線方程的步驟 nn i i i i i = 1 i = 1 nn 2 22 ii i = 1 i = 1 ( x - x ) ( y - y ) x - n x y b = = , ( x - x ) x - n x a = y - b x y （ 2）所求直線方程 叫做 回歸直線方程 ； 其中 y = b x + a （ 1）作散點(diǎn)圖，通過圖看出樣本點(diǎn)是否呈條狀分 布，進(jìn)而判斷兩個(gè)量是否具有線性相關(guān)關(guān)系。 （ 3）根據(jù)回歸方程，并按要求進(jìn)行預(yù)測說明。 第一章 統(tǒng)計(jì)案例 1.1回歸分析的基本思想及其初步應(yīng)用 （

8、第二課時(shí)） a. 比 數(shù)學(xué) 3 中“回歸”增加的內(nèi) 容 數(shù)學(xué) 統(tǒng)計(jì) 1. 畫散點(diǎn)圖 2. 了解最小二乘法 的思想 3. 求回歸直線方程 y bx a 4. 用回歸直線方程 解決應(yīng)用問題 選修 - 統(tǒng)計(jì)案例 5. 引入線性回歸模型 y bx a e 6. 了解模型中隨機(jī)誤差項(xiàng) e產(chǎn) 生的原因 7. 了解相關(guān)指數(shù) R2 和模型擬 合的效果之間的關(guān)系 8. 了解殘差圖的作用 9. 利用線性回歸模型解決一類 非線性回歸問題 10. 正確理解分析方法與結(jié)果 什么是回歸分析： “回歸”一詞是由英國生物學(xué)家 F.Galton在研究人體身高的遺傳問題時(shí)首先提出的。 根據(jù)遺傳學(xué)的觀點(diǎn)，子輩的身高受父輩影響，以

9、X記父輩身高， Y記子輩身高。 雖然子輩身高一般受父輩影響，但同樣身高的父親，其子身高并不一致，因此， X和 Y之間存在一種相關(guān)關(guān)系。 一般而言，父輩身高者，其子輩身高也高，依此推論，祖祖輩輩遺傳下來，身 高必然向兩極分化，而事實(shí)上并非如此，顯然有一種力量將身高拉向中心，即子輩 的身高有向中心回歸的特點(diǎn)。“回歸”一詞即源于此。 雖然這種向中心回歸的現(xiàn)象只是特定領(lǐng)域里的結(jié)論，并不具有普遍性，但從它 所描述的關(guān)于 X為自變量， Y為不確定的因變量這種變量間的關(guān)系看，和我們現(xiàn)在的 回歸含義是相同的。 不過，現(xiàn)代回歸分析雖然沿用了“回歸”一詞，但內(nèi)容已有很大變化，它是一種應(yīng)用 于許多領(lǐng)域的廣泛的分析研

10、究方法，在經(jīng)濟(jì)理論研究和實(shí)證研究中也發(fā)揮著重要作用。 回歸分析的內(nèi)容與步驟： 統(tǒng)計(jì)檢驗(yàn)通過后，最后是 利用回歸模型，根據(jù)自變量去估計(jì)、預(yù)測因變量 。 回歸分析通過一個(gè)變量或一些變量的變化解釋另一變量的變化。 其主要內(nèi)容和步驟是， 首先根據(jù)理論和對問題的分析判斷， 將變量分為自變量和因變量 ； 其次，設(shè)法 找出合適的數(shù)學(xué)方程式（即回歸模型） 描述變量間的關(guān)系； 由于涉及到的變量具有不確定性，接著還要 對回歸模型進(jìn)行統(tǒng)計(jì)檢驗(yàn) ； 例 1 從某大學(xué)中隨機(jī)選取 8名女大學(xué)生，其身高和體重?cái)?shù)據(jù)如表 1-1所示。 編號 1 2 3 4 5 6 7 8 身高 /cm 165 165 157 170 175

11、165 155 170 體重 /kg 48 57 50 54 64 61 43 59 求根據(jù)一名女大學(xué)生的身高預(yù)報(bào)她的體重的回歸方程，并預(yù)報(bào)一名身高為 172cm的女大學(xué)生的體重。 案例 1：女大學(xué)生的身高與體重 解： 1、選取身高為自變量 x，體重為因變量 y，作散點(diǎn)圖： 2、由散點(diǎn)圖知道身高和體重有比較好的 線性相關(guān)關(guān)系，因此可以用線性回歸方程 刻畫它們之間的關(guān)系。 3、從散點(diǎn)圖還看到，樣本點(diǎn)散布在某一條 直線的附近，而不是在一條直線上，所以 不能用一次函數(shù) y=bx+a描述它們關(guān)系。 我們可以用下面的 線性回歸模型 來表示： y=bx+a+e，其中 a和 b為模型的未知參數(shù)， e稱為隨機(jī)

12、誤差 。 思考 P3 產(chǎn)生隨機(jī)誤差項(xiàng) e 的原因是什么？ 思考 P4 產(chǎn)生隨機(jī)誤差項(xiàng) e的原因是什么？ 隨機(jī)誤差 e的來源 (可以推廣到一般）： 1、其它因素的影響：影響身高 y 的因素不只是體重 x，可能 還包括遺傳基因、飲食習(xí)慣、生長環(huán)境等因素； 2、用線性回歸模型近似真實(shí)模型所引起的誤差； 3、身高 y 的觀測誤差。 探究 P4： 身高為 172cm的女大學(xué)生的體重一定是 60.316kg嗎？ 如果不是，你能解析一下原因嗎？ 答：身高為 172cm的女大學(xué)生的體重不一定是 60.316kg， 但一般可以認(rèn)為她的體重在 60.316kg左右。 函數(shù)模型與回歸模型之間的差別 函數(shù)模型： ab

13、xy 回歸模型： eabxy 對回歸模型進(jìn)行統(tǒng)計(jì)檢驗(yàn) 表 1-4列出了女大學(xué)生身高和體重的原始數(shù)據(jù)以及相應(yīng)的殘差數(shù)據(jù)。 在研究兩個(gè)變量間的關(guān)系時(shí)，首先要根據(jù)散點(diǎn)圖來粗略判斷它們是否線性相關(guān)， 是否可以用回歸模型來擬合數(shù)據(jù)。 殘差分析與殘差圖的定義： 然后，我們可以通過殘差 來判斷模型擬合的效果，判斷原始 數(shù)據(jù)中是否存在可疑數(shù)據(jù)， 這方面的分析工作稱為殘差分析 。 12, , , ne e e 編號 1 2 3 4 5 6 7 8 身高 /cm 165 165 157 170 175 165 155 170 體重 /kg 48 57 50 54 64 61 43 59 殘差 -6.373 2.6

14、27 2.419 -4.618 1.137 6.627 -2.883 0.382 我們可以利用圖形來分析殘差特性，作圖時(shí)縱坐標(biāo)為殘差，橫坐標(biāo)可以選為樣本 編號，或身高數(shù)據(jù)，或體重估計(jì)值等，這樣作出的圖形稱為 殘差圖 。 殘差圖的制作及作用。 坐標(biāo)縱軸為殘差變量，橫軸可以有不同的選擇； 若模型選擇的正確，殘差圖中的點(diǎn)應(yīng)該分布在以 橫軸為心的帶形區(qū)域 ； 對于遠(yuǎn)離橫軸的點(diǎn)，要特別注意 。 身 高 與 體 重 殘 差 圖 異 常 點(diǎn) 錯(cuò)誤數(shù)據(jù) 模型問題 幾點(diǎn)說明： 第一個(gè)樣本點(diǎn)和第 6個(gè)樣本點(diǎn)的殘差比較大，需要確認(rèn)在采集過程中是否有人為 的錯(cuò)誤。如果數(shù)據(jù)采集有錯(cuò)誤，就予以糾正，然后再重新利用線性回歸

15、模型擬合數(shù) 據(jù)；如果數(shù)據(jù)采集沒有錯(cuò)誤，則需要尋找其他的原因。 另外，殘差點(diǎn)比較均勻地落在水平的帶狀區(qū)域中，說明選用的模型計(jì)較合適，這 樣的帶狀區(qū)域的寬度越窄，說明模型擬合精度越高，回歸方程的預(yù)報(bào)精度越高。 我們可以用 相關(guān)指數(shù) R2來刻畫回歸的效果，其計(jì)算公式是 2 2 1 2 1 () 11 () n i i i n i i yy R yy 殘 差 平 方 和 。 總 偏 差 平 方 和 另外， 2. 反映回歸直線的擬合程度 3. 取值范圍在 0 , 1 之間 4. r2 1，說明回歸方程擬合的越好； r20， 說明回歸方程擬合的越差 5. 判定系數(shù)等于相關(guān)系數(shù)的平方，即 r2 (r)2 我

16、們可以用 相關(guān)指數(shù) R2來刻畫回歸的效果，其計(jì)算公式是 2 2 1 2 1 () 11 () n i i i n i i yy R yy 殘 差 平 方 和 。 總 偏 差 平 方 和 顯然， R2的值越大，說明殘差平方和越小，也就是說模型擬合效果越好。 在線性回歸模型中， R2表示解析變量對預(yù)報(bào)變量變化的貢獻(xiàn)率 。 R2越接近 1，表示回歸的效果越好（因?yàn)?R2越接近 1，表示解析變量和預(yù)報(bào)變量的 線性相關(guān)性越強(qiáng)）。 如果某組數(shù)據(jù)可能采取幾種不同回歸方程進(jìn)行回歸分析，則可以通過比較 R2的值 來做出選擇，即 選取 R2較大的模型作為這組數(shù)據(jù)的模型 。 總的來說： 相關(guān)指數(shù) R2是度量模型擬合

17、效果的一種指標(biāo)。 在線性模型中，它 代表自變量刻畫預(yù)報(bào)變量的能力 。 我們可以用 相關(guān)指數(shù) R2來刻畫回歸的效果，其計(jì)算公式是 2 2 1 2 1 () 11 () n i i i n i i yy R yy 殘 差 平 方 和 。 總 偏 差 平 方 和 1 354 總計(jì) 0.36 128.361 殘差變量 0.64 225.639 解釋變量 比例 平方和 來源 表 1-3 從表 3-1中可以看出，解析變量對總效應(yīng)約貢獻(xiàn)了 64%，即 R2 0.64，可以敘述為 “身高解析了 64%的體重變化”，而隨機(jī)誤差貢獻(xiàn)了剩余的 36%。 所以，身高對體重的效應(yīng)比隨機(jī)誤差的效應(yīng)大得多。 用身高預(yù)報(bào)體重

18、時(shí)，需要注意下列問題： 1、回歸方程只適用于我們所研究的樣本的總體； 2、我們所建立的回歸方程一般都有時(shí)間性； 3、樣本采集的范圍會(huì)影響回歸方程的適用范圍； 4、不能期望回歸方程得到的預(yù)報(bào)值就是預(yù)報(bào)變量的精確值。 事實(shí)上，它是預(yù)報(bào)變量的可能取值的平均值。 這些問題也使用于其他問題。 涉及到統(tǒng)計(jì)的一些思想： 模型適用的總體； 模型的時(shí)間性； 樣本的取值范圍對模型的影響； 模型預(yù)報(bào)結(jié)果的正確理解。 小結(jié)： 一般地，建立回歸模型的基本步驟為： （ 1）確定研究對象，明確哪個(gè)變量是解析變量，哪個(gè)變量是預(yù)報(bào)變量。 （ 2）畫出確定好的解析變量和預(yù)報(bào)變量的散點(diǎn)圖，觀察它們之間的關(guān)系 （如是否存在線性關(guān)系等

19、）。 （ 3）由經(jīng)驗(yàn)確定回歸方程的類型（如我們觀察到數(shù)據(jù)呈線性關(guān)系，則選用線性 回歸方程 y=bx+a） . （ 4）按一定規(guī)則估計(jì)回歸方程中的參數(shù)（如最小二乘法）。 （ 5）得出結(jié)果后分析殘差圖是否有異常（個(gè)別數(shù)據(jù)對應(yīng)殘差過大，或殘差呈現(xiàn) 不隨機(jī)的規(guī)律性，等等），過存在異常，則檢查數(shù)據(jù)是否有誤，或模型是 否合適等。 例 1 假設(shè)關(guān)于某設(shè)備的使用年限 x和所有支出的維修費(fèi)用 y(萬 元 )有如下的統(tǒng)計(jì)數(shù)據(jù)： x 2 3 4 5 6 Y 2.2 3.8 5.5 6.5 7.0 試求： 1.對變量 y與 x進(jìn)行相關(guān)性檢驗(yàn) 2.求回歸直線 3.根據(jù)你得到的模型，預(yù)報(bào)使用年限為 10年時(shí)，維修費(fèi)用是多少？ 4.你認(rèn)為這個(gè)模型能較好地刻畫年限與維修費(fèi)用的關(guān)系嗎？ 請說明理由 詳細(xì)解題過程 例 2 （ 2007年廣東）下表提供了某廠節(jié)能降耗技術(shù)改造后生產(chǎn) 甲產(chǎn)品過程中記錄的產(chǎn)量 x（噸）與相應(yīng)的生產(chǎn)能耗 y (噸標(biāo)準(zhǔn) 煤 )的幾組對應(yīng)數(shù)據(jù)。 X 3 4 5 6 y 2.5 3 4 4.5 (1)對變量 y與 x進(jìn)行相關(guān)性檢驗(yàn) (2)如果兩變量 x、 y具有線性相關(guān)關(guān)系，試求出 y關(guān)于 x的線性回歸方程。 （ 3）根據(jù)你得到的模型，預(yù)報(bào)使用產(chǎn)量為 100噸，預(yù)測生產(chǎn)能耗是多少？ （ 4）你認(rèn)為這個(gè)模型能較好地刻畫產(chǎn)量與能耗的關(guān)系嗎？ 請說明理由