《線性回歸方程的求法.ppt》由會員分享,可在線閱讀,更多相關(guān)《線性回歸方程的求法.ppt(50頁珍藏版)》請在裝配圖網(wǎng)上搜索。
1、1.1線性回歸方程的求法,必修3(第二章 統(tǒng)計)知識結(jié)構(gòu),收集數(shù)據(jù) (隨機抽樣),整理、分析數(shù)據(jù)估計、推斷,簡單隨機抽樣,分層抽樣,系統(tǒng)抽樣,用樣本估計總體,變量間的相關(guān)關(guān)系,用樣本的頻率分布估計總體分布,用樣本數(shù)字特征估計總體數(shù)字特征,線性回歸分析,,,統(tǒng)計的基本思想,,,,實際,樣本,模 擬,抽 樣,分 析,兩個變量的關(guān)系,,不相關(guān),相關(guān)關(guān)系,,函數(shù)關(guān)系,線性相關(guān),非線性相關(guān),現(xiàn)實生活中兩個變量間的關(guān)系有哪些呢?,思考:相關(guān)關(guān)系與函數(shù)關(guān)系有怎樣的不同?,函數(shù)關(guān)系中的兩個變量間是一種確定性關(guān)系 相關(guān)關(guān)系是一種非確定性關(guān)系,函數(shù)關(guān)系是一種理想的關(guān)系模型 相關(guān)關(guān)系在現(xiàn)實生活中大量存在
2、,是更一般的情況,自變量取值一定時,因變量的取值帶有一定隨機性的兩個變量之間的關(guān)系叫做相關(guān)關(guān)系。,1、定義:,1):相關(guān)關(guān)系是一種不確定性關(guān)系;,注,2、現(xiàn)實生活中存在著大量的相關(guān)關(guān)系。 如:人的身高與年齡; 產(chǎn)品的成本與生產(chǎn)數(shù)量; 商品的銷售額與廣告費; 家庭的支出與收入。等等,探索:水稻產(chǎn)量y與施肥量x之間大致有何規(guī)律?,10 20 30 40 50,500 450 400 350 300,,,,,,,,發(fā)現(xiàn):圖中各點,大致分布在某條直線附近。,,探索2:在這些點附近可畫直線不止一條, 哪條直線最能代表x與y之間的關(guān)系呢?,施化肥量,水稻產(chǎn)量,,散點圖,10
3、 20 30 40 50,500 450 400 350 300,,,,,,,,,施化肥量,水稻產(chǎn)量,,怎樣求回歸直線?,最小二乘法:,稱為樣本點的中心。,(3)對兩個變量進行的線性分析叫做線性回歸分析。,2、回歸直線方程:,(2)相應的直線叫做回歸直線。,(1)所求直線方程 叫做回歸直線方程; 其中,(注意回歸直線一定經(jīng)過樣本點的中心),例1 假設關(guān)于某設備的使用年限x和所有支出的維修費用y(萬元)有如下的統(tǒng)計數(shù)據(jù):,若由此資料所知y對x呈線性相關(guān)關(guān)系,試求: 回歸直線方程 估計使用年限為10年時,維修費用是多少?,解題步驟:,作散點圖,2.把數(shù)據(jù)列表,計算相應的值,求出回
4、歸系數(shù),3.寫出回歸方程,并按要求進行預測說明。,例2 (2007年廣東)下表提供了某廠節(jié)能降耗技術(shù)改造后生產(chǎn)甲產(chǎn)品過程中記錄的產(chǎn)量x(噸)與相應的生產(chǎn)能耗y (噸標準煤)的幾組對應數(shù)據(jù)。,請畫出上表數(shù)據(jù)的散點圖 請根據(jù)上表提供的數(shù)據(jù),用最小二乘法求出y關(guān)于x的 性回歸方程,(3)已知該廠技改前100噸甲產(chǎn)品的生產(chǎn)能耗為90噸標準 煤,試根據(jù)(2)求出的線性回歸方程,預測生產(chǎn)100 噸甲產(chǎn)品的生產(chǎn)能耗比技改前降低多少噸標準煤?,(參考數(shù)值:,),小結(jié):求回歸直線方程的步驟,(2)所求直線方程 叫做回歸直線方程; 其中,(1)作散點圖,通過圖看出樣本點是否呈條狀分 布,進而判斷兩
5、個量是否具有線性相關(guān)關(guān)系。,(3)根據(jù)回歸方程,并按要求進行預測說明。,相關(guān)系數(shù),1.計算公式 2相關(guān)系數(shù)的性質(zhì) (1)|r|1 (2)|r|越接近于1,相關(guān)程度越大;|r|越接近于0,相關(guān)程度越小 問題:達到怎樣程度,x、y線性相關(guān)呢?它們的相關(guān)程度怎樣呢?,負相關(guān),正相關(guān),相關(guān)系數(shù),正相關(guān);負相關(guān)通常, r-1,-0.75--負相關(guān)很強; r0.75,1正相關(guān)很強; r-0.75,-0.3--負相關(guān)一般; r0.3, 0.75正相關(guān)一般; r-0.25, 0.25--相關(guān)性較弱;,第一章 統(tǒng)計案例,1.1回歸分析的基本思想及其初步應用,(第二課時),a. 比數(shù)學3
6、中“回歸”增加的內(nèi)容,數(shù)學統(tǒng)計 畫散點圖 了解最小二乘法的思想 求回歸直線方程 ybxa 用回歸直線方程解決應用問題,選修-統(tǒng)計案例 引入線性回歸模型 ybxae 了解模型中隨機誤差項e產(chǎn)生的原因 了解相關(guān)指數(shù) R2 和模型擬合的效果之間的關(guān)系 了解殘差圖的作用 利用線性回歸模型解決一類非線性回歸問題 正確理解分析方法與結(jié)果,什么是回歸分析:,“回歸”一詞是由英國生物學家F.Galton在研究人體身高的遺傳問題時首先提出的。,根據(jù)遺傳學的觀點,子輩的身高受父輩影響,以X記父輩身高,Y記子輩身高。 雖然子輩身高一般受父輩影響,但同樣身高的父親,其子身高并不一致,因此, X和Y之間存在一種相關(guān)關(guān)系
7、。,一般而言,父輩身高者,其子輩身高也高,依此推論,祖祖輩輩遺傳下來,身 高必然向兩極分化,而事實上并非如此,顯然有一種力量將身高拉向中心,即子輩 的身高有向中心回歸的特點?!盎貧w”一詞即源于此。,雖然這種向中心回歸的現(xiàn)象只是特定領(lǐng)域里的結(jié)論,并不具有普遍性,但從它 所描述的關(guān)于X為自變量,Y為不確定的因變量這種變量間的關(guān)系看,和我們現(xiàn)在的 回歸含義是相同的。,不過,現(xiàn)代回歸分析雖然沿用了“回歸”一詞,但內(nèi)容已有很大變化,它是一種應用 于許多領(lǐng)域的廣泛的分析研究方法,在經(jīng)濟理論研究和實證研究中也發(fā)揮著重要作用。,回歸分析的內(nèi)容與步驟:,統(tǒng)計檢驗通過后,最后是利用回歸模型,根據(jù)自變量去估計、預測
8、因變量。,回歸分析通過一個變量或一些變量的變化解釋另一變量的變化。,其主要內(nèi)容和步驟是, 首先根據(jù)理論和對問題的分析判斷,將變量分為自變量和因變量;,其次,設法找出合適的數(shù)學方程式(即回歸模型)描述變量間的關(guān)系;,由于涉及到的變量具有不確定性,接著還要對回歸模型進行統(tǒng)計檢驗;,,例1 從某大學中隨機選取8名女大學生,其身高和體重數(shù)據(jù)如表1-1所示。,求根據(jù)一名女大學生的身高預報她的體重的回歸方程,并預報一名身高為 172cm的女大學生的體重。,案例1:女大學生的身高與體重,解:1、選取身高為自變量x,體重為因變量y,作散點圖:,2、由散點圖知道身高和體重有比較好的 線性相關(guān)關(guān)系,因此可以用線性
9、回歸方程 刻畫它們之間的關(guān)系。,3、從散點圖還看到,樣本點散布在某一條 直線的附近,而不是在一條直線上,所以 不能用一次函數(shù)y=bx+a描述它們關(guān)系。,我們可以用下面的線性回歸模型來表示: y=bx+a+e,其中a和b為模型的未知參數(shù), e稱為隨機誤差。,思考P3 產(chǎn)生隨機誤差項e 的原因是什么?,思考P4 產(chǎn)生隨機誤差項e的原因是什么?,隨機誤差e的來源(可以推廣到一般): 1、其它因素的影響:影響身高 y 的因素不只是體重 x,可能 還包括遺傳基因、飲食習慣、生長環(huán)境等因素; 2、用線性回歸模型近似真實模型所引起的誤差; 3、身高 y 的觀測誤差。,函數(shù)模型與回歸模型之間的差別,函數(shù)模型
10、:,回歸模型:,可以提供 選擇模型的準則,,函數(shù)模型與回歸模型之間的差別,函數(shù)模型:,回歸模型:,線性回歸模型y=bx+a+e增加了隨機誤差項e,因變量y的值由自變量x和隨機誤差項e共同確定,即自變量x只能解析部分y的變化。,在統(tǒng)計中,我們也把自變量x稱為解析變量,因變量y稱為預報變量。,,例1 從某大學中隨機選取8名女大學生,其身高和體重數(shù)據(jù)如表1-1所示。,求根據(jù)一名女大學生的身高預報她的體重的回歸方程,并預報一名身高為 172cm的女大學生的體重。,案例1:女大學生的身高與體重,解:1、選取身高為自變量x,體重為因變量y,作散點圖:,2、由散點圖知道身高和體重有比較好的 線性相關(guān)關(guān)系,因
11、此可以用線性回歸方程 刻畫它們之間的關(guān)系。,3、從散點圖還看到,樣本點散布在某一條 直線的附近,而不是在一條直線上,所以 不能用一次函數(shù)y=bx+a描述它們關(guān)系。,我們可以用下面的線性回歸模型來表示: y=bx+a+e,其中a和b為模型的未知參數(shù), e稱為隨機誤差。,根據(jù)最小二乘法估計 和 就是未知參數(shù)a和b的最好估計,,根據(jù)最小二乘法估計 和 就是未知參數(shù)a和b的最好估計,,于是有b=,所以回歸方程是,所以,對于身高為172cm的女大學生,由回歸方程可以預報其體重為,,探究P4: 身高為172cm的女大學生的體重一定是60.316kg嗎?如果不是,你能解析一下原因嗎?,探究P4: 身高為17
12、2cm的女大學生的體重一定是60.316kg嗎? 如果不是,你能解析一下原因嗎?,答:身高為172cm的女大學生的體重不一定是60.316kg, 但一般可以認為她的體重在60.316kg左右。,對回歸模型進行統(tǒng)計檢驗,表1-4列出了女大學生身高和體重的原始數(shù)據(jù)以及相應的殘差數(shù)據(jù)。,在研究兩個變量間的關(guān)系時,首先要根據(jù)散點圖來粗略判斷它們是否線性相關(guān), 是否可以用回歸模型來擬合數(shù)據(jù)。,殘差分析與殘差圖的定義:,然后,我們可以通過殘差 來判斷模型擬合的效果,判斷原始 數(shù)據(jù)中是否存在可疑數(shù)據(jù),這方面的分析工作稱為殘差分析。,我們可以利用圖形來分析殘差特性,作圖時縱坐標為殘差,橫坐標可
13、以選為樣本 編號,或身高數(shù)據(jù),或體重估計值等,這樣作出的圖形稱為殘差圖。,殘差圖的制作及作用。 坐標縱軸為殘差變量,橫軸可以有不同的選擇; 若模型選擇的正確,殘差圖中的點應該分布在以橫軸為心的帶形區(qū)域; 對于遠離橫軸的點,要特別注意。,身高與體重殘差圖,,,幾點說明: 第一個樣本點和第6個樣本點的殘差比較大,需要確認在采集過程中是否有人為的錯誤。如果數(shù)據(jù)采集有錯誤,就予以糾正,然后再重新利用線性回歸模型擬合數(shù)據(jù);如果數(shù)據(jù)采集沒有錯誤,則需要尋找其他的原因。 另外,殘差點比較均勻地落在水平的帶狀區(qū)域中,說明選用的模型計較合適,這樣的帶狀區(qū)域的寬度越窄,說明模型擬合精度越高,回歸方程的預報精度
14、越高。,樣本決定系數(shù) (判定系數(shù) R2 ),1.回歸平方和占總偏差平方和的比例,反映回歸直線的擬合程度 取值范圍在 0 , 1 之間 R2 1,說明回歸方程擬合的越好;R20,說明回歸方程擬合的越差 判定系數(shù)等于相關(guān)系數(shù)的平方,即R2(r)2,顯然,R2的值越大,說明殘差平方和越小,也就是說模型擬合效果越好。,在線性回歸模型中,R2表示解析變量對預報變量變化的貢獻率。,R2越接近1,表示回歸的效果越好(因為R2越接近1,表示解析變量和預報變量的 線性相關(guān)性越強)。,如果某組數(shù)據(jù)可能采取幾種不同回歸方程進行回歸分析,則可以通過比較R2的值 來做出選擇,即選取R2較大的模型作為這組數(shù)據(jù)的模型。,總
15、的來說: 相關(guān)指數(shù)R2是度量模型擬合效果的一種指標。 在線性模型中,它代表自變量刻畫預報變量的能力。,從表3-1中可以看出,解析變量對總效應約貢獻了64%,即R2 0.64,可以敘述為 “身高解析了64%的體重變化”,而隨機誤差貢獻了剩余的36%。 所以,身高對體重的效應比隨機誤差的效應大得多。,這些問題也使用于其他問題。,涉及到統(tǒng)計的一些思想: 模型適用的總體; 模型的時間性; 樣本的取值范圍對模型的影響; 模型預報結(jié)果的正確理解。,小結(jié):,一般地,建立回歸模型的基本步驟為:,(1)確定研究對象,明確哪個變量是解析變量,哪個變量是預報變量。,(2)畫出確定好的解析變量和預報變量的散點圖,觀
16、察它們之間的關(guān)系 (如是否存在線性關(guān)系等)。,(3)由經(jīng)驗確定回歸方程的類型(如我們觀察到數(shù)據(jù)呈線性關(guān)系,則選用線性 回歸方程y=bx+a).,(4)按一定規(guī)則估計回歸方程中的參數(shù)(如最小二乘法)。,(5)得出結(jié)果后分析殘差圖是否有異常(個別數(shù)據(jù)對應殘差過大,或殘差呈現(xiàn) 不隨機的規(guī)律性,等等),過存在異常,則檢查數(shù)據(jù)是否有誤,或模型是 否合適等。,建構(gòu)數(shù)學模型,我們將y=bx+a+e 稱為線性回歸模型其中a, b為模型的未知參數(shù),解釋變量x,預報變量y,e稱為隨機誤差。 思考1:e產(chǎn)生的主要原因是什么? (1)所用確定函數(shù)模型不恰當; (2)忽略了某些因素的影響; (3)觀測誤差
17、。,,思考2:如何檢查擬合效果的好壞?,(1)散點圖,(2)相關(guān)系數(shù),(3)殘差分析,(4)回歸效果的相關(guān)系數(shù),被害棉花,紅鈴 蟲喜高溫高濕,適宜各蟲態(tài)發(fā)育的溫度為 25一32C,相對濕度為80一100,低于 20C和高于35C卵不能孵化,相對濕度60 以下成蟲不產(chǎn)卵。冬季月平均氣溫低于一48 時,紅鈴蟲就不能越冬而被凍死。,問題情景,1953年,18省發(fā)生紅鈴蟲大災害,受災面積300萬公頃,損失皮棉約二十萬噸。,,例2、現(xiàn)收集了一只紅鈴蟲的產(chǎn)卵數(shù)y和溫度x之間的7組觀測數(shù)據(jù)列于下表:,(1)試建立產(chǎn)卵數(shù)y與溫度x之間的回歸方程;并預測溫度為28oC時產(chǎn)卵數(shù)目。 (2)你所建立的模型中溫度在多
18、大程度上解釋了產(chǎn)卵數(shù)的變化?,問題呈現(xiàn):,假設線性回歸方程為 :=bx+a,由計算器得:線性回歸方程為y=19.87x-463.73 相關(guān)指數(shù)R2=r20.8642=0.7464,所以,一次函數(shù)模型中溫度解釋了74.64%的產(chǎn)卵數(shù)變化。,問題探究,,,,,,,,,,方案1,當x=28時,y =19.8728-463.73 93,,教法,9366!? 模型不好?,奇怪?,方案2,問題3,合作探究,方案2解答,平方變換:令t=x2,產(chǎn)卵數(shù)y和溫度x之間二次函數(shù)模型y=bx2+a就轉(zhuǎn)化為產(chǎn)卵數(shù)y和溫度的平方t之間線性回歸模型y=bt+a,作散點圖,并由計算器得:y和t之間的線性回歸方程為y=0.36
19、7t-202.54,相關(guān)指數(shù)R2=r20.8962=0.802,將t=x2代入線性回歸方程得: y=0.367x2 -202.54 當x=28時,y=0.367282-202.5485,且R2=0.802, 所以,二次函數(shù)模型中溫度解 釋了80.2%的產(chǎn)卵數(shù)變化。,,教法,0.367,-202.54,R2=r20.8962=0.802,y=0.367x2 -202.54,產(chǎn)卵數(shù),氣溫,,指數(shù)函數(shù)模型,方案3,合作探究,教法,對數(shù),方案3解答,由計算器得:z關(guān)于x的線性回歸方程 為z=0.118x-1.665 , 相關(guān)指數(shù)R2=r20.99252=0.985,當x=28oC 時,y 44 ,指數(shù)回歸模型中溫度解釋了98.5%的產(chǎn)卵數(shù)的變化,最好的模型是哪個?,,線性模型,二次函數(shù)模型,指數(shù)函數(shù)模型,教法,,最好的模型是哪個?,教法,比一比,選修1-2:P13-3,練習,小結(jié):,(1)如何發(fā)現(xiàn)兩個變量的關(guān)系? (2)如何選用、建立適當?shù)姆蔷€性回歸模型 ? (3)如何比較不同模型的擬合效果?,,,歸納小結(jié),