《線性回歸方程》課件

《《線性回歸方程》課件》由會員分享，可在線閱讀，更多相關(guān)《《線性回歸方程》課件（29頁珍藏版）》請?jiān)谘b配圖網(wǎng)上搜索。

1、線 性 回 歸 方 程 有 些 教 師 常 說 ： “ 如 果 你 的 數(shù) 學(xué) 成 績 好 ， 那么 你 的 物 理 學(xué) 習(xí) 就 不 會 有 什 么 大 問 題 ” 按 照 這 種說 法 ， 似 乎 學(xué) 生 的 物 理 成 績 與 數(shù) 學(xué) 成 績 之 間 也 存在 著 某 種 關(guān) 系 。 你 如 何 認(rèn) 識 它 們 之 間 存 在 的 關(guān) 系 ？物 理 成 績 數(shù) 學(xué) 成 績 學(xué) 習(xí) 興 趣 學(xué) 習(xí) 時(shí) 間 其 他 因 素結(jié) 論 ： 變 量 之 間 除 了 函 數(shù) 關(guān) 系 外 ， 還 有 。問 題 引 入 ： 函 數(shù) 關(guān) 系 -變 量 之 間 是 一 種 確 定性 的 關(guān) 系 .如 :圓 的

2、面 積 S和 半 徑 r之 間的 關(guān) 系 . 相 關(guān) 關(guān) 系 變 量 之 間 有 一 定 的 聯(lián)系 ,但 不 能 完 全 的 用 函 數(shù) 來 表 達(dá) . 一 般來 說 ,身 高 越 高 ,體 重 越 重 ,但 不 能 用 一個(gè) 函 數(shù) 來 嚴(yán) 格 地 表 示 身 高 與 體 重 之 間的 關(guān) 系 .(非 確 定 性 關(guān) 系 )變 量 之 間 的 關(guān) 系 函 數(shù) 關(guān) 系 是 一 種 確 定 的 關(guān) 系 ；相 關(guān) 關(guān) 系 與 函 數(shù) 關(guān) 系 的 異 同 點(diǎn) ：均 是 指 兩 個(gè) 變 量 的 關(guān) 系 問 題 ： 舉 一 兩 個(gè) 現(xiàn) 實(shí) 生 活 中 的 問 題 ， 問 題 所 涉 及 的變 量 之 間

3、 存 在 一 定 的 相 關(guān) 關(guān) 系 。（ 1） 父 母 的 身 高 與 子 女 身 高 之 間 的 關(guān) 系（ 2） 商 品 銷 售 收 入 與 廣 告 支 出 經(jīng) 費(fèi) 之 間 的 關(guān) 系（ 3） 糧 食 產(chǎn) 量 與 施 肥 量 之 間 的 關(guān) 系 例 ： 相 關(guān) 關(guān) 系 是 一 種 非 確 定 關(guān) 系 .相 同 點(diǎn) ：不 同 點(diǎn) ： 問 題 ： 某 小 賣 部 為 了 了 解 熱 茶 銷 售 量 與 氣 溫之 間 的 關(guān) 系 ， 隨 機(jī) 統(tǒng) 計(jì) 并 制 作 了 某 6天賣 出 熱 茶 的 杯 數(shù) 與 當(dāng) 天 氣 溫 的 對 照 表 ：氣 溫/0C 26 18 13 10 4 -1杯 數(shù) 20

4、 24 34 38 50 64如 果 某 天 的 氣 溫 是 -50C， 你 能 根 據(jù) 這 些數(shù) 據(jù) 預(yù) 測 這 天 小 賣 部 賣 出 熱 茶 的 杯 數(shù) 嗎 ? 為 了 了 解 熱 茶 銷 量 與氣 溫 的 大 致 關(guān) 系 ,我 們以 橫 坐 標(biāo) x表 示 氣 溫 ，縱 坐 標(biāo) y表 示 熱 茶 銷 量 ，建 立 直 角 坐 標(biāo) 系 .將 表中 數(shù) 據(jù) 構(gòu) 成 的 6個(gè) 數(shù) 對表 示 的 點(diǎn) 在 坐 標(biāo) 系 內(nèi)標(biāo) 出 ， 得 到 下 圖 。 今后 我 們 稱 這 樣 的 圖 為散 點(diǎn) 圖 (scatterplot). 選 擇 怎 樣 的 直 線 近 似 地 表 示 熱 茶 銷 量 與 氣

5、溫 之 間 的 關(guān) 系 ? 我 們 有 多 種 思 考 方 案 :(1)選 擇 能 反 映 直 線 變 化 的 兩 個(gè) 點(diǎn) ,例 如 取(4,50),(18, 24)（ 2） 取 一 條 直 線 ,使 得 位 于 該 直 線 一 側(cè) 和另 一 側(cè) 的 點(diǎn) 的 個(gè) 數(shù) 基 本 相 同 ；（ 3） 多 取 幾 組 點(diǎn) ,確 定 幾 條 直 線 方 程 ,再 分別 算 出 各 條 直 線 斜 率 、 截 距 的 平 均 值 ,作 為所 求 直 線 的 斜 率 、 截 距 ； 怎 樣 的 直 線 最 好 呢 ?這 兩 點(diǎn) 的 直 線 ； 建 構(gòu) 數(shù) 學(xué) y bx a y bx a 1.最 小 二 乘

6、法 ： 用 方 程 為的 點(diǎn) ， 應(yīng) 使 得 該 直 線 與 散 點(diǎn) 圖 中 的 點(diǎn) 最 接 近那 么 ， 怎 樣 衡 量 直 線 與 圖 中 六個(gè) 點(diǎn) 的 接 近 程 度 呢 ？ 的 直 線 擬 合 散 點(diǎn) 圖 中y x26 ,18 ,13 ,10 , 4 ,b a b a b a b a b a b a 我 們 將 表 中 給 出 的 自 變 量代 入 直 線 方 程 ,得 到 相 應(yīng) 的 六 個(gè) 值 ：的 六 個(gè) 值 它 們 與 表 中 相 應(yīng) 的 實(shí) 際 值 應(yīng) 該 越 接 近 越 好 . 2 22 22 22 2( , ) (26 20) (18 24)(13 34) (10 38)

7、(4 50) ( 64)1286 6 140 3820 460 10172Q a b b a b ab a b ab a b ab a ab b a 所 以 ,我 們 用 類 似 于 估 計(jì) 平 均 數(shù) 時(shí) 的思 想 ,考 慮 離 差 的 平 方 和 y bx a ,a b ( , )Q a b與 圖 中 六 個(gè) 點(diǎn) 的 接 近 程 度 ,所 以 ,設(shè) 法取 達(dá) 到 最 小 值 .的 值 ,使這 種 方 法 叫 做 最 小 平 方 法 (又 稱 最 小二 乘 法 ) . ( , )Q a b y bx a 是 直 線在 垂 直 方 向 (縱 軸 方 向 )上 的 距 離 的 平方 和 ,可 以

8、 用 來 衡 量 直 線 與 各 散 點(diǎn) 2 22 22 2 ( , ) 1286 6 140 3820 460 101721286 (140 3820) 6 460 10172140 38201286( .)128670 19101286( ) . 128670 1910 ( )1286 Q a b b a ab b ab a b a aab bab ab f b 把 a看 作 常 數(shù) ， 那 么 Q是 關(guān) 于 b的 二 次 函 數(shù) 記 為 f(b)f(b) 當(dāng) 時(shí) ， 取 最 小 值 2 22 2( ) 6 (140 460) 1286 3820 10172140 4606( .)670

9、2306( ) .670 230 ( )6f a a b a b bba ababa f a 把 b看 作 常 數(shù) ， 那 么 Q是 關(guān) 于 a的 二 次 函 數(shù) 記 為 f(a)當(dāng) 時(shí) ， 取 最 小 值 0 70 1910128670 23061.6477,57.5568 1.6477 57.5568 5 665 66 ab Qba ba y x x y C 當(dāng) 時(shí) ， （ a,b） 取 最 小 值解 得所 求 直 線 方 程 為當(dāng) 時(shí) ，故 當(dāng) 氣 溫 為 時(shí) ， 熱 茶 銷 量 約 為 杯 。 線 性 相 關(guān) 關(guān) 系 ： 像 這 樣 能 用 直 線 方 程 y bx a 近 似 表 示

10、 的 相 關(guān) 關(guān) 系 叫 做 線 性 相 關(guān) 關(guān) 系 . 如 果 散 點(diǎn) 圖 中 的 點(diǎn) 分 布 從 整 體上 看 大 致 在 一 條 直 線 附 近 我 們 就 稱這 兩 個(gè) 變 量 之 間 具 有 線 性 相 關(guān) 關(guān) 系 x 1x 2x 3x nxy 1y 2y 3y ny線 性 回 歸 方 程 ：一 般 地 ,設(shè) 有 n個(gè) 觀 察 數(shù) 據(jù) 如 下 ：2 2 21 1 2 2( ) ( ) . ( )n nQ y bx a y bx a y bx a y bx a 當(dāng) a,b使取 得 最 小 值 時(shí) ,就 稱這 n對 數(shù) 據(jù) 的 線 性 回 歸 方 程 ,該 方 程 所 表示 的 直 線

11、稱 為 回 歸 直 線 . 為 擬 合 2 2 21 1 2 22 2 2 21 1 1 1 1( ) ( ) . ( )2 2 2n nn n n n ni i i i i ii i i i iQ y bx a y bx a y bx ay b x y a y b x ab x na 類 似 地 ， 我 們 可 以 推 得 ， 求 回 歸方 程 中 系 數(shù) a,b的 一 般 公 式 :y bx a 1 122 2 1 1( )( ),( )n ni i i ii in ni ii ixy nxy x x y yb x nx x xa y bx 以 上 公 式 的 推 導(dǎo) 較 復(fù) 雜 ， 故

12、不 作 推 導(dǎo) ， 但 它的 原 理 較 為 簡 單 ： 即 各 點(diǎn) 到 該 直 線 的 距 離 的 平方 和 最 小 ， 這 一 方 法 叫 最 小 二 乘 法 。 求 解 線 性 回 歸 問 題 的 步 驟 :1.列 表 ( )， 畫 散 點(diǎn) 圖 .2.計(jì) 算 :3.代 入 公 式 求 a,b4.列 出 直 線 方 程 iiii yxyx , 21 1, , ,n ni i ii ix y x x y 例 題 1： 下 表 為 某 地 近 幾 年 機(jī) 動(dòng) 車 輛 數(shù) 與 交 通事 故 數(shù) 的 統(tǒng) 計(jì) 資 料 ， 請 判 斷 機(jī) 動(dòng) 車 輛 數(shù) 與 交通 事 故 數(shù) 之 間 是 否 具 有

13、線 性 相 關(guān) 關(guān) 系 ， 求 出線 性 回 歸 方 程 ;如 果 不 具 有 線 性 相 關(guān) 關(guān) 系 ,說 明理 由 解 ： 在 直 角 坐 標(biāo) 系 中 畫 出 數(shù) 據(jù) 的 散 點(diǎn) 圖 ，直 觀 判 斷 散 點(diǎn) 在 一 條 直 線 附 近 ， 故 具 有線 性 相 關(guān) 關(guān) 系 8 81 18 821 1 818 22211031, 128.875, 71.6, 8.95,137835, 9611.79611.7 8 128.875 8.95137835 8 128.8758.95 128.875i ii ii i ii ii ii iix x y yx x yx y nxyb x nxa y

14、 bx 將 它 們 代 入 *式 ： 0.07740.0774 -1.0241所 以 ， 所 求 線 性 回 歸 方 程 為 y 0.0774x-1.0241 回 歸 分 析 的 基 本 步 驟 :畫 散 點(diǎn) 圖求 回 歸 方 程預(yù) 報(bào) 、 決 策 問 題 ： 有 時(shí) 散 點(diǎn) 圖 的 各 點(diǎn) 并 不 集 中 在 一 條直 線 的 附 近 ， 仍 然 可 以 按 照 求 回 歸 直 線 方程 的 步 驟 求 回 歸 直 線 ， 顯 然 這 樣 的 回 歸 直線 沒 有 實(shí) 際 意 義 。 在 怎 樣 的 情 況 下 求 得 的回 歸 直 線 方 程 才 有 實(shí) 際 意 義 ？即 建 立 的 線

15、性 回 歸 模 型 是 否 合 理 ？如 何 對 一 組 數(shù) 據(jù) 之 間 的 線 性 相 關(guān) 程度 作 出 定 量 分 析 ？ 相 關(guān) 系 數(shù) 1.計(jì) 算 公 式 2 相 關(guān) 系 數(shù) 的 性 質(zhì) (1)|r| 1 (2)|r|越 接 近 于 1， 相 關(guān) 程 度 越 強(qiáng) ； |r|越 接近 于 0， 相 關(guān) 程 度 越 弱 n i ii=1n n2 2i i i=1 i=1(x -x)(y -y)r= (x -x) (y -y) 2_n1i 2i2_n1i 2i n1i _ii ynyxnx yxnyx 超 級 鏈 接 散 點(diǎn) 圖 只 是 形 象 地 描 述 點(diǎn) 的 分 布 情 況 ， 要 想

16、 把 握 其 特 征 ，必 須 進(jìn) 行 定 量 的 研 究 相 關(guān) 關(guān) 系 與 函 數(shù) 關(guān) 系 有 怎 樣 的 不 同 ？函 數(shù) 關(guān) 系 中 的 兩 個(gè) 變 量 間 是 一 種 確 定 性 關(guān) 系相 關(guān) 關(guān) 系 是 一 種 非 確 定 性 關(guān) 系 函 數(shù) 關(guān) 系 是 一 種 理 想 的 關(guān) 系 模 型 相 關(guān) 關(guān) 系 在 現(xiàn) 實(shí) 生 活 中 大 量 存 在 ， 是 更 一般 的 情 況小 結(jié) ：1.變 量 之 間 的 兩 種 關(guān) 系 ： 確 定 性 關(guān) 系 與相 關(guān) 關(guān) 系 2。 對 于 線 性 相 關(guān) 的 兩 個(gè) 變 量 用 什 么 方 法 來 刻畫 之 間 的 關(guān) 系 呢 ？最 小 二 乘 法最 小 二 乘 法 估 計(jì) 線 性 回 歸 方 程 ：y bx a 1 122 21 1( )( ) ,( )n ni i i ii in ni ii ix y nxy x x y yb x nx x xa y bx 數(shù) 學(xué) 統(tǒng) 計(jì) 畫 散 點(diǎn) 圖 了 解 最 小 二 乘 法 的 思 想 求 回 歸 直 線 方 程1. 用 回 歸 直 線 方 程 解 決 應(yīng) 用 問 題