回歸分析與回歸方程

《回歸分析與回歸方程》由會(huì)員分享，可在線閱讀，更多相關(guān)《回歸分析與回歸方程（18頁(yè)珍藏版）》請(qǐng)?jiān)谘b配圖網(wǎng)上搜索。

1、1 第 二 章 簡(jiǎn) 單 線 性 回 歸 模 型 2 )(XfY )( XfY 010 2030 0 5 10 15 Y X 散點(diǎn)圖一 、 回 歸 與 相 關(guān)（ 一 ） 經(jīng) 濟(jì) 變 量 之 間 的 相 互 關(guān) 系 1、 經(jīng) 濟(jì) 變 量 之 間 的 相 互 關(guān) 系函 數(shù) 關(guān) 系 ：統(tǒng) 計(jì) （ 相 關(guān) ） 關(guān) 系2、 相 關(guān) 關(guān) 系 的 類(lèi) 型1） 從 相 關(guān) 關(guān) 系 涉 及 的 變 量 數(shù) 量 ： 簡(jiǎn) 單 （ 一 元 ） 相 關(guān) ； 多 重 （ 復(fù) ） 相 關(guān) 2） 從 變 量 相 關(guān) 的 表 現(xiàn) 形 式 ： 線 性 相 關(guān) ； 非 線 性 相 關(guān)3） 從 變 量 相 關(guān) 關(guān) 系 變 化 的 方

2、向 ： 正 相 關(guān) ； 負(fù) 相 關(guān)變 量 間 變 化 彼 此 沒(méi) 有 聯(lián) 系 時(shí) ， 稱(chēng) 為 不 （ 零 ） 相 關(guān) 3 )()( ),( YVarXVar YXCorXY （ 二 ） 相 關(guān) 系 數(shù) （ 復(fù) 習(xí) ） 變 量 X、 Y的 總 體 相 關(guān) 系 數(shù) 為變 量 X、 Y的 樣 本 相 關(guān) 系 數(shù) 為 222222 )()()()( )( YYnXXn YXXYnYYXX YYXXrXY注 意 ： 1、 變 量 X、 Y都 是 隨 機(jī) 變 量 ， 且 相 互 對(duì) 稱(chēng) ， 所 以 YXXY rr 2、 相 關(guān) 系 數(shù) 只 反 映 兩 變 量 之 間 線 性 相 關(guān) 的 程 度 ， 不 能

3、 說(shuō) 明 其 非 線 性 相關(guān) 關(guān) 系 。 4、 相 關(guān) 系 數(shù) 雖 能 度 量 變 量 的 線 性 相 關(guān) 程 度 ， 但 不 能 確 定 變 量 之 間 的 因 果 關(guān) 系 ， 也 不 能 說(shuō) 明 它 具 體 接 近 哪 一 條 直 線 。r 3、 樣 本 相 關(guān) 系 數(shù) 是 總 體 相 關(guān) 系 數(shù) 的 估 計(jì) 量 ， 隨 著 取 樣 的 不 同 ， 兩者 之 間 有 誤 差 ， 其 統(tǒng) 計(jì) 顯 著 性 有 待 檢 驗(yàn) 。 4 例 以 下 資 料 是 Whitney公 司 連 續(xù) 26周 銷(xiāo) 售 額 和 廣 告 成 本 以 及 該城 市 各 主 要 百 貨 公 司 的 銷(xiāo) 售 總 額 （

4、含 Whitney公 司 的 ） 和 估 計(jì) 的 競(jìng)爭(zhēng) 對(duì) 手 的 廣 告 費(fèi) （ 美 元 ） 周 次 Whitney公 司 百 貨 公 司銷(xiāo) 售 總 額 其 它 百 貨公 司 的 廣告 費(fèi) X2 銷(xiāo) 售 額 Y 廣 告 費(fèi)X1 1 2170787 11900 3710113 2000 2 1994291 14900 3369873 25 1680685 10900 2819941 26 2266506 9800 3897689 2500 這 些 數(shù) 據(jù) 是 否 能 揭 示 出 Whitney公 司 所 做 的 報(bào) 紙 廣 告 帶 來(lái) 的 真實(shí) 收 益 ？ 5 廣 告 費(fèi) 與 銷(xiāo) 售 額 的

5、散 點(diǎn) 圖 1600000 1800000 2000000 2200000 2400000 2600000 0 10000 20000 30000 40000 50000 Y X1 009917.0)()Y-Y )( 212 11 XXXXYY（ 6 廣 告 費(fèi) 與 市 場(chǎng) 占 有 率 的 散 點(diǎn) 圖 0.540.56 0.580.60 0.620.64 0 10000 20000 30000 40000 50000 W X188217.0 7 （ 三 ） 回 歸 分 析 1、 “回 歸 ”一 詞 的 古 典 意 義英 國(guó) 生 物 學(xué) 家 F.高 爾 頓 （ Francis Galton） 在

6、 遺 傳 學(xué) 研 究 中 首 先 提 出 的 8 2、 “回 歸 ”一 詞 的 現(xiàn) 代 意 義 ： “回 歸 ”是 關(guān) 于 一 個(gè) 被 解 釋 變 量 （ 或 因 變 量 ） 對(duì) 一 個(gè) 或 多 個(gè) 解 釋 變 量 （ 或自 變 量 ） 依 存 關(guān) 系 的 研 究 。 目 的 ： 根 據(jù) 已 知 的 或 固 定 的 解 釋 變 量 的 值 ， 去 估 計(jì)或 預(yù) 測(cè) 被 解 釋 變 量 的 總 體 均 值 。 回 歸 分 析 就 是 要 根 據(jù) X和 Y的 觀 測(cè) 數(shù) 據(jù) ， 確 定 其 變 動(dòng) 的 具 體 統(tǒng) 計(jì) 規(guī) 律 性 。例 ： 個(gè) 人 可 支 配 收 入 和 個(gè) 人 消 費(fèi) 支 出 即

7、 X Y平 均 變 動(dòng) 軌 跡 （ 該 函 數(shù) 稱(chēng) 為 回 歸 函 數(shù) ） 9 3、 回 歸 分 析 與 相 關(guān) 分 析 的 聯(lián) 系 和 區(qū) 別聯(lián) 系 ： 都 是 研 究 相 關(guān) 關(guān) 系 的 方 法 。區(qū) 別 ： 相 關(guān) 分 析 ： 不 考 慮 變 量 之 間 的 因 果 關(guān) 系 ， 不 區(qū) 分 解 釋 變 量 和 因 變 量 ， 兩 變 量 對(duì) 稱(chēng) .所 涉 及 的 變 量 都 為 隨 機(jī) 變 量 。 回 歸 分 析 ：需 要 區(qū) 分 變 量 之 間 的 因 果 關(guān) 系 ；則 要 通 過(guò) 建 立 回 歸 方 程 ， 去 估 計(jì) （ 預(yù) 測(cè) ） 因 變 量 的 平 均 值 ；因 變 量 是 隨

8、 機(jī) 變 量 （ 有 一 定 的 概 率 分 布 ） ， 自 變 量 是 非 隨 機(jī) 變 量 。主 要 是 為 刻 畫(huà) 變 量 間 的 相 關(guān) 程 度 ； 10 二 、 總 體 回 歸 函 數(shù) （ PRF） （ 一 ） 一 個(gè) 人 為 的 例 子 ： N=100戶 家 庭 分 為 10組分 析 ： 每 一 收 入 組 的 家 庭 消 費(fèi) 支 出 對(duì) 給 定 的 ， 所 有 可 能 出 現(xiàn) 的 Y值 服 從 一 定 的 分 布 ， 稱(chēng) 為 X給 定 時(shí) Y的 條 件 分 布 ；iXX取 某 定 值 時(shí) ， Y取 各 種 值 的 概 率 ， 稱(chēng) 為 Y的 條 件 概 率 ， 記 為 )( iXYP

9、 例 如 ： X=60， Y取 4個(gè) 值 中 任 一 個(gè) 值 的 條 件 概 率 各 為 41)60( iXYP X=90， Y取 6個(gè) 值 中 任 一 個(gè) 值 的 條 件 概 率 各 為 61)90( iXYP 稱(chēng) 為 Y的 條 件 均 值 （ 條 件 期 望 ）554158415741544151)60( iXYE例 如結(jié) 果 列 于 表 2.1.2 ）（ iii XYPYXYE )( 11 )()( ii XfXYE ii XXYE 21)( 1 2 2（ 二 ） 總 體 回 歸 函 數(shù) 的 概 念“條 件 期 望 （ 均 值 ） ”的 運(yùn) 動(dòng) 軌 跡 稱(chēng) 為 回 歸 函 數(shù) 。Y對(duì) X

10、的 回 歸 直 線 ： 回 歸 函 數(shù) 形 式 為 直 線 Y對(duì) X的 回 歸 曲 線 ： 回 歸 函 數(shù) 形 式 為 曲 線 總 體 回 歸 函 數(shù) （ PRF） ： 總 體 因 變 量 Y的 條 件 期 望 表 示 為 解 釋 變 量 X的 某 種 函 數(shù)特 別 ： 總 體 回 歸 函 數(shù) 為 線 性 函 數(shù) ， 即其 中 ： 、 是 未 知 參 數(shù) （ 回 歸 系 數(shù) ）注 意 ： 總 體 回 歸 函 數(shù) 的 設(shè) 定 （ 通 過(guò) 定 性 分 析 、 散 點(diǎn) （ 布 ） 圖 ） 12 （ 三 ） “線 性 ”一 詞 的 含 義 （ 有 兩 種 解 釋 ） 1、 模 型 就 變 量 而 言

11、是 線 性 的 ii XXYE 21)( ii XXYE 21)( 2、 模 型 就 參 數(shù) 而 言 是 線 性 的 221)( ii XXYE XXYE i 1)( 21 例 如 ：例 如 ： 注 ： 在 計(jì) 量 經(jīng) 濟(jì) 學(xué) 中 ， 從 回 歸 理 論 的 發(fā) 展 、 參 數(shù) 的 估 計(jì) 方 法 來(lái) 說(shuō) ， 主 要考 慮 的 是 模 型 就 參 數(shù) 而 言 是 線 性 的 情 形 。 13 三 、 隨 機(jī) 擾 動(dòng) 項(xiàng)隨 機(jī) 擾 動(dòng) 項(xiàng) （ ） ： 因 變 量 與 總 體 條 件 均 值 （ 期 望 ） 的 偏 差 （ 離 差 ） iY )( iXYE)( iii XYEYu ii XXYE

12、21)( 總 體 回 歸 函 數(shù) 可 以 表 示 為 ： iii XYEY )( iii XY 21條 件 期 望 形 式 說(shuō) 明 X對(duì) Y的 條 件 期 望 影 響 隨 機(jī) 設(shè) 定 形 式 說(shuō) 明 除 了 X對(duì) Y的 影 響 以 外 ， 其 余 未 被 納 入 模 型 的 諸 多 因 素 對(duì) Y的 綜 合 影 響iuiu 14 6、 變 量 的 內(nèi) 在 隨 機(jī) 性 總 體 回 歸 函 數(shù) 中 引 進(jìn) 隨 機(jī) 擾 動(dòng) 項(xiàng) 的 主 要 原 因 ：1、 作 為 未 知 影 響 因 素 的 代 表2、 作 為 無(wú) 法 取 得 數(shù) 據(jù) 的 已 知 因 素 的 代 表3、 作 為 眾 多 細(xì) 小 影 響

13、 因 素 的 綜 合 代 表4、 模 型 的 設(shè) 定 誤 差5、 變 量 的 觀 測(cè) 誤 差 15 四 、 樣 本 回 歸 函 數(shù) （ SRF） （ 一 ） 樣 本 回 歸 直 線 （ 回 歸 曲 線 ） ： 以 樣 本 數(shù) 據(jù) 擬 合 的 直 線（ 曲 線 ） ， 它 是 總 體 回 歸 線 的 近 似 反 映 。 仍 以 家 庭 可 支 配 收 入 與 消 費(fèi) 支 出 的 關(guān) 系 為 例 ， 從 總 體 中 各 抽 取10戶 觀 測(cè) ， 兩 隨 機(jī) 樣 本 的 結(jié) 果 為 。 將 資 料 繪 成 散 布 （ 點(diǎn) ） 圖 ， 每 個(gè) 隨 機(jī) 樣 本 的 10對(duì) 觀 察 值 的 點(diǎn) 都 呈現(xiàn)

14、明 顯 的 線 形 趨 勢(shì) ， 擬 合 兩 條 （ 樣 本 回 歸 ） 直 線 SRF（ 1） 、 SRF（ 2） ： 16 總 體 和 樣 本 回 歸 函 數(shù) 0 50 100 150 200 250 0 50 100 150 200 250 300 350 總 體 回 歸 函 數(shù)樣 本 1回 歸 函 數(shù) 樣 本 2回 歸 函 數(shù) 17 iii eXY 21 iiiii eXeYY 21 iii eYY ie（ 二 ） 樣 本 剩 余 項(xiàng) （ 殘 差 ） ： 因 變 量 與 樣 本 條 件 均 值 的 離 差 （ 偏 差 ） ， 記 為 即回 歸 分 析 的 目 的 ： 用 樣 本 回 歸

15、函 數(shù) （ SRF） 去 估 計(jì) 總 體 回 歸 函 數(shù) （ PRF）即 用 ii XY 21 去 估 計(jì) ii XXYE 21)( iii XY 21 18 iY )( iXYE12ie i SRF與 PRF之 間 總 是 存 在 差 異 。 如 何 用 有 效 的 方 法 ， 使 建 立 的 樣 本 回 歸 方 程盡 可 能 接 近 總 體 回 歸 方 程 。 12PRESRE 問(wèn) 題 ： 是 什 么 ？、 21 是 什 么 ？、 21 是 什 么 ？、 ii e何 為 相 關(guān) 分 析 ？ 回 歸 分 析 ？何 為 總 體 回 歸 函 數(shù) （ 方 程 ） ？ 樣 本 回 歸 函 數(shù) （ 方 程 ） ？ 引 入 隨 機(jī) 擾 動(dòng) 項(xiàng) 的 原 因 ？