1、簡單線性迴歸模型,18.1 前言 18.2 簡單線性迴歸模型 18.3 簡單線性迴歸模型的估計量 18.4 簡單線性迴歸模型的驗証 18.5 迴歸模型的殘差分析,1 前言,本章介紹簡單線性迴歸模型的理論,主要從為什麼的觀點來探討,其包括簡單線性迴歸的模型、模型的估計、模型的驗証等。文中也強調並敘述利用線性迴歸分析技術所應注意的課題。雖然本章是針對簡單線性迴歸模型的理論,但其理念亦可用到複線性迴歸模型。複線性迴歸模型將另闢章節討論。,2 簡單線性迴歸模型,簡單線性迴歸模型是假設依變數 Y 之期望值為自變數 X 之線性函數,即所有 Yi 之期望值均落在一直線上,此稱之為迴歸線性假設(The lin
2、earity of regresssion)或迴歸共線假設。,圖18.2-1簡單線性迴歸模型,3 簡單線性迴歸模型的估計量,4 簡單線性迴歸模型的驗証,依變數是要被預測的變數,也是迴歸問題的中心,由於依變數的結果無法事先預知,因此必須利用其他變數(因素)來解釋它。 要找出適當的變數,首先必須要確立此變數與依變數是否有因果關係?因果關係愈強愈佳。 除了因果關係的考慮外,下一步即要選擇關係密切者。這可利用圖示法來判斷,若圖形顯示兩個變數成非水平的狹窄帶狀關係時,此變數應是一適當的自變數,而且圖形愈狹窄愈佳。,4.1 首先確立依變數,並找出適當的自變數,4.2 求出簡單線性迴歸方程式,4.3 檢定參
3、數(理論的截距和斜率),4.4 判定簡單線性迴歸模型的適合性,4.5 檢定模型的假設,如果可以獲得合適的線性迴歸方程式,但此迴歸模型是否滿足各項的假設呢?因為迴歸模型的建立是根基於這些假設。顯然,若其偏離假設太遠,則此迴歸模型就有問題,所以有必要去檢視這些假設是否成立。這些假設的檢視稱為殘差分析,請見本章18.5節的討論。,4.6 利用簡單線性迴歸模型作預測,5 迴歸模型的殘差分析,5.1 殘差相關變數和意義,5.2 驗証常態分配,要驗証誤差變數是否具常態分配,可繪殘差次數分配圖,由該圖可概略判斷母群體的誤差變數是否是常態分配?且其平均數(期望值)是否為零。另一種方法是利用常態點圖(normal plot),將每個殘差分別描繪在圖上。若誤差變數是常態分配,則圖上點之連線應近似一直線。,5.3 驗証變異數(標準差)相等,圖18.5-1標準常態分配機率圖,5.4 驗証線性假設,5.5 驗証獨立性,依收集資料的先後順序,繪殘差點圖。若資料是彼此獨立時,殘差應會隨機散佈在圖上,換言之,殘差應不會成群出現在零線(即原點)的某一方,否則表示非獨立。除了圖示法外,亦可利用 Durbin-Watson 統計量,或其他無母數分析法,如符號檢定(sign-test)等來檢定獨立性,有興趣的讀者可參考相關書籍。,5.6 例外值(Outliers)的處理,圖18.5-3殘差的例外值,5.7 資料轉換,