Bài giảng Kinh tế lượng - Chương 3: Hồi quy đa biến

09/09/2014 1 HỒI QUY ĐA BIẾN CHƯƠNG 3 HỒI QUY ĐA BIẾN 1. Biết được phương pháp ước lượng bình phương ước lượng hàm hồi tổng thể dựa trên số nhỏ quy liệu nhất để đa biến mẫu MỤC TIÊU 2. Hiểu các giả thiết cách kiểm định những 2 NỘI DUNG Mô hình hồi quy 3 biến1 Mô hình hồi quy k biến2 3 Dự báo 5 3 3.1 Mô hình hồi quy 3 biến �Mô hình hồi quy tổng thể PRF E(Y/ X 2 , X 3) = β1 + β2 X 2 + β3 X 3 Ý nghĩa: PRF cho biết trung bình có điều kiện của Y với điều kiện đã biết các giá trị cố định �Y: �X2 và �β1 : của biến X2 biến biến và X3. phụ thuộc độc lậpX3: hệ số tự do hệ số hồi quy riêng�β2 β3 :, 4 3.1 Mô hình hồi quy 3 biến Ýnghĩahệsốhồiquyriêng:chobiếtảnh hưởngcủatừngbiếnđộclậplêngiátrịtrung bìnhcủabiếnphụthuộckhicácbiếncònlại đượcgiữkhôngđổi. �Mô hình hồi quy tổng thể ngẫu nhiên: Yi = β1 + β +β 3 X3i + ui2 X2i ui: sai số ngẫu nhiên của tổng thể 5 6 P K c K v U á à á ô c ô n n X ó n g g g c c E V C s a o â g U a h v h b c U ệ U ệ p 2 ủ ố X c c c 3 á ợn ợn h a = g 0 g ẩ U 0 c n à ≠ n ư g n h ơ g ô n u n g y 0 q đ u σ ổ an ữ g a X2 Các giả thiết của mô hình 1. Gi trị trun ình ủ bằ 0i ( i /X i, 3i) 2. hươ i a c Ui l k g i r( i)=σ2 3. h n ó i n tư tự t iữa cá Ui ( i ,Uj )= ; i 4. h n ó i n tư ộ t ến gi và 3 5. i có ph n h i u : Ui N ( , 2 ) j 09/09/2014 2 3.1.1 Ước lượng các tham số Hàm hồi quy mẫu: βˆ ˆ X 2 2i ˆ X 3 3i Yˆi = + β + β + ei thứ i 1 sai số của mẫu ứng với quan sát ˆei = Yi ­Yi phương pháp bình phương để ước lượng các tham số Sử dụng nhỏ nhất βˆ , βˆ , βˆ 1 2 3 7 3.1.1 Ước lượng các tham số X= ∑(Y ­ βˆ ­ βˆ X ­ βˆ ∑e2 )2Q= →mini i 1 2 2i 3 3i dQ βˆ ­ βˆ X 2 βˆ­2∑ (Yi ­ = ­ = 0 X 3i)ˆ 1 2i 3dβ1 dQ βˆ βˆ X 2 2i βˆ2∑ (Yi= ­ ­ ­ X 3i)(­ X2i) = 0 ˆ 1 3dβ 2 dQ βˆ βˆ X 2 2i ­ βˆ X )(­ X ) = 0 3 3i 3i 2∑ (Yi= ­ ­ˆ 1dβ 3 8 3.1.1 Ước lượng các tham số ∑y x 2∑x3 ­∑y x3∑x 2 x3 2ˆ i i i i i i iβ =2 ∑ 2i∑ 3i ∑2 2 )2­ ( x x x x2i 3i ∑yix3i∑x2i ­∑yi x2i∑x2i x3i2 βˆ = 3 ∑ 2i∑ ∑2 2 )2­ ( x x x x3i 2i 3i βˆ βˆ βˆ=Y ­ ­2 X 3X1 2i 3i yi = Yi ­ Y=X ­ xi Xi 9 Năm Sản lượng Giá bán (X2) Chi phí quảng QD(Y) cáo (X3) 2002 100 80 40 2003 80 100 30 2004 70 120 25 2005 69 140 20 2006 58 160 19 2007 49 180 15 2008 43 200 14 2009 41 220 10 2010 38 240 11 2011 36 260 10 3.1.2 Phương sai của các ước lượng X2 ∑x3i +X 3 ∑x2i ­ X2 X 3∑x2i x3i2 2 2 2 21ˆ 2Var(β1) = ( + n )σ ∑ 2i∑ 3i ∑x 2 x2 )2­ ( x x2i 3i ∑x3 2ˆ i 2Var (β 2 ) = σ ∑ 2i∑ 3i ∑x 2 x 2 )2­ ( x x2i 3i ∑x2i 2ˆ 2(β 3 ) = σVar ∑ 2i∑ ∑2 2 )2x ­ (x x x3i 2i 3i σ2 là phương sai của ui chưa biết nên dùng ước lượng không chệch: ∑ i ∑ i2 R2 y2(1 ­ e ) 2σˆ = = n­ 3 n­ 3 11 Hệ số xác định Hệ số xác định R2 n ∑ ei i=1 n 2 ESS TSS RSS TSS 2 = = 1 ­ = 1 ­ R ∑ i =1 2yi ˆ ˆβ2∑yix2i+β3∑yi x3i Mô hình hồi quy 3 biến R2 = ∑y2i e2∑ i ( n ­ k )Hệ số xác định hiệu chỉnh Với k là tham số của mô hình, kể cả hệ số tự do 2R = y2∑ i ( n ­ 1) 12 09/09/2014 3 Hệ số xác định hiệu chỉnh n­ 1 n­ k R2 2= 1­ (1­ R ) R2Dùng để xét việc đưa thêm 1 biến vào mô hình. Biến mới đưa vào mô hình phải thỏa 2 điều kiện: R2- Làm tăng - Hệ số hồi quy biến mới thêm vào mô hình khác 0 có ý nghĩa 13 3.1.4 Khoảng tin cậy α αVới mức ý nghĩa hay độ tin cậy 1- βˆ βˆβ ∈ ­ε + ε( ; )i i i i i Với βˆ iε = SE ( ) t( n ­3 ,αi / 2 ) 14 3.1.5 Kiểm định giả thiết *1. Kiểm định giả thiết H0: βi =βi βˆ β*­B1. Tính i it = i SE (βˆ ) i B2. Nguyên tắc quyết định bỏ H0�Nếu �Nếu |ti |ti | | > ≤ t(n-3,α/2): bác t(n-3,α/2) : chấp nhận H0 15 3.1.5 Kiểm định giả thiết 2. Kiểm định giả H0: β2 thiết đồng thời bằng không: = β3 = nhất 1 0; tham số(H1: ít khác 0) B1. Tính 2 (n ­ 3 )R F = 2(1 ­ R ) 2 B2. Nguyên tắc quyết định �F > Fα(2, n-3): Bác bỏ H0: Mô hình phù hợp �F ≤ Fα(2, n-3): Chấp nhận H0: Mô hình không phù hợp 16 3.2 Mô hình hồi quy k biến Mô hình hồi quy tổng thể E (Y / X2 ,...Xk ) = β 1 + β + ... + β kXki2 X2i Mô hình hồi quy mẫu ngẫu nhiên: βˆ βˆ X 2 2i + ... + βˆ X k Yˆi = + + ei1 ki sai số của mẫu ứng với quan sát thứ i ˆ ˆ ˆ ˆˆei =Yi ­Yi =Yi ­β1 ­β2X2i ­β3X3i ­...­βkX ki 17 3.2.1 Ước lượng các tham số 2n n (Y ­βˆ ­βˆ X ­βˆ X ­...­βˆ X )∑ ∑ i=1 e2 = →mini i 1 2 2i 3 3i k ki i=1 ∂∑e2 n i ( i ) = n ∑ βˆ βˆ 2 βˆ βˆi= = ­2 ­ ­ ­ ­ ...­ 1 Y X X X 01 2i 3 3i k ki∂β i=11 n ∂∑e2i (Y ­ X )X 2n∑ βˆ 1 βˆ 2X 2 βˆ βˆi= = ­2 ­ ­ ­ ...­ =1 X 3 0i i 3 i k k i, i∂ ... β i=12 n ∂∑e2i (Y ­ X )n∑ βˆ 1 βˆ 2X 2 βˆ βˆi= = ­2 ­ ­ ­ ...­ =1 X 3 X 0i i 3 i k ki ki∂β = 1 ik 18 09/09/2014 4 3.2.2 Khoảng tin cậy Với mức ý nghĩa α 1- αhay độ tin cậy (βˆ βˆβ ∈ ­ ε ; + ε )i i i i i Với = SE (βˆ ε i i).t (n ­k ,α/ 2) 19 Hệ số xác định βˆ βˆ βˆ2∑ i 2i + 3∑ i 3i + + k∑ i kiyx yx ... yx R2 = ∑y 2i Hệ số xác định hiệu chỉnh n ­1 2 =1­ (1­R 2 ) R n ­k Với k là tham số của mô hình, tự do kể cả hệ số 20 Hệ số xác định hiệu chỉnh n­ 1 n­ k R2 2= 1 ­ (1­ R ) R2Dùng để xem xét việc đưa thêm biến vào mô hình. Biến mới đưa vào mô hình phải thỏa 2 điều kiện: R2- Làm tăng - Biến mớ i có hình mới ý nghĩa thống kê trong mô 21 3.2.3 Kiểm định các giả thiết hồi quy 1. Kiểm định giả thiết về hệ số hồi quy *KiểmđịnhgiảthiếtH0: βˆ β i =β i *B1.Tính ­ β i it =i SE(βˆ ) i B2. Nguyên tắc quyết định �Nếu |ti | > �Nếu |ti | ≤ t(n-k,α/2) t(n-k,α/2) : bác bỏ H0 : chấp nhận H0 22 3.2.4 Kiểm định các giả thiết hồi quy 2. Kiểm định sự phù hợp của mô hình: kiểm định giả thiết đồng thời bằng không: H0: β2 (H1: ít = β3 == βk = 0; nhất 1 trong k tham số khác 0) R2 (n ­ k) F = B1. Tính R2(1 ­ )( k ­ 1) B2. Nguyên tắc quyết định: �Nếu hợp �Nếu không F > Fα(k-1, n-k): Bác bỏ H0: Mô hình phù F ≤ Fα(k-1, n-k): Chấp nhận H0: phù hợp Mô hình 23 3.3 DỰ BÁO Mô hình hồi quy βˆ βˆ 2 βˆ k Yˆi = + X 2 + .... + X k ⎤ ⎥ ⎥ ⎥ ⎥ 1 ⎡ 1⎥ 0X 2⎥0 =XCho trước giá trị ⎥.. .. ⎥ ⎥ ⎣ X 0 k Dự báo giá trị trung bình và giá trị cá biệt của 1 - α.Y với mức ý nghĩa α hay độ tin cậy 24 09/09/2014 5 3.3 DỰ BÁO * Ước lượng điểm Y0 ˆ ˆ ˆˆ 0 0= β + β2 X 2 + ... + βk Xk1 * Dự báo giá trị trung bình của Y ) ∈ (Yˆ ­ ε ;Yˆ +εE(Y / X )0 0 0 0 0 ˆε0 =SE (Y 0 )t ( n­ k ,α / 2 )Với: SE (Yˆ Var (Yˆ )=)0 0 ˆ 2 0T T ­ 1 0σˆ=Var (Y 0 ) X ( X .X ) .X 25 3.3 DỰ BÁO * Dự báo giá trị cá biệt (Yˆ của Y ' 0 ;Yˆ ' 0 ∈ ­ ε + εY )0 0 0 Với: ˆ'ε0 =SE(Y0 ­Y0 )t ( n­ k,α / 2 ) Yˆ YˆSE(Y ­ ) = Var(Y ­ )0 0 0 0 ˆ ˆ 2Var(Y0­Y0) =Var(Y0) +σˆ 26