Regresi Linier Berganda
·
Satu
peubah respon (endogen)
·
Beberapa
peubah penjelas (eksogen)
·
Dinotasikan
dalam matriks
A.
Asumsi-asumsi pada regresi linier berganda
·
Sama dengan semua asumsi pada regresi linier
sederhana, dengan tambahan:
·
Tidak ada hubungan linier sempurna di antara
dua atau lebih peubah penjelas (eksogen)
·
Dengan terpenuhinya asumsi maka penduga OLS
akan bersifat:
·
Linier: fungsi linier dari peubah respons
(endogen)
·
Tidak bias: nilai harapan penduga adalah nilai
parameter
·
Konsisten: untuk n→∞, penduga
menuju nilai parameter yang sebenarnya, dan ragam penduga →0
·
Ragam yang paling kecil di antara semua penduga
yang mungkin
·
BLUE: Best Linear Unbiased Estimators
B. Goodness
of Fit dari garis Regresi Berganda
·
R2 pada regresi
linier sederhana tidak dapat dipakai untuk membandingkan dua model dengan
jumlah peubah eksogen yang berbeda.
·
Ketika jumlah peubah X ditambah:
§
Proporsi keragaman Y yang terjelaskan oleh X
akan selalu meningkat.
§
R2 akan
selalu meningkat seiring jumlah X, tanpa melihat penting tidaknya
penambahan X dalam model.
§
Digunakan adjusted R2,
§
Adjusted: disesuaikan terhadap jumlah peubah eksogen X
yang digunakan
Dengan
penyesuaian terhadap jumlah peubah eksogen
·
Adjusted R2 dapat
digunakan untuk memilih model mana yang terbaik berdasarkan jumlah peubah
eksogen yang dipakai.
·
Terbaik: Adjusted R2 → 1
C. Beberapa
Uji Hipotesis Pada Regresi Berganda
·
Uji keberartian koefisien secara individu
§ Uji t (sama dengan uji t pada kasus regresi
linier sederhana)
·
Uji keberartian koefisien secara simultan
§
Uji F
·
Uji linear restriction:
§ Uji
hubungan linier antara dua atau lebih koefisien: uji F atau uji Wald
(pengembangan uji t)
·
Uji untuk penambahan atau pengurangan peubah
eksogen
§ Uji F
atau Uji chi square dengan Likelihood Ratio
·
Semua uji merupakan perbandingan dari unrestricted model (menggunakan semua peubah
eksogen) dan restricted model
§ Jika
perbedaan tidak nyata maka restriction tidak berarti secara statistik.
§ Model
unrestricted lebih baik digunakan.
D.
UJI F
¡ Hipotesis nol: restricted model valid
¡ Menduga restricted model dan unrestricted
model
¡ Memperoleh JK Galat untuk restricted model dan
JK Galat untuk unrestricted model, dan menghitung statistik uji F.
¡ JKGR:
JK galat restricted model
¡ JKGU:
JK galat unrestricted model
¡ kU:
jumlah peubah eksogen (termasuk konstanta) pada unrestricted model
¡ kR:
jumlah peubah eksogen (termasuk konstanta) pada restricted model
E. Penggunaan
uji F untuk Uji keberartian koefisien peubah X secara bersama-sama
¡ Uji goodness fit secara keseluruhan
¡ Pada dua model
§ Unrestricted: menggunakan semua peubah eksogen
§ Restricted: hanya menggunakan konstanta (super restricted model)
F.
Interpretasi Koefisien Pada Multiple Regression
Contoh kasus:
·
Observasi
pada 900 karyawan suatu perusahaan
·
Hubungan
antara gaji (wage) dan
§ lama tahun pendidikan (educ),
§ tahun pengalaman kerja (exper),
§ lama tahun bekerja di perusahaan
yang sama (tenure)
G.
Output
Software
Model 1: OLS, using
observations 1-900
Dependent variable: l_WAGE
coefficient std. error
t-ratio p-value
---------------------------------------------------------
const
5.52833 0.112795 49.01
8.70e-256
EDUC
0.0731166 0.00663568 11.02
1.44e-026
EXPER
0.0153578 0.00342531 4.484
8.29e-06
TENURE
0.0129641 0.00263073 4.928
9.90e-07
Mean dependent var 6.786164
S.D. dependent var 0.420312
Sum squared resid 135.2110
S.E. of regression 0.388465
R-squared 0.148647 Adjusted R-squared 0.145797
F(3, 896) 52.14758 P-value(F) 4.53e-31
Log-likelihood -424.0434 Akaike criterion 856.0868
Schwarz criterion 875.2964
Hannan-Quinn 863.4250
Log-likelihood for WAGE = -6531.59
Tidak ada komentar:
Posting Komentar