03-Lezione 3 - Lecture notes 3 PDF

Preview

Summary

Termini d’errore e residuiDa notare che possiamo scrivere:yi = xi’β + εi (2)eyi = xi’b + ei (2)Chiamiamo εi il termine d’errore ed ei il residuo. Il termine d’errore non è osservabile, il residuo è calcolabile, dopo che il modello è stato stimato, usando la stima b.In virtù delle condizioni del prim...

Description

Termini d’errore e residui Da notare che possiamo scrivere: yi = xi’β + εi

(2.25)

e yi = xi’b + ei

(2.8)

Chiamiamo εi il termine d’errore ed ei il residuo. Il termine d’errore non è osservabile, il residuo è calcolabile, dopo che il modello è stato stimato, usando la stima b. In virtù delle condizioni del primo ordine degli OLS, il residuo è caratterizzato da una media campionaria nulla ed è incorrelato con xi (2.10). Questo non vale necessariamente per il termine d’errore. 1

Lo stimatore OLS e le stime OLS Gli OLS forniscono uno stimatore per il vettore β dei veri parametri non noti, che caratterizzano la popolazione. Uno stimatore è una variabile casuale,  perché il campione è tratto in maniera casuale da una popolazione più ampia,  perché i dati sono generati da un qualche processo casuale. Un campione diverso implica una nuova stima. Se consideriamo le diverse stime ottenute usando molti differenti campioni, ricaviamo la distribuzione campionaria dello stimatore OLS (Figura 2.2). Valutiamo la “qualità” dello stimatore OLS (e di una stima OLS) sulla base delle proprietà della sua distribuzione campionaria. 2

Figura 2.2 Distribuzione campionaria: istogramma e densità normale

3

È l’OLS un buon stimatore? La risposta a questa domanda dipende dalle assunti che andremo a fare. Quelli più standard e più convenienti sono le cosiddette “ipotesi classiche” di Gauss-Markov. Da notarsi che queste ipotesi sono molto forti e spesso non soddisfatte. Sotto le ipotesi di Gauss-Markov, lo stimatore OLS ha diverse interessanti proprietà. Più avanti, discuteremo quanto essenziali siano queste ipotesi di Gauss-Markov e come possano essere allentate, in modo che siano più facilmente soddisfatte. 4

Le ipotesi di Gauss-Markov (A1) I termini d’errore hanno media nulla: E(εi)=0 (A2) Tutti i termini d’errore sono indipendenti da tutte le variabili x: {ε1 ,…, εN} indipendenti da {x1,…, xN} (A3) Tutti i termini d’errore hanno la stessa varianza (omoschedasticità): Var(εi) = σ2. (A4) I termini d’errore sono incorrelati fra di loro (no autocorrelazione): Cov(εi, εj) = 0, i ≠ j. • L’ipotesi (A2) è molto forte, può essere in parte indebolita: E(εi | xi ) = E(εi) = 0, che implica E( yi | xi ) = xi’β. e anche le ipotesi (A3) e (A4): Var(εi | xi ) = Var(εi) = σ2 Cov(εi, εj | xi , xj ) = 0 5

Proprietà statistiche dello stimatore OLS (in campioni finiti) Lo stimatore OLS: b = (X’X)-1X’y = (X’X)-1X’(X β + ε) = β + (X’X)-1X’ε sotto l’ipotesi (A2 indebolita – esogeneità delle variabili esplicative): 1. è condizionatamente e incondinazionatamene corretto (unbiased), cioè E(b | X) = β + E[(X’X)-1X’ε | X] = β E(b) = EX[ E(b | X)] = EX[ β] = β sotto le ipotesi (A2), (A3) e (A4) indebolite: 2. ha una varianza condizionata data da Var(b | X) = E[(b - β)(b - β)’ | X] = E[(X’X)-1X’εε’X(X’X)-1 | X] = 6

(X’X)-1X’ E[εε’| X] X(X’X)-1 = (X’X)-1X’ σ2IN X(X’X)-1 = σ2(X’X)-1 (2.32) oppure σ2( Σi xi xi’ )-1 (2.33) Teorema di Gauss-Markov: Lo stimatore OLS è BLUE (best linear unbiased estimator): è il migliore stimatore lineare e corretto per il vettore β di parametri incogniti migliore:

Var[b | X] ≤ Var[b0 | X] per b ≠ b0

stimatore migliore ≡ stimatore efficiente 7...