18. Eteroschedasticità, errori robusti e minimi quadrati ponderati
Varianza condizionata non costante
L’eteroschedasticità si verifica quando Var(ui|X) cambia fra osservazioni. In dati sulle famiglie, la dispersione della spesa può aumentare con il reddito; in dati d’impresa, grandi imprese possono presentare variazioni assolute dei ricavi più ampie delle piccole. La proprietà riguarda la varianza dell’errore condizionata ai regressori, non semplicemente la dispersione grezza dell’esito. Un esito più variabile in un gruppo può dipendere anche da differenze nella media o nella composizione delle covariate. La diagnosi deve riferirsi alla specificazione effettivamente stimata.
Se E(u|X) = 0 rimane valida, OLS può essere corretto e consistente anche con eteroschedasticità. Ciò che viene meno è la formula di covarianza basata su una sola σ2 e, in generale, l’efficienza classica. Gli errori standard convenzionali possono essere troppo piccoli oppure troppo grandi: non esiste una direzione universale dell’errore. La relazione fra varianza degli errori e posizione dei regressori determina come l’eteroschedasticità si trasmette all’incertezza dei coefficienti.
La formula generale nel caso indipendente
Con errori incorrelati ma varianze σi2 differenti, Ω è diagonale e la covarianza OLS è (X′X)-1[∑iσi2xixi′](X′X)-1. Nel caso semplice con intercetta, Var(β̂1|X) = ∑i(xi − x̄)2σi2/Sxx2. Le osservazioni lontane dalla media del regressore ricevono un peso importante nella varianza della pendenza. Se proprio queste osservazioni sono molto rumorose, la precisione può essere peggiore di quella suggerita da una varianza residua media.
La formula mostra perché stimare una sola σ2 non è sufficiente. Occorre rappresentare come la variabilità degli errori si distribuisce lungo le direzioni di X. La struttura sandwich conserva l’informazione sulla geometria dei regressori ai lati e inserisce al centro una stima della variabilità dei contributi xiui. Questa logica si estende successivamente a clustering e dipendenza temporale, dove il centro della matrice deve includere anche covarianze fra osservazioni diverse.
Covarianza robusta HC0
Lo stimatore HC0 sostituisce le varianze individuali con i residui al quadrato:
La singola quantità ûi2 non è necessariamente una stima consistente della singola σi2 quando si dispone di una sola osservazione per unità. La consistenza della matrice deriva invece dal comportamento aggregato della somma sotto appropriate condizioni. Questo è un punto importante: non si pretende di conoscere perfettamente ogni varianza individuale, ma di stimare correttamente il momento complessivo che determina la distribuzione asintotica dei coefficienti. Servono esogeneità pertinente, momenti, indipendenza o la struttura prevista e assenza di osservazioni dominanti.
L’uso di HC0 non cambia β̂. Cambiano V̂, errori standard, intervalli e test. Non si deve dire che la regressione è stata «corretta dall’eteroschedasticità» in un senso onnicomprensivo: è stata modificata la stima della covarianza per consentire varianze non costanti. Se il modello della media è sbagliato rispetto all’oggetto desiderato o se X è endogena, il coefficiente può rimanere distorto. Se esiste dipendenza fra unità, HC0 può continuare a ignorare covarianze rilevanti.
Correzioni HC1, HC2 e HC3
HC1 moltiplica HC0 per n/(n − k), una correzione globale dei gradi di libertà. HC2 sostituisce ûi2 con ûi2/(1 − hii); HC3 utilizza ûi2/(1 − hii)2. Le correzioni basate sul leverage cercano di compensare il fatto che i residui dei punti influenti possono essere artificialmente piccoli a causa dell’adattamento della retta. In campioni limitati o con leverage elevato, la scelta della variante può incidere sensibilmente sull’inferenza. Non esiste però una variante che garantisca risultati esatti in ogni campione e sotto ogni distribuzione.
Quando hii è vicino a uno, le correzioni possono diventare molto grandi, segnalando fragilità dell’informazione. Non è necessariamente un malfunzionamento da nascondere: il coefficiente può dipendere da pochissime osservazioni. Con molti regressori rispetto a n, le approssimazioni usuali richiedono ulteriore attenzione. Riportare la variante utilizzata, per esempio HC3, rende il risultato replicabile. La parola generica «robust» può corrispondere a convenzioni diverse nei software e non dovrebbe sostituire una descrizione precisa.
Diagnostica grafica e test
Un grafico dei residui rispetto ai valori stimati o a regressori rilevanti può mostrare una dispersione a ventaglio. È utile anche osservare residui al quadrato o assoluti, distinguendo la variabilità da eventuali pattern della media. Un andamento sistematico dei residui medi può segnalare una forma funzionale errata, non soltanto eteroschedasticità. Poiché i residui sono stimati e dipendono dal leverage, la lettura deve essere accompagnata da conoscenza del campione e del modello.
I test di Breusch–Pagan e relative versioni studentizzate utilizzano una regressione ausiliaria dei residui al quadrato su variabili che potrebbero spiegare la varianza. Una statistica del tipo nR2 può avere distribuzione asintotica chi-quadrato con gradi di libertà pari al numero delle restrizioni pertinenti, sotto le condizioni della versione adottata. Il test originale e le versioni robuste alla non normalità non richiedono esattamente le stesse ipotesi. È quindi necessario sapere quale implementazione viene usata, evitando di chiamare tutte le varianti semplicemente lo stesso test senza qualificazioni.
Il test di White utilizza una specificazione ausiliaria più flessibile, spesso con regressori, quadrati e interazioni, rimuovendo eventuali colonne ridondanti. Può rilevare forme più generali di varianza non costante, ma consuma molti gradi di libertà quando i regressori sono numerosi. Un rifiuto può anche essere sensibile a misspecificazione della media. Un non rifiuto non dimostra omoschedasticità: il test può avere poca potenza. La decisione di consentire eteroschedasticità nell’inferenza può essere motivata dal disegno senza dipendere da un test preliminare.
Minimi quadrati ponderati
Se Var(ui|X) = σ2hi con hi > 0 noto, si divide ogni equazione per √hi. L’errore trasformato ha varianza σ2. OLS sui dati trasformati equivale a minimizzare ∑iwi(yi − xi′β)2 con wi = 1/hi. Lo stimatore è β̂WLS = (X′WX)-1X′Wy, dove W è diagonale con elementi wi. Le osservazioni con maggiore varianza ricevono meno peso perché contengono meno informazione sulla media, secondo il modello di varianza assunto.
Occorre distinguere il peso nel criterio dalla trasformazione dei dati: si moltiplicano y e ogni colonna di X per √wi, non per wi. Anche l’intercetta viene trasformata e diventa una colonna √wi, non una nuova costante identica per tutte le righe. Dimenticare di trasformare la costante produce un modello diverso. Nei software i tipi di peso possono avere significati differenti; pesi di precisione, frequenza e campionamento non sono intercambiabili soltanto perché entrano come numeri positivi in un comando.
Esempio di ponderazione
Due misure indipendenti dello stesso parametro hanno varianze 1 e 4. La media semplice attribuisce peso 1/2 a ciascuna e ha varianza (1 + 4)/4 = 1,25. La media ponderata per l’inverso della varianza utilizza pesi proporzionali a 1 e 1/4, quindi pesi normalizzati 0,8 e 0,2. La sua varianza è 0,82 × 1 + 0,22 × 4 = 0,64 + 0,16 = 0,8. La ponderazione migliora la precisione perché sfrutta informazione corretta sulle varianze.
Se le varianze assunte sono sbagliate, la ponderazione può non essere efficiente. Con media condizionata corretta e pesi positivi che dipendono appropriatamente dai regressori, il coefficiente può rimanere consistente, ma la covarianza deve essere stimata in modo robusto alla misspecificazione dei pesi. Se la media lineare è soltanto un’approssimazione, cambiare pesi può cambiare anche il parametro di proiezione: si attribuisce maggiore importanza a parti diverse della distribuzione. La scelta dei pesi può quindi modificare l’estimando, non soltanto la precisione.
GLS fattibile e modello della varianza
Quando hi è ignoto, si può stimare un modello della varianza e usare pesi stimati, ottenendo GLS fattibile o FGLS. Una procedura illustrativa stima inizialmente OLS, modella i residui al quadrato o il loro logaritmo attraverso covariate e ricava varianze previste positive. I dettagli contano: logaritmi di residui nulli, bias della trasformazione, forma del modello e dipendenza possono richiedere accorgimenti. La consistenza e l’efficienza di FGLS dipendono dalla qualità del modello della varianza e dalle condizioni del procedimento.
Una specificazione molto errata della varianza può produrre pesi estremi e rendere l’analisi fragile. È utile confrontare OLS con covarianza robusta e WLS/FGLS, motivando eventuali differenze. Non si dovrebbe scegliere il metodo soltanto perché produce errori standard più piccoli. Una maggiore precisione dichiarata è credibile solo se le ipotesi aggiuntive sono sostenibili. In molte analisi l’obiettivo primario è un’inferenza valida con una specificazione prudente della covarianza, non l’efficienza massima sotto un modello di varianza difficile da giustificare.
Eteroschedasticità e previsione
Per una nuova osservazione, l’intervallo di previsione dipende dalla varianza condizionata dell’errore nel punto x0. Una covarianza robusta dei coefficienti quantifica l’incertezza sulla media stimata, ma non fornisce da sola un modello della dispersione individuale futura. Aggiungere una varianza residua comune può essere inappropriato se il rumore cambia molto con x0. Occorre distinguere l’inferenza sui coefficienti dalla costruzione di una distribuzione predittiva completa e, quando necessario, modellare la varianza o usare procedure predittive adatte all’eterogeneità.
Questa distinzione emerge in un modello delle spese familiari: la media prevista può essere precisa sia per famiglie a basso reddito sia per quelle ad alto reddito, ma la dispersione individuale può essere molto maggiore nel secondo gruppo. Un unico intervallo di uguale ampiezza non riflette tale differenza. Il problema non è risolto scrivendo «errori robusti» sotto la tabella della regressione. La procedura deve essere costruita per l’oggetto specifico: coefficiente, media condizionata oppure esito individuale.
Esercizio svolto: trasformare il modello
Si assume yi = β0 + β1xi + ui, con xi > 0 e Var(ui|xi) = σ2xi2. Dividendo per xi si ottiene yi/xi = β0(1/xi) + β1 + ui/xi. L’errore trasformato ha varianza σ2. La nuova regressione contiene una costante che rappresenta β1 e il regressore 1/xi il cui coefficiente è β0. Non è la regressione di yi/xi su xi con una costante aggiunta arbitrariamente. Il criterio equivalente nei dati originali usa pesi 1/xi2, confermando la distinzione fra peso e radice del peso.