Econometria.

Modello di popolazione e retta stimata

Il modello lineare semplice è Y_i = β₀ + β₁X_i + u_i. L’intercetta β₀ descrive il valore della componente sistematica quando X è zero; la pendenza β₁ descrive la variazione associata a una unità aggiuntiva di X. Se E(u|X) = 0, la componente sistematica coincide con E(Y|X). Senza questa condizione, il modello può ancora rappresentare una proiezione lineare, ma l’interpretazione come vera media condizionata richiede attenzione. L’esistenza di una retta stimata non dimostra che il processo economico sia esattamente lineare.

La retta campionaria è ŷ_i = β̂₀ + β̂₁x_i e il residuo è û_i = y_i − ŷ_i. Il residuo è osservabile dopo la stima, mentre l’errore u_i dipende dai parametri di popolazione e non è direttamente osservato. Le proprietà algebriche dei residui derivano dalla procedura di minimizzazione; le proprietà probabilistiche degli errori sono ipotesi o conseguenze del modello di popolazione. Sostituire l’una nozione con l’altra è un errore concettuale che può far apparire verificata un’ipotesi di esogeneità che in realtà non è stata dimostrata.

Il criterio dei minimi quadrati

OLS, ordinary least squares, sceglie b₀ e b₁ per minimizzare Q(b₀,b₁) = ∑_i(y_i − b₀ − b₁x_i)². Si penalizzano gli scarti verticali di Y dalla retta, non le distanze geometriche ortogonali nel piano cartesiano. Il regressore viene trattato come la variabile sulla quale condizionare, mentre gli errori sono nella direzione dell’esito. Invertire il ruolo di X e Y produce in generale una retta diversa, non l’inversa algebrica della precedente. La regressione di Y su X e quella di X su Y rispondono a domande previsive differenti.

Il quadrato rende non negative le penalità ed evita che residui positivi e negativi si cancellino. Inoltre attribuisce un peso crescente agli scarti grandi, il che rende OLS sensibile a osservazioni influenti. Non è l’unico criterio possibile: minimizzare i valori assoluti conduce alla regressione mediana in appropriate formulazioni. La scelta di OLS è motivata dalla sua connessione con la media condizionata, dalla trattabilità matematica e dalle proprietà sotto ipotesi specifiche, non dall’idea che il quadrato sia universalmente l’unica perdita economicamente sensata.

Derivazione delle formule

Derivando Q rispetto a b₀ e b₁ e ponendo a zero le derivate si ottiene ∑_i(y_i − b₀ − b₁x_i) = 0 e ∑_ix_i(y_i − b₀ − b₁x_i) = 0. Dalla prima equazione segue b₀ = ȳ − b₁x̄. Sostituendo nella seconda e utilizzando la somma nulla degli scarti dalla media, si ricava:

La pendenza è il rapporto fra covariazione e variabilità del regressore. Non è definita quando Sxx = 0, perché non esistono confronti fra valori diversi di X. L’intercetta viene poi scelta affinché la retta passi per il punto delle medie (x̄,ȳ). Una maggiore covariazione positiva produce una pendenza più elevata, ma la scala di X conta: moltiplicare X per cento divide per cento la pendenza, lasciando invariate le previsioni quando i coefficienti sono trasformati coerentemente. Il valore numerico del coefficiente non può essere interpretato senza le unità di misura.

Una lettura in termini di confronti

La formula della pendenza può essere riscritta attraverso differenze fra coppie di osservazioni. In particolare, ∑_i<_j(x_i − x_j)(y_i − y_j) = nSxy e ∑_i<_j(x_i − x_j)² = nSxx. OLS aggrega quindi informazione sui confronti fra unità che differiscono in X, attribuendo maggiore peso alla distanza dei valori del regressore. Questo aiuta a comprendere perché punti estremi possano incidere molto sulla pendenza. Se però le differenze in X sono associate anche a differenze non osservate che influenzano Y, il confronto rimane associativo e non diventa causale grazie alla formula.

Nel caso in cui X sia un indicatore binario, la regressione semplice con intercetta restituisce β̂₀ = ȳ₀ e β̂₁ = ȳ₁ − ȳ₀. La pendenza coincide con la differenza fra le medie dei due gruppi. L’identità è algebrica e non richiede randomizzazione. L’interpretazione causale della differenza richiede invece un disegno o ipotesi che rendano i gruppi confrontabili. Questo caso particolare collega regressione e confronto di medie e mostra che un comando di regressione non aggiunge automaticamente identificazione rispetto al confronto grezzo.

Proprietà dei residui

Con intercetta, ∑_iû_i = 0 e ∑_ix_iû_i = 0. Inoltre ∑_iŷ_iû_i = 0, perché ŷ è una combinazione lineare della costante e di x. La media dei valori stimati coincide con quella osservata: ȳ̂ = ȳ. Queste uguaglianze valgono nel campione, salvo errori numerici di arrotondamento. Non richiedono normalità, omoschedasticità o causalità. È importante sapere quali proprietà derivano dal criterio di stima e quali dipendono da ipotesi probabilistiche aggiuntive.

La somma nulla dei residui non significa che la previsione sia priva di errore per ogni gruppo. I residui possono essere sistematicamente positivi per bassi e alti valori di X e negativi al centro, segnalando una relazione curva. Possono anche avere dispersione crescente al crescere di X. Il grafico dei residui serve a esplorare tali strutture, non a dimostrare con certezza la correttezza del modello. Un’assenza apparente di pattern in un piccolo campione può essere semplicemente poco informativa.

Variabilità totale, spiegata e residua

Definiamo TSS = ∑_i(y_i − ȳ)², RSS = ∑_iû_i² ed ESS = ∑_i(ŷ_i − ȳ)². Qui RSS indica sempre la somma dei quadrati residui, poiché le sigle possono essere usate diversamente in testi e software. Con intercetta, y_i − ȳ = (ŷ_i − ȳ) + û_i e il termine incrociato sommato è zero. Ne segue TSS = ESS + RSS. La decomposizione distingue variazione rappresentata dalle previsioni e variazione rimasta nei residui, nel senso geometrico dei minimi quadrati.

Il coefficiente di determinazione è R² = ESS/TSS = 1 − RSS/TSS, quando TSS > 0 e valgono le condizioni della decomposizione centrata. Nella regressione semplice con intercetta, R² coincide con il quadrato della correlazione campionaria fra X e Y. Un R² elevato descrive buon adattamento nel campione, non prova causalità né garantisce buone previsioni fuori campione. Un R² basso non rende automaticamente inutile una stima causale: esiti individuali molto variabili possono lasciare gran parte della dispersione non spiegata anche in un disegno credibile.

Stima della varianza dell’errore

Nel modello omoschedastico classico, una stima corretta della varianza dell’errore è s² = RSS/(n − 2), perché sono stati stimati intercetta e pendenza. La radice s è l’errore standard della regressione, espresso nell’unità di Y. Non è l’errore standard della pendenza. Il primo riassume la dispersione residua degli esiti; il secondo dipende anche dalla variabilità di X e dalla numerosità. Due campioni con lo stesso s possono stimare la pendenza con precisioni molto diverse se uno presenta un intervallo di X molto più ristretto.

Sotto omoschedasticità e le condizioni appropriate, Var(β̂₁|X) = σ²/Sxx. La varianza dell’intercetta è σ²[1/n + x̄²/Sxx], mentre Cov(β̂₀,β̂₁|X) = −σ²x̄/Sxx. Per stimarle si sostituisce σ² con s². Centrare X sottraendo la sua media modifica l’intercetta, che diventa la previsione al valore medio del regressore, e può rendere più semplice l’interpretazione. Non modifica la pendenza né i valori stimati quando la trasformazione è effettuata coerentemente.

Esempio numerico: dai dati alla retta

Si osservano cinque coppie: (1,2), (2,4), (3,5), (4,4), (5,5). Le medie sono x̄ = 3 e ȳ = 4. Gli scarti di X sono −2, −1, 0, 1, 2; quelli di Y sono −2, 0, 1, 0, 1. Si ottiene Sxx = 4 + 1 + 0 + 1 + 4 = 10 e Sxy = 4 + 0 + 0 + 0 + 2 = 6. La pendenza è β̂₁ = 0,6 e l’intercetta è β̂₀ = 4 − 0,6 × 3 = 2,2. La retta stimata è ŷ = 2,2 + 0,6x.

I valori stimati sono 2,8; 3,4; 4,0; 4,6; 5,2. I residui sono −0,8; 0,6; 1,0; −0,6; −0,2 e sommano a zero. RSS = 0,64 + 0,36 + 1 + 0,36 + 0,04 = 2,4. TSS = 4 + 0 + 1 + 0 + 1 = 6, per cui ESS = 3,6 e R² = 1 − 2,4/6 = 0,6. Il 60% della variabilità centrata di Y è rappresentato dalla retta nel campione. Non significa che X causi il 60% dell’esito, né che il 60% delle singole previsioni sia corretto.

Con n = 5, s² = 2,4/3 = 0,8 e s ≈ 0,8944. L’errore standard omoschedastico della pendenza è √(0,8/10) ≈ 0,2828. Sotto il modello normale classico, il test di pendenza nulla ha t = 0,6/0,2828 ≈ 2,121 con tre gradi di libertà. Il valore non supera il quantile bilaterale al 5%, circa 3,182. L’intervallo al 95% è approssimativamente 0,6 ± 0,900, cioè [−0,300; 1,500]. Il campione suggerisce una relazione positiva, ma è troppo piccolo per stimarla precisamente sotto queste ipotesi.

Previsione e intercetta

Per x₀ = 6, la previsione puntuale è 2,2 + 0,6 × 6 = 5,8. Si tratta però di un valore esterno all’intervallo osservato [1,5], dunque di un’extrapolazione. L’errore standard della media prevista, nel modello classico, è s√[1/n + (x₀ − x̄)²/Sxx]. L’errore standard per una nuova osservazione aggiunge uno all’interno della radice: s√[1 + 1/n + (x₀ − x̄)²/Sxx]. Il termine aggiuntivo rappresenta l’errore individuale futuro, che non scompare nemmeno conoscendo bene la retta.

L’intercetta 2,2 è la previsione in x = 0, anch’esso esterno al campione. Può essere necessaria per adattare correttamente la retta senza avere un’interpretazione economica autonoma credibile. Forzare la regressione a passare per l’origine soltanto perché l’intercetta non è significativa è generalmente una decisione non giustificata: impone una restrizione che modifica anche la pendenza. L’assenza della costante dovrebbe derivare da una motivazione teorica o dal disegno, non dal desiderio di semplificare l’equazione dopo aver visto i risultati.