9. Test di ipotesi nella regressione
Test t, intervalli di confidenza, test F, test di Wald e restrizioni congiunte
Un approccio generale ai test di ipotesi
Il test parte da un'ipotesi riferita alla popolazione. L'ipotesi nulla può affermare che l'istruzione non abbia alcuna associazione condizionata con i salari, che una politica non influenzi né l'occupazione né gli investimenti oppure che due gruppi abbiano lo stesso coefficiente angolare di regressione. L'ipotesi deve essere formulata prima di interpretare i risultati, così da scegliere adeguatamente il numero di restrizioni, gli stimatori pertinenti e la distribuzione di riferimento.
Per un singolo coefficiente lineare, H0: βj=βj,0, la consueta statistica test è
Quando l'errore standard stima in modo consistente l'incertezza campionaria, nei grandi campioni t è spesso approssimativamente N(0,1) sotto l'ipotesi nulla. L'inferenza t di Student esatta richiede inoltre le pertinenti ipotesi di normalità e del modello lineare classico. Il p-value misura quanto sarebbe sorprendente la statistica osservata se l'ipotesi nulla e le sue ipotesi campionarie fossero vere.
Intervalli di confidenza e legame con i test bilaterali
Un intervallo approssimato al 100(1−α)% per βj è β̂j ± z1₋α/2 SE(β̂j). Al livello del 5%, il test bilaterale H0:βj=0 rifiuta esattamente quando lo zero è esterno al corrispondente intervallo bilaterale al 95%, purché entrambi utilizzino lo stesso errore standard e la stessa distribuzione per i valori critici. L'intervallo mostra l'insieme dei valori del parametro non rifiutati dalla procedura corrispondente e fornisce più informazioni sulle possibili dimensioni economiche dell'effetto rispetto a una semplice distinzione significativo/non significativo.
Restrizioni congiunte e insufficienza di test t separati
Un modello può contenere un polinomio quadratico o un insieme di indicatori settoriali il cui effetto congiunto è di interesse. Testare ciascun coefficiente singolarmente al 5% non equivale a testare l'insieme delle restrizioni nulle con un livello del 5% per l'intera famiglia. L'appropriata ipotesi nulla congiunta può essere scritta come
dove R è una matrice q×(k+1) che identifica le q restrizioni e r è un vettore di q valori ipotizzati. Una statistica di Wald generale misura quanto Rβ̂ sia distante da r rispetto alla covarianza congiunta delle stime:
Per i test asintotici, W converge a una distribuzione χ2 con q gradi di libertà quando vale l'ipotesi nulla e sono soddisfatte adeguate condizioni di regolarità. Molti pacchetti riportano F=W/q e utilizzano una distribuzione di riferimento appropriata. Quando non è giustificata una varianza costante dell'errore, si dovrebbe usare una V̂ robusta all'eteroschedasticità.
Il test F tra modello vincolato e non vincolato
Nel modello classico normale e omoschedastico, si può confrontare una regressione vincolata che soddisfa l'ipotesi nulla con una regressione non vincolata che include tutti i parametri. La statistica F parziale standard è
I vincoli non possono ridurre il valore minimo di RSS, quindi RSSr≥RSSu. Il numeratore misura il peggioramento dell’adattamento per ciascun vincolo imposto; il denominatore stima la varianza del disturbo a partire dal modello non vincolato. Sotto l’ipotesi nulla e le ipotesi classiche di normalità ed errori sferici, F segue una distribuzione F centrale con q e n−k−1 gradi di libertà. Se un vincolo è falso, la distribuzione è generalmente F non centrale. Questa comoda formula basata su RSS non è in generale robusta all’eteroschedasticità; quando necessario, si usa la formulazione robusta di Wald.
Un test F congiunto su due coefficienti può rifiutare anche quando nessuno dei singoli test t rifiuta, perché conta la covarianza tra le stime. Viceversa, diversi test t significativi presi isolatamente non costituiscono automaticamente evidenza contro una restrizione congiunta definita con attenzione, dopo avere tenuto conto dei confronti multipli.
Test di combinazioni lineari e interazioni
Supponiamo Y=β0+β1D+β2X+β3DX+u. Il contrasto di trattamento in corrispondenza di X=x è L=β1+xβ3. La sua stima è L̂=β̂1+xβ̂3 e la sua varianza è
Ignorare il termine di covarianza può alterare sensibilmente l'errore standard. Lo stesso principio vale per le somme di coefficienti che rappresentano effetti dinamici totali, effetti successivi a una politica e rendimenti in corrispondenza di uno specifico valore di una variabile moderatrice.
Test multipli e interpretazione sostanziale
Quando i ricercatori esaminano molti risultati, insiemi di controlli o sottogruppi e riportano soltanto i risultati più significativi, i p-value nominali possono sovrastimare gravemente l'evidenza. Per test esplorativi multipli può essere opportuno correggere il tasso di errore dell'intera famiglia mediante Bonferroni oppure usare procedure di controllo del tasso di false scoperte. Più in generale, un disegno di ricerca trasparente, la presentazione delle specificazioni complete e la distinzione tra analisi confermativa preregistrata e analisi esplorativa riducono le affermazioni fuorvianti.
Potenza, significatività statistica e dimensione dell'effetto
La potenza statistica è la probabilità di rifiutare l'ipotesi nulla per una specifica alternativa. Campioni indipendenti più grandi e minore rumore aumentano la potenza per un dato effetto, mentre elevata collinearità tra regressori, variazione limitata del trattamento ed errori correlati possono ridurla. Una stima non significativa non dimostra che l'effetto sia esattamente zero; può indicare informazioni limitate. Un intervallo molto stretto intorno a un effetto piccolo può mostrare che effetti grandi sono poco plausibili, il che può essere più utile di una decisione binaria del test.
Derivazione sistematica della statistica F parziale
Si consideri un modello non vincolato che stima k coefficienti di pendenza e un’intercetta, con somma dei quadrati dei residui RSSu. Imponendo q vincoli lineari indipendenti si ottiene RSSr, con RSSr≥RSSu perché l’insieme delle soluzioni ammissibili è più ristretto. Sotto i vincoli dell’ipotesi nulla e il modello normale con errori sferici, l’incremento della somma dei quadrati diviso per σ2 segue una distribuzione χ2 centrale con q gradi di libertà, indipendente da RSSu/σ2, che segue una χ2 con n−k−1 gradi di libertà. Il rapporto tra queste medie quadratiche segue quindi una distribuzione F(q,n−k−1). La normalità e gli errori sferici giustificano la distribuzione esatta di riferimento e l’indipendenza di queste forme quadratiche. L’identità campionaria TSS=ESS+RSS deriva invece dall’ortogonalità OLS in presenza di intercetta e non richiede né omoschedasticità né indipendenza stocastica.
Il test di Wald robusto utilizza invece la covarianza stimata di Rβ̂. Questo generalizza il risultato oltre la formula classica della covarianza e consente test le cui restrizioni combinano diversi coefficienti. Un confronto pratico tra modelli in R può riportare sia l'ANOVA classica sia i risultati di Wald robusti, ma la scelta scientificamente appropriata dipende dalla difendibilità delle ipotesi convenzionali sulla varianza.
Interpretare erroneamente un coefficiente non significativo
Supponiamo che l'effetto del salario minimo sull'occupazione sia stimato a −0.5%, con un intervallo approssimato al 95% da −7% a +6%. Definire il risultato «nessun effetto» non è giustificato: i dati possono essere compatibili sia con riduzioni sia con aumenti dell'occupazione economicamente rilevanti. Se l'intervallo corrispondente fosse (−0.7%,−0.3%), l'effetto sarebbe stimato con maggiore precisione, ma potrebbe essere economicamente piccolo. L'ampiezza e l'intervallo di valori sostanziali di un intervallo di confidenza forniscono spesso più informazioni utili alle politiche pubbliche del suo rapporto con una soglia arbitraria pari a zero.