La legge dei grandi numeri: convergenza, limiti e quello che nessuno ti dice

C’è un giocatore seduto al tavolo di una roulette. Ha visto uscire rosso sette volte di fila. È convinto che il nero debba uscire presto: la fortuna si deve riequilibrare, il caso ha un debito da saldare. Sta ragionando sulla legge dei grandi numeri o, almeno crede di farlo. In realtà sta commettendo uno degli errori cognitivi più studiati in letteratura, noto comefallacia del giocatore: l’idea che eventi indipendenti passati influenzino la probabilità di eventi futuri.

La legge dei grandi numeri non dice che il caso si riequilibra nel breve periodo. Non dice che dopo sette rossi il nero è più probabile. Dice qualcosa di molto più preciso e di molto più limitato. Capire esattamente cosa dice, e cosa non dice, è una delle competenze fondamentali per chi lavora con i dati. Perché la legge dei grandi numeri è invocata ogni giorno nella ricerca, nella medicina, nell’economia, spesso correttamente, a volte no.

Cosa dice la legge dei grandi numeri

La legge dei grandi numeri è un teorema della teoria della probabilità, non un’osservazione empirica. Esistono due versioni, entrambe matematicamente precise: la versione debole e la versione forte. Si riferiscono entrambe allo stesso fenomeno di fondo — la stabilizzazione della media campionaria attorno alla media vera man mano che il numero di osservazioni cresce — ma con un tipo diverso di convergenza.

Nella sua versione più intuitiva, la legge dice questo: se si ripete un esperimento casuale un numero molto grande di volte, in condizioni identiche e indipendenti l’una dall’altra, la media aritmetica dei risultati converge alla media vera della distribuzione da cui provengono. Lanciare una moneta equa un milione di volte produce una proporzione di teste che si avvicina sempre di più a 0.5. Misurare la pressione arteriosa di un campione sempre più grande di pazienti produce una media campionaria che si avvicina sempre di più alla media vera della popolazione. Non per magia, non per compensazione: per un meccanismo matematico preciso legato alla varianza della media campionaria, che decresce al crescere di n.

Due versioni per lo stesso approccio

La versione debole della legge — dimostrata da Jakob Bernoulli alla fine del Seicento e pubblicata postuma nel 1713 nell’Ars Conjectandi — afferma che la probabilità che la media campionaria si discosti dalla media vera di più di una quantità arbitraria piccola tende a zero al crescere della dimensione del campione. In linguaggio matematico diciamo che: per ogni epsilon positivo per quanto piccolo, la probabilità che la distanza tra la media campionaria e la media vera superi epsilon va a zero quando n tende a infinito. È una convergenza in probabilità: non dice che la media campionaria raggiungerà mai esattamente la media vera, dice che la probabilità di essere lontani da essa diventa arbitrariamente piccola.

La versione forte — dimostrata molto più tardi, nel Novecento, con strumenti matematici più sofisticati — afferma qualcosa di più. Essa dice che la media campionaria converge alla media vera quasi certamente, cioè con probabilità uno. Non si limita a dire che è improbabile restare lontani dalla media vera: afferma che la convergenza avviene con probabilità uno, quindi quasi certamente, nel senso tecnico del termine. In matematica, probabilità uno non equivale a certezza assoluta in senso logico, ma nella pratica statistica la distinzione è irrilevante. La differenza tra le due versioni è tecnica e rilevante per la matematica, ma nella pratica statistica sono i principi comuni alle due — la convergenza, le condizioni che la garantiscono, i limiti che la circoscrivono — a contare di più.

Le condizioni che la legge richiede

La legge dei grandi numeri non vale sempre e comunque. Vale quando sono soddisfatte alcune condizioni precise, e ignorarle è la strada maestra per applicare il teorema in modo scorretto.

Indipendenza

La prima condizione è l’indipendenza delle osservazioni. La legge assume che le osservazioni siano indipendenti l’una dall’altra: il risultato di una non influenza il risultato delle altre. Questa condizione è cruciale. Se le osservazioni sono correlate, come accade nei dati di serie storiche, nei dati con struttura gerarchica, nelle misurazioni ripetute sullo stesso soggetto, la convergenza non è garantita, o avviene a una velocità diversa da quella prevista dal teorema classico. Aumentare il campione aggiungendo osservazioni correlate non porta lo stesso beneficio che aggiungere osservazioni indipendenti.

Identica distribuzione

La seconda condizione è l’identica distribuzione. La legge classica assume che tutte le osservazioni provengano dalla stessa distribuzione di probabilità quindi con la stessa media, la stessa varianza, la stessa forma. Se la distribuzione cambia nel tempo o tra i soggetti, la media campionaria converge a qualcosa, ma non necessariamente alla media vera della distribuzione di interesse. In un trial clinico che arruola pazienti in periodi diversi, con criteri di eleggibilità che cambiano nel tempo o in popolazioni che evolvono, questa assunzione può essere violata in modo sottile.

Esistenza della media

La terza condizione, spesso dimenticata, è l’esistenza della media. La legge richiede che la distribuzione da cui provengono le osservazioni abbia una media finita. Esistono distribuzioni — la più famosa è la distribuzione di Cauchy — che non hanno media nel senso usuale del termine: il loro valor atteso non esiste o è infinito. Per queste distribuzioni la legge dei grandi numeri non vale. La media campionaria di un campione sempre più grande di variabili di Cauchy non converge a nessun valore stabile: continua a fluttuare, senza assestarsi. Questo non è un caso puramente teorico. Distribuzioni con code molto pesanti, simili a quelle di Cauchy, compaiono in finanza, in certi fenomeni fisici, e in alcune misure di esposizione ambientale.

Cosa non dice la legge: i fraintendimenti più comuni

Fallacia giocatore

Il primo e più diffuso fraintendimento è quello del giocatore con cui abbiamo aperto. La legge dei grandi numeri descrive il comportamento della media su un numero molto grande di osservazioni indipendenti. Essa non dice nulla sul singolo evento futuro, e non implica che il caso si riequilibri nel breve periodo. Dopo sette rossi consecutivi, la probabilità del nero alla roulette successiva è esattamente la stessa di sempre, circa il 48.6% su una roulette europea. I sette rossi precedenti non pesano su di essa di un grammo.

Il motivo per cui la legge sembra compatibile con la ‘compensazione’ è sottile. Nel lungo periodo, la proporzione di rossi tende a 0.486 non perché il nero recuperi terreno, ma perché i sette rossi iniziali diventano una frazione sempre più piccola di un numero sempre più grande di estrazioni. Sette su un milione è molto vicino a zero. La ‘compensazione’ non avviene per aggiustamento dei valori futuri: avviene per diluizione dei valori passati. È una differenza cruciale, ed è esattamente quella che la fallacia del giocatore ignora.

Velocità convergenza

Il secondo fraintendimento riguarda la velocità di convergenza. La legge dice che la media campionaria converge alla media vera, ma non dice quanto velocemente. La velocità dipende dalla varianza della distribuzione: più è grande la varianza, più lentamente la media campionaria si stabilizza. Una distribuzione molto dispersa, e quindi con valori molto lontani dalla media, richiede campioni molto più grandi per produrre una stima affidabile rispetto a una distribuzione concentrata. Questo ha implicazioni dirette per il dimensionamento degli studi: non basta che il campione sia ‘grande’, bisogna che sia grande in relazione alla variabilità del fenomeno che si studia.

Il terzo fraintendimento è applicare la legge a sequenze che non sono casuali. Se una serie di dati ha una tendenza — una deriva sistematica verso l’alto o verso il basso, un ciclo stagionale, una discontinuità dovuta a un cambiamento di metodo — la media campionaria non converge alla media vera della distribuzione di interesse: converge a qualcosa che mescola la tendenza con la variabilità casuale. Fare crescere il campione in presenza di dati non stazionari non risolve il problema: lo nasconde.

Legge dei grandi numeri e teorema del limite centrale

La legge dei grandi numeri è spesso confusa con un altro risultato fondamentale della teoria della probabilità: il teorema del limite centrale. Sono cose diverse, e vale la pena distinguerle.

La legge dei grandi numeri dice dove converge la media campionaria: alla media vera della distribuzione. Il teorema del limite centrale dice come è distribuita la media campionaria attorno a quella media vera, per campioni sufficientemente grandi: approssimativamente come una distribuzione normale, con varianza pari alla varianza della distribuzione originale divisa per n. I due risultati si completano a vicenda. Il primo garantisce la convergenza, il secondo descrive la forma della distribuzione dell’errore di stima, ma rispondono a domande diverse.

Il teorema del limite centrale è quello che giustifica l’uso della distribuzione normale nell’inferenza statistica anche quando i dati originali non sono normali. Con campioni sufficientemente grandi, la media campionaria si comporta come se fosse normale indipendentemente dalla distribuzione originale. Ma ‘sufficientemente grande’ dipende dalla forma della distribuzione originale. Per distribuzioni simmetriche e con code moderate bastano campioni relativamente piccoli. Per distribuzioni molto asimmetriche o con code pesanti servono campioni molto più grandi. Il teorema del limite centrale non è un’assicurazione universale, ed è un altro caso in cui la condizione ‘campione grande’ nasconde una dipendenza dalla struttura dei dati che vale sempre la pena esplicitare.

Le implicazioni per la ricerca

La legge dei grandi numeri ha conseguenze pratiche molto concrete per chi progetta studi e interpreta risultati. La prima è che aumentare la dimensione del campione riduce l’errore di stima, ma solo se le osservazioni aggiuntive sono indipendenti e provengono dalla stessa distribuzione delle precedenti. Aggiungere osservazioni correlate, o provenienti da una popolazione diversa, può non portare il beneficio atteso e può addirittura introdurre distorsioni sistematiche.

La seconda implicazione riguarda la replicabilità. Uno dei principi su cui si fonda la scienza empirica è che risultati ottenuti su campioni grandi e indipendenti dovrebbero convergere. Se due studi ben condotti su popolazioni simili producono risultati molto diversi, la legge dei grandi numeri suggerisce che almeno uno dei due ha un problema — di campionamento, di definizione della popolazione, di misura, di analisi. La divergenza tra studi è quasi sempre informativa: dice che qualcosa di rilevante varia tra i contesti, e che la media di tutti gli studi non è necessariamente la risposta giusta.

La terza implicazione riguarda i campioni piccoli. La legge dei grandi numeri non offre nessuna garanzia per campioni piccoli. Con poche osservazioni, la media campionaria può essere molto lontana dalla media vera, non per errore del ricercatore ma per variabilità casuale inevitabile. È il motivo per cui studi pilota, analisi esplorative e studi con campioni piccoli vanno interpretati con prudenza. Questa tipologia di studi non è necessariamente sbagliata, ma poiché la variabilità campionaria è abbastanza grande da produrre risultati molto diversi da quelli che si osserverebbero su campioni più grandi, è sempre prudente considerare i loro risultati come generatori di ipotesi, descrittivi o puramente esplorativi. La stima è meno stabile, e l’incertezza su di essa — riflessa nell’ampiezza degli intervalli di confidenza — è molto maggiore.

La legge dei grandi numeri è uno dei fondamenti della statistica inferenziale, ma la sua forza dipende interamente dal rispetto delle condizioni che la rendono valida.Indipendenza, identica distribuzione, esistenza della media: tre requisiti che nella pratica della ricerca non sono mai garantiti automaticamente e vanno verificati ogni volta. Ignorarli non invalida il teorema — la matematica è la matematica — ma invalida la sua applicazione ai dati. E questa è l’unica applicazione che conta.