Il ragionamento bayesiano: come cambiare idea nel modo giusto

C’è un test di screening per una malattia rara. La malattia colpisce una persona su mille nella popolazione generale. Il test è buono: se la malattia è presente, lo rileva nel novantanove per cento dei casi. E se la malattia non è presente, lo esclude correttamente nel novantanove per cento dei casi, ossia produce un falso positivo solo nell’uno per cento dei casi sani.

Il test risulta positivo. Qual è la probabilità che tu sia effettivamente malato?

La risposta intuitiva, quella che viene in mente a quasi tutti, medici compresi, quando vengono posti di fronte a questo problema, è: circa il novantanove per cento. Il test è preciso al novantanove per cento, il risultato è positivo, quindi sei quasi certamente malato. È una risposta sbagliata. La risposta corretta è circa il nove per cento. Su cento persone con un test positivo, circa novantuno sono sane.

Questo risultato sorprende quasi sempre. Eppure è aritmeticamente inevitabile, e capire perché è il modo migliore per entrare nel cuore del ragionamento bayesiano: uno dei contributi più profondi e più fraintesi di tutta la storia della statistica.

Perché l’intuizione fallisce

Torniamo al problema del test. Immagina di applicarlo a un campione di centomila persone scelte a caso dalla popolazione. Dato che la malattia colpisce una persona su mille, in quel campione ci sono circa cento malati e 99’900 sani.

Tra i cento malati, il test rileva correttamente 99 casi: risultano positivi. Tra i 99’900 sani, il test sbaglia nell’uno per cento dei casi, producendo circa 999 falsi positivi. In totale, i positivi sono quindi 1’098: 99 veri positivi e 999 falsi positivi. Se hai un test positivo, la probabilità che tu sia davvero malato è 99 diviso 1098, circa il 9%. Tutto torna: è matematica pura, numeri che non lasciano spazio a obiezioni. Eppure qualcosa non va.

L’intuizione fallisce perché ignora un’informazione cruciale che era disponibile fin dall’inizio: la prevalenza della malattia nella popolazione, cioè quanto è rara. Quando una malattia è molto rara, anche un test molto preciso produce molti più falsi positivi che veri positivi, perché il numero di sani è enormemente più grande del numero di malati. L’uno per cento di errore su una base di quasi centomila sani genera quasi 1000 falsi allarmi, contro i 99 casi reali.

Questo è esattamente il tipo di errore che il ragionamento bayesiano evita e che il ragionamento intuitivo commette con prevedibile regolarità. Il nome tecnico èbase rate neglect: la tendenza a ignorare la frequenza di base del fenomeno quando si valuta una nuova evidenza. È uno degli errori cognitivi più documentati in letteratura, e ha conseguenze concrete ogni volta che si interpreta un risultato diagnostico, un test statistico o qualsiasi altro aggiornamento di informazione.

Thomas Bayes e la logica dell’aggiornamento

Thomas Bayes era un ministro presbiteriano inglese del Settecento con una passione per la matematica. Non pubblicò quasi nulla in vita, e il saggio che porta il suo nome —An Essay towards solving a Problem in the Doctrine of Chances— fu presentato alla Royal Society nel 1763 e pubblicato l’anno successivo, due anni dopo la sua morte, dall’amico e filosofo Richard Price. Bayes non aveva idea che stava fondando un intero modo di pensare alla probabilità.

L’idea centrale del teorema di Bayes è semplice nella sua forma verbale. La probabilità di un’ipotesi alla luce di una nuova evidenza dipende da due cose. La prima è quanto è probabile quell’ipotesi prima di vedere l’evidenza, quella che in statistica si chiama probabilità a priori. La seconda è quanto quella evidenza è attesa se l’ipotesi è vera, rispetto a quanto è attesa se l’ipotesi è falsa , quello che si chiama verosimiglianza, o likelihood. Il risultato è la probabilità a posteriori: la probabilità aggiornata dell’ipotesi dopo aver visto l’evidenza.

Nel problema del test diagnostico, la probabilità a priori è la prevalenza della malattia (uno su mille). La verosimiglianza è data dalla sensibilità e dalla specificità del test. La probabilità a posteriori è quella che vogliamo calcolare (che sappiamo che per il nostro esempio è pari al 9%). Il teorema di Bayes fornisce la formula esatta per combinare questi elementi in modo coerente. Ma la sua importanza va molto oltre la formula. Fornisce una logica per ragionare sotto incertezza che è applicabile ovunque si debba aggiornare una credenza alla luce di nuove informazioni.

Prior, likelihood, posterior: un vocabolario da imparare

Il vocabolario bayesiano è diventato indispensabile in molti campi della ricerca, e vale la pena fermarcisi un momento perché i tre termini hanno una logica precisa che non sempre coincide con l’uso comune delle stesse parole.

La probabilità a priori — il prior — non è una supposizione arbitraria o un’opinione soggettiva nel senso peggiore del termine. È la quantificazione di tutto ciò che si sa sul fenomeno prima di osservare i nuovi dati. Nel caso del test diagnostico è la prevalenza della malattia nella popolazione: un numero empirico basato su studi epidemiologici, non su intuizioni. In un contesto di ricerca, il prior potrebbe essere basato su studi precedenti, su meta-analisi della letteratura, su principi biologici consolidati. Scegliere un prior non significa inventarsi qualcosa: significa essere espliciti su ciò che già si sa.

La likelihood — la verosimiglianza — misura quanto i dati osservati sarebbero probabili se l’ipotesi fosse vera, rispetto a quanto sarebbero probabili se l’ipotesi fosse falsa. Non è la probabilità che l’ipotesi sia vera: è la probabilità dei dati dato che l’ipotesi è vera. Questa distinzione, apparentemente sottile, è al cuore di uno dei fraintendimenti più diffusi in statistica, su cui torneremo tra poco.

La probabilità a posteriori — il posterior — è il risultato dell’aggiornamento: quanto è probabile l’ipotesi dopo aver visto i dati, tenendo conto sia di ciò che sapevamo prima sia di ciò che i dati ci dicono. È il punto di arrivo del ragionamento bayesiano e diventa il nuovo prior nel momento in cui arriva una nuova evidenza. L’aggiornamento è sequenziale: ogni nuova osservazione modifica la probabilità, che a sua volta diventa il punto di partenza per l’osservazione successiva.

Il p-value non è quello che pensi

Qui il ragionamento bayesiano incontra uno dei nodi più controversi della statistica applicata: l’interpretazione del p-value. Il p-value è lo strumento dominante nell’inferenza statistica frequentista, quella che si studia nei corsi standard di statistica, quella che appare in quasi tutti i paper scientifici. E il p-value è sistematicamente frainteso, anche da chi lo usa ogni giorno.

Il p-value misura la probabilità di osservare dati almeno altrettanto estremi di quelli osservati, assumendo che l’ipotesi nulla sia vera. È, in altri termini, P(dati | ipotesi nulla), ossia la probabilità di osservare quei dati data l’ipotesi nulla. Non è P(ipotesi nulla | dati), ossia la probabilità che l’ipotesi nulla sia vera alla luce dei dati osservati. Questa seconda quantità è quella che quasi tutti vorrebbero calcolare e che il p-value non fornisce.

La confusione tra le due probabilità è una forma dibase rate neglectapplicata alla ricerca. Quando un ricercatore vede p = 0.03 e conclude che c’è solo il tre per cento di probabilità che il risultato sia dovuto al caso, sta commettendo esattamente lo stesso errore del medico che vede un test positivo e conclude che il paziente è quasi certamente malato. Sta ignorando il prior — quanto era probabile a priori che l’ipotesi alternativa fosse vera — e sta confondendo la probabilità dei dati data l’ipotesi con la probabilità dell’ipotesi dati i dati.

Un p-value di 0.03 su un’ipotesi biologicamente molto plausibile, supportata da studi precedenti e da un meccanismo d’azione noto, merita un’interpretazione molto diversa da un p-value di 0.03 ottenuto testando un’ipotesi improbabile in partenza, per esempio, che un intervento privo di qualsiasi meccanismo d’azione plausibile produca un effetto terapeutico. Nel primo caso, il risultato aggiorna in modo significativo la probabilità a posteriori. Nel secondo caso, anche un p-value basso lascia la probabilità a posteriori molto vicina a zero, perché il prior era così basso da non essere spostato in modo apprezzabile da un singolo risultato.

La fallacia del giocatore come caso bayesiano

La fallacia del giocatore è la convinzione che eventi indipendenti passati influenzino la probabilità di eventi futuri. Il giocatore che ha visto uscire rosso dieci volte di fila alla roulette e scommette sul nero perché è convinto che sia arrivato il suo turno  o, nella versione opposta, il giocatore che continua a scommettere sul rosso perché è convinto che stia attraversando un momento fortunato, sta commettendo lo stesso errore strutturale: aggiorna le proprie credenze sulla base di informazioni che non hanno alcun potere predittivo sulla prossima estrazione.

In termini bayesiani, il giocatore sta usando un prior sbagliato. La probabilità a posteriori di uscita del rosso dopo dieci rossi consecutivi è identica alla probabilità a priori, circa il 48,6% su una roulette europea, indipendentemente da quante volte sia uscito rosso in precedenza. I dieci eventi passati non aggiornano il prior perché non sonoevidencerilevante per l’evento futuro: la roulette non ha memoria. Il teorema di Bayes incorpora correttamente questa struttura: se la likelihood di osservare il prossimo rosso è indipendente dalla sequenza passata, la sequenza passata non deve entrare nel calcolo.

Ciò che rende la fallacia del giocatore interessante dal punto di vista metodologico è che rivela un errore di modello prima ancora che un errore di calcolo. Il giocatore non sbaglia la matematica: sbaglia il modello del processo generativo. Assume che le estrazioni non siano indipendenti e costruisce su questa assunzione sbagliata un ragionamento che ha la forma dell’aggiornamento bayesiano ma non ne ha la sostanza. È un promemoria utile: il ragionamento bayesiano è corretto solo quanto lo è il modello che lo sottende.

Bayesiano o frequentista: una disputa con conseguenze pratiche

La distinzione tra approccio bayesiano e approccio frequentista non è solo tecnica: è filosofica. I frequentisti interpretano la probabilità come la frequenza relativa di un evento su un numero molto grande di ripetizioni: la probabilità che una moneta cada testa è il limite della frequenza di teste man mano che il numero di lanci tende a infinito. In questo quadro, non ha senso parlare della probabilità che un’ipotesi scientifica sia vera: l’ipotesi o è vera o è falsa, non ha una frequenza di ripetizione.

I bayesiani interpretano invece la probabilità come un grado di credenza razionale, aggiornabile alla luce delle evidenze. In questo quadro, ha perfettamente senso chiedersi qual è la probabilità che un certo farmaco sia efficace o che una certa teoria fisica sia corretta: si tratta di quantificare l’incertezza su una proposizione, non di descrivere la frequenza di un evento ripetibile.

La disputa ha conseguenze pratiche rilevanti. L’approccio frequentista produce strumenti come il p-value e gli intervalli di confidenza, che sono molto diffusi ma che, come abbiamo visto, sono spesso fraintesi perché non rispondono direttamente alla domanda che il ricercatore vorrebbe porre. L’approccio bayesiano produce probabilità a posteriori e intervalli di credibilità, che rispondono direttamente a quella domanda ma richiedono la specificazione esplicita di un prior, una scelta che alcuni considerano soggettiva e potenzialmente manipolabile.

Nella pratica della ricerca moderna, i due approcci coesistono. Molti ricercatori usano strumenti frequentisti per abitudine o per convenzione della propria disciplina, ma ragionano implicitamente in modo bayesiano quando interpretano i risultati, tenendo conto, anche informalmente, di quanto era plausibile a priori l’ipotesi che stanno testando. La comprensione del framework bayesiano non richiede di abbandonare gli strumenti frequentisti: La comprensione del framework bayesiano non richiede di abbandonare gli strumenti frequentisti: richiede di sapere esattamente cosa si sta calcolando quando li si usa — e cosa, invece, si sta soltanto immaginando di calcolare.

Aggiornare le credenze nella pratica della ricerca

Il ragionamento bayesiano ha implicazioni concrete per come si fa e come si legge la ricerca. La prima è che un singolo studio, per quanto ben condotto, raramente dovrebbe cambiare radicalmente le proprie credenze su un fenomeno. Un risultato positivo su un’ipotesi che aveva un prior basso — per esempio, un effetto terapeutico di un intervento biologicamente implausibile — dovrebbe essere accolto con scetticismo proporzionato, non perché il risultato sia necessariamente sbagliato, ma perché il prior basso richiede evidenze molto forti per essere spostato in modo sostanziale.

La seconda implicazione è che l’accumulo di evidenze conta più del singolo risultato. Il valore di una meta-analisi, in un’ottica bayesiana, è esattamente questo: combinare sistematicamente più studi aggiorna il posterior in modo molto più robusto di quanto possa fare qualsiasi studio singolo. Ogni studio è un’occasione di aggiornamento; la sintesi delle evidenze è il posterior cumulativo di tutti gli aggiornamenti effettuati fino a quel momento.

La terza implicazione riguarda la comunicazione dei risultati. Dichiarare esplicitamente il proprio prior — quanto ci si aspettava di trovare prima di condurre lo studio, sulla base della letteratura esistente e dei meccanismi biologici o teorici noti — è una forma di trasparenza che aiuta il lettore a contestualizzare il risultato. Un risultato sorprendente che contraddice un prior solido merita più scrutinio di un risultato che conferma quanto già ci si aspettava. Non perché la sorpresa sia un difetto: ma perché l’onere della prova è proporzionale alla distanza dal prior.

Cambiare idea alla luce delle evidenze non è debolezza: è razionalità.Ma farlo nel modo giusto richiede di tenere conto di ciò che si sapeva prima, di valutare quanto le nuove evidenze siano informative e di aggiornare le proprie credenze in proporzione. Il teorema di Bayes non è una formula da applicare meccanicamente: è una struttura per pensare con rigore sotto incertezza, che è, in fondo, la condizione normale di chi fa ricerca.