Il coraggio è una delle virtù più presenti nella descrizione degli eroi. È ciò che fa sì che l’eroe diventi tale. Tuttavia quando si pensa al coraggio si pensa — appunto perché collegato al concetto di eroe — ad imprese impossibili, a sfide insostenibili, a situazioni fuori dalla portata di molti.

C’è tuttavia un tipo di coraggio — o forse dovrei dire l’unica vera forma di coraggio — che non fa rumore. Non si racconta nei discorsi pubblici, non si celebra nelle cerimonie. È il coraggio di chi sa che tra le sue mani c’è qualcosa di fragile e irreparabile — una vita, un futuro, un momento che non tornerà — e non si tira indietro. Paul Kalanithi lo conosceva da neurochirurgo. Ma lo ha imparato di nuovo, e più in fondo, quando quel qualcosa di fragile era diventato lui stesso.

Di questo coraggio parla il libroQuando il respiro si fa ariadi Paul Kalanithi— giovane neurochirurgo, scrittore, umanista. Un libro scritto dopo la diagnosi di adenocarcinoma polmonare in stadio IV e che Paul non ha fatto in tempo a concludere. È uscito postumo nel 2016, con una postfazione della moglie Lucy. È uno di quei libri che si leggono in silenzio e si posano lentamente, mentre le lacrime non riescono a fermarsi e ci si chiede: ha raccontato di lui o di me?

La neurochirurgia

Paul Kalanithi conosceva bene quel coraggio. Lo esercitava come si esercita una disciplina antica: con precisione, con umiltà, con la consapevolezza silenziosa che la perfezione non esiste ma che si può — anzi si deve — tendere verso di essa, ogni giorno, senza smettere. Perché la perfezione non si può raggiungere, ma si può “credere in un asintoto verso il quale tendere all’infinito”.

Chi ha fatto matematica sa che un asintoto non è una promessa mancata. Non è il segno di un fallimento. Anzi, gli asintoti — rette verso cui la curva si avvicina senza mai toccarle — negli studi di funzione sono uno dei passaggi più belli e più interessanti. L’asintoto è una struttura propria di certi processi: costruiti non per arrivare, ma per tendere. La funzione matematica si avvicina all’asintoto, indefinitamente, senza tuttavia mai toccarlo. In quella tensione perpetua la matematica racconta, a suo modo, qualcosa di più onesto e più vero di qualsiasi punto di arrivo: che avvicinarsi all’infinito è già, di per sé, la risposta.

Kalanithi aveva fatto della propria vita esattamente questo: un avvicinamento continuo, un tendere alla perfezione sapendo di non poterla mai raggiungere. Operazione dopo operazione. Paziente dopo paziente. La neurochirurgia vissuta come vocazione: non una carriera, ma una forma di esistenza, il proprio modo di costruire un mondo migliore.

Ma Paul Kalanithi era anche uno scrittore. Un umanista per formazione. Uno di quegli individui rari in cui la separazione tra conoscenza umanistica e scientifica non è mai esistita, e in cui le due si integrano per dare vita a qualcosa di più alto e di più solido. Aveva cercato nella letteratura le stesse risposte che poi avrebbe cercato nella medicina: cosa significa vivere, cosa rende una vita degna di essere vissuta, dove finisce il corpo e dove comincia la persona. Portava con sé queste domande come si cerca l’aria per respirare, indagava la complessità del confine tra corpo e persona con l’approccio del medico e l’animo dello scrittore.

La vita dopo la diagnosi

Poi un giorno arriva la diagnosi. Adenocarcinoma polmonare, stadio IV. Da scienziato, Kalanithi fa la cosa più naturale — chiede alla sua oncologa di parlare delle curve di Kaplan-Meier che descrivono la prognosi della sua malattia. Le vuole ardentemente. Le cerca con l’urgenza di chi sa leggerle e sa esattamente cosa significano. Sebbene sappia che la mediana di sopravvivenza non è una sentenza personale e che quella curva descrive una storia sì vera ma che non appartiene ad alcun paziente in particolare, lui continua a cercarla.

È convinto — e chi non lo sarebbe? — di potervi trovare una qualche risposta. Quando la paura del futuro — anzi del non futuro — si fa grande, anche il più rigoroso degli uomini vuole che il dato diventi una risposta. Vuole che la funzione stimata su una coorte gli dica qualcosa di personale, di suo, di adesso. È un’illusione che riconosciamo tutti, prima o poi: è il momento in cui vorremmo che la scienza dell’incertezza diventasse certa e cedesse il posto al bisogno umano, urgente, antico, di sapere. Non è debolezza: è umanità. E una delle cose più oneste che Kalanithi fa è ammetterla, senza vergogna, senza paura di mostrare la fragilità in cui la malattia l’ha posto.

A un certo punto però smette. Smette di cercare quelle curve, di interrogarle, di aspettarsi che gli dicano quello che non possono dirgli. Ritrova un mondo più antico, in cui il destino e la tragedia — nel senso più greco del termine — diventano i compagni di viaggio. Non il fato come resa, ma come riconoscimento: ci sono forze che nessuna equazione contiene, e accettarle richiede un coraggio diverso, forse più grande. Come Ettore davanti alle mura di Troia, Kalanithi sa come andrà a finire. E sceglie, nonostante tutto, chi vuole essere. Affronta il destino con la stessa lucidità con cui aveva cercato le curve. Capisce con precisione che quelle curve possono stimare la durata ma non possono orientare il contenuto. Gli possono dire quanto tempo ha in media un paziente con quella diagnosi, ma non possono dirgli nulla su chi vuole essere nel tempo che gli resta.

Who is the captain of the ship?

Ed è qui che l’eroe comprende di avere bisogno di rispondere alla seconda domanda. Solo alla seconda. Le curve rappresentavano una forma di certezza nella loro incertezza, ma non contengono la risposta. La risposta su chi si vuole essere sta nel posto meno frequentato da chiunque: dentro sé stessi.

Ma prima di arrivarci, Paul Kalanithi deve fare i conti con un’altra domanda più difficile:Who is the captain of the ship?Chi deve condurre la sua nave? Perché il passaggio da medico a paziente ha sovvertito ogni certezza, ogni ruolo. In sala operatoria lo sapeva chi guidava la nave. Il capitano-chirurgo decide, tiene la rotta, contiene l’incertezza senza trasferirla su chi è già vulnerabile, già spaventato, già esposto. Il paziente non vuole condurre la nave, non può sempre condividere il peso. Vuole solo sbarcare in un porto sicuro, lontano dalla mareggiata che continua a scuoterlo. Cerca fiducia. Vuole che qualcuno sappia come stare nell’ignoto senza perdersi.

Ma adesso Paul si ritrova dall’altra parte. È lui il paziente. E la domanda che aveva posto mille volte agli altri ritorna su di lui, in tutta la sua complessità irrisolta.

E qui il libro fa una cosa rara e secondo me bellissima: non risponde. Non dice che il paziente deve sempre decidere, non dice che il medico deve sempre guidare. Lascia la tensione aperta, perché quella tensione è reale e non si risolve con una formula. Dice che il capitano cambia. Che il timone passa di mano nel momento in cui cambia il tipo di traversata. Che il coraggio non è tenere il controllo a tutti i costi, ma sapere quando cedere la rotta e quando riprenderla. È una domanda che prima o poi la vita pone a tutti, senza risparmiare nessuno.

Conclusione

Questo è un libro sul coraggio. Non sul coraggio eroico, non su quello che finisce nelle biografie e nei necrologi. È un libro sul coraggio quieto, continuo, quasi invisibile, di chi affronta ogni giorno qualcosa di irreparabile e lo affronta lo stesso. Di chi cerca una risposta nei dati e poi trova il coraggio di andare oltre i dati. Di chi affronta la propria morte con la stessa attenzione, la stessa cura, la stessa presenza con cui aveva affrontato quella degli altri: senza distogliere lo sguardo, senza cercare scorciatoie consolatorie.

Paul Kalanithi non ha fatto in tempo a finire questo libro. Lo ha lasciato aperto, come certi teoremi che indicano una direzione senza chiuderla, come certe dimostrazioni che si interrompono sul più bello e ti lasciano lì, con la matita in mano, a chiederti come sarebbe andata a finire.

E forse è giusto così. Perché le cose più vere, quelle che tendono all’asintoto, quelle che si avvicinano senza mai toccare, non finiscono mai davvero.

Si avvicinano. Sempre.

Leggetelo. E non preoccupatevi se vi commuoverà: è normale, anzi è il segno che il lascito di Paul all’umanità continua a produrre frutto, che è esattamente quello che lui voleva. Non importa quale sia il lavoro che svolgete, non importa quanto siate abituati a ragionare con i numeri o con le parole. Questo libro parla a tutti, perché la domanda che Paul si pone — chi voglio essere nel tempo che mi resta — è la più umana che esista. Ed è sempre la più urgente.

Paul Kalanithi,Quando il respiro si fa aria, Mondadori, 2017, 168 pp.

Giorno 2 agosto 2026 è entrato in vigore ilTransparency Code dell’AI Act, una norma che impone alle aziende produttrici di modelli AI di marcare i contenuti generati o modificati tramite AI in modo tale che questi siano identificabili da sistemi terzi. Anthropic ha risposto all’obbligo annunciando che tutti i modelli Claude già in essere e quelli ancora in fase di sviluppo saranno dotati entro dicembre 2026 di un watermark invisibile in grado di marcare tutti i testi generati tramite AI.

La notizia, rilanciata dai media, ha immediatamente scatenato un’ondata crescente di entusiasmo. Applausi, titoli sensazionalistici “Fine dell’era del copia-incolla”, sospiri di sollievo. La filigrana introdotta da Anthropic viene presentata come uno strumento in grado di garantire l’autenticità dei testi.

Sebbene lo strumento non sia stato ancora visto in azione, la percezione comune che sembra emergere da più parti è quella di aver trovato l’equazione perfetta – permettetemi di parlare la mia lingua di matematico: presenza watermark uguale prova che un testo è AI, assenza watermark uguale garanzia che un testo è umano. Un’equazione così perfetta da far presupporre l’esistenza di una condizione necessaria e sufficiente.

Chiarisco subito un particolare. Il meccanismo che Anthropic utilizzerà effettivamente per il suo watermark non è ancora stato reso pubblico nei dettagli tecnici. Ad oggi non sappiamo quanto funziona, come e quali sono i casi su in cui può fallire. Abbiamo dei riferimenti generici, ma ancora troppo poco dettagliati per poter capire. In letteratura tuttavia si parla da tempo di questi “blu di metilene” che sfruttando approcci statistici, sarebbero in grado di tracciare testi (ma anche immagini e video) passati su intelligenza artificiale. L’annuncio di Anthropic offre lo spunto per cominciare ad affrontare questo tema cercando di capire come funzionano alcuni di questi watermark (non quello di Anthropic) con una speciale attenzione ai testi scientifici.

Fatta questa premessa, a leggere così la notizia e le ipotesi di funzionamento che accompagnano questi strumenti si ha l’impressione che tra ciò che la tecnologia sembra promettere e ciò che effettivamente può offrire esista un divario che presenta parecchie insidie che potrebbero rendere lo strumento quanto meno discutibile per chiunque pubblichi, riveda o valuti testi in un contesto scientifico.

Il watermark statistico

Ma cominciamo dal principio. Quando si sente parlare di “watermark invisibile nel testo”, si immaginano una serie di caratteri nascosti e sparsi nel documento come formiche. Ma i watermark che potrebbero trovare applicazione sono watermark statistici, qualcosa di completamente diverso e la cui autorevolezza è basata sull’uso del calcolo delle probabilità e della statistica.

Se hai avuto a che fare con la statistica, probabilmente ricorderai che i manuali ed i professori introducendo il classico esempio della moneta hanno sempre precisato che la moneta non deve essere truccata affinché i conti tornino. Bene, il sistema del watermark statistico funziona in modo analogo: “trucca” il testo.

Sappiamo da tempo che l’AI, sebbene presenti risposte apparentemente naturali e dal sapore tipicamente umano, è governata da algoritmi matematici di straordinaria complessità. Il testo che genera non viene “scritto” nel senso in cui lo intendiamo noi. Il testo che noi leggiamo è il risultato di un calcolo in cui la parola successiva è determinata dalla vicinanza semantica — matematicamente calcolata — con quelle precedenti. Se l’AI scrive “intervallo” e siamo in ambito statistico, la parola successiva sarà quasi certamente “di confidenza”.

Dunque il sistema funziona in modo che a fronte di un determinato contesto, il modello assegna una probabilità a ogni possibile parola (cosiddetto token) successiva e sceglie dall’elenco delle possibili parole disponibili, quella che meglio si inserisce nella frase, badando a sceglierne una che non alteri né il significato (anche se ricordiamo, l’AI non comprende il significato nel senso umano) né la correttezza grammaticale. Il risultato di questo processo è un contenuto apparentemente coerente, come fosse scritto da un essere umano, ed in alcuni casi più logico e più lineare di quello di un essere umano.

Perché ebbene sì dobbiamo riconoscerlo: l’AI ama la logica matematica. A furia di frequentare algoritmi, ha appreso che l’unico modo di rispondere ad una domanda è quello matematico, ossia con ragionamenti perfettamente concatenati, come fossero teoremi con tanto di ipotesi, tesi e dimostrazione che porta da A a B secondo passaggi strettamente controllati. Questo la rende straordinariamente e pericolosamente convincente (a volte questa sequenza la porta fuori strada, ma lì è tutt’altra storia).

Ora succede che alcuni watermark statistici finora presentati sembra funzionino come il gioco “Indovina chi”. Dato un argomento e trovandosi l’algoritmo a costruire il suo consueto discorsetto umano, i watermark fanno sì che prima che il sistema scelga il termine successivo — in una procedura che si chiama campionamento, sì, proprio quel campionamento statistico che si fa negli studi clinici — il vocabolario disponibile del modello AI verrebbe suddiviso in due sottoinsiemi:green listered list.

Il modello non scegliere in modo rigido le parole, ma viene orientato con una maggiore preferenza verso quelli dellagreen listsecondo un peso matematico che fa sì che le parole dellagreen listsiano più probabili di quelle dellared list. In questo modo si viene ad introdurre una distorsione (i.e., bias) che seppur potrebbe essere trascurabile in testi corti (anche se ricordo che la rilevabilità del segnale dipende dalla combinazione lunghezza del testo, intensità del bias e l’entropia), diventa altamente misurabile sui testi medio-lunghi. Esattamente come la moneta truccata: su soli 10 lanci non si vede che la moneta non è perfettamente bilanciata, ma se aumentiamo i numeri dei lanci, le preferenze verso un determinato esito, emergono chiaramente. Fin qui tutto perfetto.

A questo punto, inizia il gioco statistico. La rilevazione è affidata ad uno score – z-score per l’appunto con tanto di p-value al seguito – che misura quanto la proporzione osservata di token dellagreen listnel testo si discosti da quella attesa in assenza di watermark. Se questo valore supera una certa soglia, allora il rilevamento segnala la presenza del watermark.  

Dunque, riprendendo volutamente lo stile tipico di AI, ricapitolo: il sistema usa la matematica per determinare la parola più vicina alla precedente, non sceglie in modo indipendente come ha fatto finora seppur sempre servendosi di una qualche forma di campionamento matematico, ma pilota seppur in modo non rigido, la risposta verso le parole dellagreen list. Un rilevatore, le cui istruzioni derivano sempre dallo stesso produttore dello strumento, pone un test statistico per dire se c’è o non c’è il watermark. A seconda del risultato, noi inferiamo se il testo è proveniente da AI o meno.   

I problemi metodologici

Meccanismo elegante, vero? Quasi bello nella sua semplicità. Ma guardandolo con l’occhio del metodologista e dello statistico, qualcosa non torna.

Nell’ambito della ricerca non si è abituati a lavorare con strumenti che misurano in modo errato. Ogni bias di strumento è un problema perché distorce la misura che si intende misurare. Ma caratteristica importante, la distorsione è sempre un evento che incide sulla misura dall’esterno e che il ricercatore riconosce, stima e corregge. Nel caso del watermark statistico la situazione è diversa. Siamo sì di fronte ad uno strumento distorto, ma il bias non disturba la misura: è la misura stessa. Il sistema crea deliberatamente un segnale nel testo e poi usa la statistica per cercarlo. Se il segnale c’è, il testo è AI. Se non c’è, il testo è umano. Lo strumento produce ciò che il test misura e il test non sa misurare nient’altro che l’errore che lo strumento produce, sapendo che può trovarlo, non che è un evento straordinario.

Sì, lo so, sembra la famosa storia del gatto che si morde la coda. Ma quanto appena descritto ha in metodologia di ricerca un nome preciso: circolarità (circular validation). Il watermark crea il bias nel testo AI usando una chiave segreta che conosce solo il produttore del modello AI. Poi il rilevatore costruito sulle istruzioni del produttore va a cercare esattamente quel bias, usando la stessa chiave. Questo fa sì che il test statistico non rileva una proprietà indipendente del testo, ma va a rendere evidente una proprietà che il produttore ha introdotto appositamente nel testo usando e che solo lui conosce. Sembrerebbe tutto indipendente, vero? Ma non lo è. I due momenti – introduzione del bias e sua rilevazione – sono logicamente e tecnicamente legati dalla stessa chiave, dunque si ha circolarità.

La circolarità non è di per sé un difetto ingegneristico. Un sistema crittografico che usa la stessa chiave per firmare e verificare funziona esattamente così, ed è uno strumento perfettamente valido per quello che fa. Tuttavia in questo caso, se l’algoritmo di rilevazione non è pubblico, allora il sistema presenta un problema strutturale perché solo il produttore può verificare il segnale o la sua assenza, il che rende qualsiasi giudizio basato sul watermark dipendente dalla fiducia assoluta in chi lo produce. Se invece l’algoritmo è pubblico il problema strutturale si sposta ma non scompare del tutto. Chiunque può eseguire il test, ma solo chi detiene la chiave segreta può produrre il watermark e solo chi la detiene può confermare che il test stia cercando la cosa giusta. La chiave rimane nelle mani del produttore in entrambi i casi.

Ma c’è un punto nodale ancora più rilevante, che riguarda cosa il sistema può effettivamente affermare. Rilevare la propria firma non è rilevare l’intelligenza artificiale. È rilevare la propria firma. Il watermark dice che quel testo è passato per quel modello, con quella chiave, in quel momento. Non dice che il testo è privo di pensiero umano, né che un testo senza watermark è privo di contributo AI. Pretendere che questo strumento possa pronunciarsi sull’origine di un testo in senso generale significa attribuirgli una capacità che non ha e che, per costruzione, non può avere.

Gli aspetti statistici

Già la presenza di dubbi metodologici potrebbe bastare a sostenere che il sistema non possa essere adoperato così come dichiarato finora. Ma vi è un di più che riguarda la parte statistica. Per come è ideato lo strumento, il test statistico non può essere usatosic et simpliciter. Il sistema funziona in modo perfetto quando lavora dentro le proprie ipotesi, ossia quando il watermark segna il testo e niente lo disturba e dunque il test statistico agisce in modo superbo nell’identificare la presenza del watermark. Ma qui si ferma il sistema. Il test non dice che il testo è prodotto da AI. Esso attiva solo una sorta diwarningche dice che quel watermark è presente. Di converso, l’assenza del watermark non dice nulla sull’autenticità del testo. Tanti fattori potrebbero far saltare il sistema.

Il rilevatore funziona confrontando la proporzione di token dellagreen listosservata nel testo con quella attesa sotto l’ipotesi nulla, ossia quella di un testo senza watermark. Ma l’ipotesi nulla assume che, in assenza di watermark, i token siano distribuiti in modo sostanzialmente uniforme rispetto alla partizionegreenvs.red. Questa assunzione potrebbe regge in molti contesti generali, ma non è valida nei contesti scientifici. Il risultato è che il test potrebbe segnalare la presenza di un segnale che non c’è, oppure non rilevarne uno presente perché la distribuzione di base del testo ne maschera la traccia. Questo si chiama problema di validità del modello nullo secondo cui il test misura uno scarto rispetto a un riferimento, ma se il riferimento è mal specificato, quello scarto non ha l’interpretazione che gli si attribuisce.

Inoltre il test statistico, come ogni test statistico, può anche fallire nelle solite due direzioni note: falso negativo — il test non riconosce un testo AI — o falso positivo — il test sostiene che il testo è AI quando non lo è. Se i testi valutati arrivano da una popolazione generale, il sistema può funzionare. Ma i testi scientifici non vengono da una popolazione generale. Essi provengono, parlando proprio in termini statistici, da una distribuzione il cui vocabolario è fortemente vincolato. Prendete una sezione “Materiali e metodi” di un articolo in ambito medico. Frasi come “criteri di inclusione,” “studio clinico randomizzato a doppio cieco,” “odds ratio aggiustato,” “intervallo di confidenza,” “analisi intention-to-treat” non sono scelte stilistiche. Sono gli unici termini corretti e la loro sequenza è vincolante per  chiunque voglia parlare in modo scientificamente valido.

Per non parlare del fatto che i termini scientifici ed anche un certo parafrasare (tipothe aim of this work was…) non sono una scelta del ricercatore, un lancio di moneta che possiamo truccare o meno. Sono caratteristiche proprie del parlare scientifico e non esistono molte alternative. Se lagreen listnel suo sistema include questi termini o questo modo di scrivere, allora qualsiasi testo scientifico prodotto da un essere umano competente potrebbe essere classificato come testo AI e probabilmente anche testi scientifici di qualche anno fa che sono stati schematizzati secondo le linee guida di reporting (vedi CONSORT e PRISMA in testa), potrebbero subire la stessa sorte.

Distribuzioni convergenti

Tutto qui? Elenco dubbi risolto? No, ancora no. C’è un ultimo e ancora più sottile problema. Qualunque sistema di watermark pone alla base del funzionamento un’assunzione fortissima, ossia che i testi AI e i testi umani abbiano distribuzioni lessicali significativamente diverse. Insomma partono dal pressupposto che noi umani scriviamo in modo diverso dall’intelligenza artificiale.

Tralasciando ogni aspetto etico, ritengo che questa assunzione sia poco sostenibile. Perché i modelli AI sono addestrati su testo umano prediligendo per di più libri, articoli accademici, paper scientifici, documenti giuridici, linee guida, poesie, saggi, insomma la nostra produzione scritta, tutta umana, accumulata nel corso dei secoli. Questo fa sì che le parole scelte dal modello, indipendentemente che stiano nella listagreeno in quellared, sono parole che derivano da frasi del nostro del modo di esprimerci.

Da questo si potrebbe obiettare che per quanto le distribuzioni siano simili, la probabilità che un essere umano riproduca accidentalmente il pattern specifico dellagreen list, ossia che scelga in modo naturale e sistematico proprio quelle parole, nella proporzione sufficiente ad attivare il rilevatore, sia comunque molto bassa.

Sebbene questa sia un’obiezione ragionevole, va considerato che, primo, l’AI è usata da milioni di persone con miliardi di interazioni in ogni istante, per cui replicare un pattern in modo indipendente dall’AI, per quanto con bassa probabilità, è comunque possibile. Secondo, il modello AI non ha semplicemente una distribuzione umana, ma è una distribuzione derivata da quella umana. Il modello ha assorbito le nostre parole, le nostre strutture sintattiche, le nostre preferenze lessicali, i nostri modi di dire, secondo alcuni mostra anche di comprendere il significato dei testi che scrive, seppur sembra non ancora nel senso umano. Come sperimentiamo tutti interagendo con la nostra AI, questa, a seconda dell’utente, adatta il registro e lo stile, ne conosce le preferenze e gli interessi, e nulla vieta di pensare che possa copiare lo stile del singolo e quindi mettere i watermark proprio su quelle caratteristiche uniche dello specifico utente.  

La domanda sbagliata: expertise simulata e realtà fabbricata

A mio avviso la domanda che ci stiamo ponendo sull’AI è sbagliata. Non voglio dire che sia giusto generare testi con AI e spacciarli per proprio ingegno, anzi. Ritengo che ciò che stia accadendo anche in ambito scientifico (si pensi al problema paper mill che l’AI sta aumentando) sia assolutamente da contenere. Ma ritengo che il watermark non risolva alcuno di questi gravi problemi che l’AI sta generando e che il mondo della ricerca scientifica sta subendo.

Usare l’AI per correggere una bozza, migliorare il flusso sintattico, tradurre un passaggio, ristrutturare un argomento, non siano il problema. L’AI è uno strumento e, se usato come gli strumenti sono sempre stati usati, può aiutare ad estendere la capacità umana senza sostituire il pensiero umano.

Il punto focale del problema è che l’AI sta spingendo a creare una realtà distorta, fabbricataad hoce poi passata per verità. Proprio in ambito scientifico sono in tanti che si affidano all’AI non per sistemare un testo in una lingua non propria, ad esempio, ma per scriverne uno di sana pianta, senza conoscenza reale del contenuto. E questo il watermark non lo risolve. Perché proprio chi vuole falsare le carte sarà il primo a trovare lo stratagemma per bypassare il problema watermark.

L’AI può simulare una capacità professionale che non esiste. Può produrre raccomandazioni cliniche senza conoscenza clinica, fabbricare revisioni della letteratura senza verifica delle fonti, o generare risultati statistici da dati che non sono mai stati raccolti. Cattive pratiche queste che ci fanno capire che la domanda vera non è se un testo è passato attraverso l’AI. Ciò di cui la ricerca scientifica ha bisogno è sapere se dietro ogni testo scientifico su cui si basano decisioni cliniche, strategiche, economiche e sociali, esistono menti reali, con conoscenze reali e responsabilità reali. Insomma se c’è effettivamente e concretamente una mente che ha studiato, pensato, ragionato, valutato e bilanciato ciò che presenta.

Dunque la trasparenza per ciò che riguarda la scienza non è da dove viene un testo, ma da chi ne assume le responsabilità e da chi ne garantisce l’autenticità. Mi piacciono quei journal scientifici che nelle loro linee guida per gli autori ammettono sì la possibilità che il testo sia stato scritto con l’aiuto dell’AI, ma precisano subito dopo che la responsabilità resta in capo agli autori. Credo che sia la forma più bella di trasparenza.

Un paper firmato da un autore che non sa difenderne i metodi è problematico. lo era prima dell’AI, lo è a maggior ragione adesso che l’AI ha reso tutto più facile senza bisogno di aprire un libro. Un paper firmato da un esperto che ha usato l’assistenza AI e ha revisionato criticamente ogni riga è solido, indipendentemente dal suo stato di watermark. Lo strumento di trasparenza che conta in scienza non è un segnale statistico incorporato nelle distribuzioni dei token. È un autore nominato, un processo di revisione tra pari solido e giusto e l’obbligo etico — prima ancora che professionale — di stare dietro ogni affermazione che si presenta.

Tornando al watermark statistico

In conclusione, credo che sarebbe scorretto liquidare il sistema watermark come interamente inefficace. Così come sarebbe ingiusto non affermare che abbiamo bisogno di chiarezza sull’AI e su ciò che essa può produrre. È una tecnologia che si è diffusa così rapidamente e così su larga scala che non usarla significa non stare al passo con i tempi. Ma utilizzarla senza chiarezza è una macchina lanciata a velocità su una strada buia di notte e a fari spenti.

Un watermark applicato in modo coerente su tutti gli output del modello può fornire un audit trail utile in contesti dove non ci si aspetta manipolazione. Per questi scopi, lo strumento è adeguato. Ma il suo compito termina qui. Quello che non può fare è fornire una base affidabile per decisioni individuali ad alto rischio come rifiutare una pubblicazione scientifica, invalidare un dossier regolatorio, accusare un autore di disonestà accademica. I tassi di falsi positivi e falsi negativi di questi sistemi in sottopopolazioni specifiche sono poco conosciuti. La convergenza delle distribuzioni è una tendenza strutturale, non un problema di calibrazione risolvibile. E il segnale può essere rimosso da chiunque sia disposto a dedicare un pò di tempo a parafrasare.

Questo non significa che il problema sia irrisolvibile. Significa che la soluzione richiede un passaggio che finora non è stato fatto: testare lo strumento nelle condizioni in cui deve operare davvero. Quali sono i tassi di falso positivo su testi scientifici? Come si comporta il sistema su sezioni metodologiche altamente standardizzate? Quanto è stabile il segnale dopo una revisione editoriale? Sono domande a cui solo chi ha accesso al sistema può rispondere. Se i produttori di modelli AI sono disposti a condividere queste valutazioni, o meglio ancora, a svilupparle in collaborazione con chi lavora quotidianamente con testi scientifici, avremmo finalmente la base per capire dove questi strumenti funzionano e dove no. Dato l’alto valore della ricerca scientifica e della sua produzione, credo che valga la pena aprire questa conversazione.

Nota finale, per onestà intellettuale: questo articolo, che mette in discussione l’affidabilità del watermark AI, è stato revisionato da un sistema AI per controllare che non ci fossero errori di battitura, ripetizioni ed eventuali incongruenze. Cercate pure il watermark. Il rilevatore, quando arriverà, è avvisato. La responsabilità, come sempre, è mia.

«Dove comincia l’oro della storia

e dove ciò che essa respinge ai margini,

nel limbo dei reietti?»

Maria Luisa Spaziani, Transito con catene (1977)

Chi stabilisce cosa conta? Chi decide cosa merita di essere ricordato e cosa viene lasciato cadere nel silenzio? La poetessa Maria Luisa Spaziani pone questa domanda con la precisione di chi sa che non ha una risposta semplice. La storia ufficiale celebra, seleziona, costruisce narrazioni. E nel farlo, cancella. Cancella la sofferenza ordinaria, le vite comuni, cancella tutto ciò che non entra nel racconto del progresso. Il confine tra ciò che resta e ciò che svanisce non è mai neutro: è sempre una scelta, spesso invisibile, quasi sempre irreversibile.

In quegli stessi anni, Oriana Fallaci scriveva di Alekos Panagulis — intellettuale e rivoluzionario greco, poeta, ma più di tutto uomo che non sapeva fermarsi. Non stava rispondendo a Spaziani, non ne aveva l’intenzione. Eppure, rileggendo oggi quelle pagine, qualcosa risuona. Gli artisti e i poeti, scrive la Fallaci, rincorrono sempre qualcosa di nuovo, ricominciando daccapo con un’ostinazione che sembra incoerenza e invece è la forma più pura di coerenza. In quella descrizione c’è qualcosa che assomiglia a una risposta. Una risposta non cercata, non dichiarata, ma comunque presente: chi non si rassegna all’oblio, chi torna e cerca e dà voce a ciò che il racconto ufficiale ha lasciato cadere, sta facendo esattamente questo. Sta decidendo che qualcosa conta. E nel fare ciò il poeta o l’artista utilizza uno strumento apparentemente distante: il rigore.

«Non ne hanno il tempo, neanche la voglia, perché devono sempre rincorrere qualcosa di nuovo, ricominciare sempre daccapo, ancora ed ancora, con una incoerenza che a pensarci bene è straordinaria coerenza.»
Oriana Fallaci, Un uomo (1979)

Un rigore, profondo e ostinato come quello di un chimico o di un matematico. Ed è proprio questo rigore condiviso che ci permette di accostare due mondi che sembrano distanti: perché anche la scienza, a modo suo, si confronta con la stessa domanda della poetessa. La scienza dà la sua risposta con altri strumenti. Dietro ogni punto di una curva di sopravvivenza c’è qualcuno che ha aspettato una diagnosi, attraversato un trattamento, continuato a vivere o smesso di farlo. La curva trattiene queste storie nell’unica forma in cui la scienza riesce a tenerle insieme. Dà loro un posto sulla linea, non una voce. Salva i dati, ma perde le storie. Anche la misura, come la storia di Spaziani, decide cosa entra e cosa resta fuori. Anche lei, presa da sola, non basta.

Ed è qui che i due saperi – quello umanistico e quello scientifico – si trovano. Non come opposti che si compensano, ma come forme diverse dello stesso bisogno. Dove la misura ammutolisce, la parola riprende voce. Dove la parola non riesce ad arrivare, la misura riduce l’oblio: i dati non raccontano le vite dei singoli, ma ci dicono che quelle persone sono esistite, che in un determinato momento erano al mondo, che hanno lasciato una traccia anche quando il racconto non ce la fa ad arrivare fino a loro. Insieme rispondono alla domanda della Spaziani meglio di quanto ciascuno possa fare da solo: insieme decidono che qualcosa conta e che qualcosa non andrà perduto.

Eppure nel mondo reale continuiamo a raccontarci il contrario: la conoscenza umanistica e la conoscenza scientifica come due forme diverse di conoscenza. La scienza sarebbe il regno della freddezza, del metodo, della distanza, dell’oggettività che non si lascia toccare. Le discipline umanistiche sarebbero il regno opposto, quello del sentimento, dell’interpretazione, di tutto ciò che non si misura ma si sente nell’anima. Quasi che i due mondi siano espressione di due temperamenti diversi. Due fratelli dalla diversa indole. Due modi di stare nel mondo che si guardano con rispetto, ma da lontano, senza mai toccarsi ed in alcuni casi contrastandosi.

Ma è davvero così? C’è davvero un muro che distanzia la conoscenza umanistica da quella scientifica? Abbiamo imparato a vivere questa divisione a scuola, l’abbiamo respirata nell’università, l’abbiamo riprodotta nelle carriere. Come se la mente di ognuno di noi fosse già orientata verso una forma di conoscenza piuttosto che un’altra. Come se scegliere significasse rinunciare.

Ma chi ha studiato matematica sa che una dimostrazione può essere elegante o goffa, che due prove dello stesso teorema non sono equivalenti se una ha grazia e l’altra no.Hardy, uno dei più grandi matematici del Novecento, scrisse che non esiste posto permanente per la matematica brutta. E con ciò si riferiva alla matematica nel senso estetico, lo stesso senso con cui si afferma che una sinfonia è brutta. La bellezza in matematica non è ornamento: è indizio di verità. L’armonia non è in matematica un vezzo da matematici: è l’essenza stessa del ragionamento. Le equazioni più profonde hanno quasi sempre una forma che colpisce prima di essere capita. Le percepisci, le senti sulla pelle giuste prima di dimostrare che lo sono.

E chi lavora con la lingua, con i testi, con la storia, conosce bene il rigore che quel lavoro richiede. Una fonte va verificata. Un’attribuzione va provata. Un’interpretazione regge solo finché regge l’evidenza che la sostiene. Quando l’evidenza cambia, deve cambiare anche l’interpretazione. I poeti cercano la parola giusta con la stessa ostinazione con cui un chimico cerca l’equilibrio di una reazione. Il ritmo di una frase non è ornamento: è struttura, è senso, è logica anche quando sembra tutto illogico. La precisione con cui si legge un testo letterario non è diversa, nel metodo, da quella con cui si legge un protocollo.

Keplero cercava le leggi del moto planetario e cercava al contempo bellezza, come una sola entità, non come due mondi separati. Aveva un’idea estetica dell’universo che precedeva le equazioni e le orientava. Dante costruì la Commedia con una precisione cosmologica assoluta, e dentro quella struttura esatta fece stare tutto il peso dell’emozione umana: il terrore, la pietà, la speranza, la luce. Non si contraddicevano. Si sostenevano e si alimentavano a vicenda.

Non è che la scienza e l’umanesimo si compensino — come se uno avesse il caldo e l’altro il freddo, e insieme raggiungessero una temperatura accettabile. E non sono nemmeno le facce di una stessa medaglia. Sono un’unica grande forma di conoscenza, fatte della stessa materia. Il rigore non appartiene alla scienza: appartiene alla conoscenza. La bellezza non appartiene all’arte: appartiene alla conoscenza. Il sentimento — quel sentire che attribuiamo per abitudine alle sole discipline umanistiche — non è ciò che manca al metodo scientifico né un privilegio della sensibilità letteraria: è la condizione perché qualunque ricerca abbia senso.

Ed in questo contesto la curva di sopravvivenza smette di essere un grafico su un foglio e diviene conoscenza nel senso più alto del termine. La misura ha salvato quelle storie dall’oblio — ha dato loro un posto, una forma, una presenza nel sapere, anche se non riesce a restituirle intere con i loro vissuti. È a questo punto che la parola reclama la sua parte: è la parola — la poesia, la letteratura, qualunque linguaggio che sappia stare dentro l’esperienza umana — a fare quel secondo gesto: dare voce a ciò che i numeri trattengono in silenzio. Non si sostituiscono. Si completano. Insieme fanno ciò che né l’una né l’altra riesce a fare da sola: tenere insieme la misura e il senso, il dato e la vita che quel dato conteneva.

I saperi non si integrano. Si riconoscono come parti di qualcosa che non è mai stato diviso, che è rimasto intero anche mentre noi costruivamo i corridoi. La distanza tra la formula e la poesia è molto più corta di quanto ci abbiano insegnato. Forse non è mai esistita. Forse era solo il tempo che ci mettevamo a vederle per quello che sono: la stessa cosa.

C’è un errore che quasi tutti commettono quando interpretano il risultato di un test diagnostico. Non è un errore di distrazione o di incompetenza. È un errore strutturale, radicato nel modo in cui il cervello umano elabora le probabilità. E ciò che più sorprende è che tale errore viene indotto anche in chi lavora ogni giorno con i test diagnostici. È un errore diffuso tra specialisti e ricercatori e finanche tra persone che hanno studiato statistica per anni e che, messe davanti a un problema formulato nel modo giusto, sbagliano con una sicurezza che non lascia spazio al dubbio.

L’errore ha un nome:base rate neglect. Si tratta della tendenza sistematica a ignorare la prevalenza di una condizione — il cosiddetto tasso di base — quando si valuta il significato di un risultato positivo a un test. Questo, sebbene possa apparire come una curiosità da laboratorio di psicologia cognitiva, è un problema che si presenta ogni giorno, in ogni reparto, in ogni ambulatorio, ogni volta che un clinico guarda un referto e si chiede: questo paziente è davvero malato?

Il problema dei taxi

Prima di entrare nella clinica, vale la pena partire dall’esperimento che ha reso celebre questo fenomeno. Lo proposero Daniel Kahneman e Amos Tversky alla fine degli anni Settanta e da allora è diventato uno dei problemi più citati nella letteratura sulla cognizione umana1.

La formulazione è questa. In una città circolano due compagnie di taxi: l’85 per cento dei taxi è verde e il 15 per cento è blu. Di notte, un testimone assiste a un incidente con fuga. Il testimone identifica il taxi come blu. Test indipendenti hanno dimostrato che, in condizioni notturne, il testimone identifica correttamente il colore dei taxi l’80 per cento delle volte. Domanda: qual è la probabilità che il taxi coinvolto nell’incidente fosse effettivamente blu?

La risposta istintiva della maggior parte delle persone è 80 per cento. Il testimone ha ragione: nell’80 per cento delle volte ha indicato blu, quindi il taxi è blu con probabilità dell’80 per cento. Sembra logico. Ma è sbagliato.

La risposta corretta è circa il 41 per cento, non l’80 per cento. Dunque la probabilità che il taxi sia blu è meno della metà. Questo significa che, nonostante il testimone dica blu e nonostante sia affidabile l’80 per cento delle volte, è più probabile che il taxi fosse verde.

Ma com’è possibile? Ragionamoci. Nella città i taxi verdi sono la stragrande maggioranza (85 per cento). Questo significa che anche in presenza di un testimone ragionevolmente affidabile, il numero assoluto di volte in cui il testimone sbaglia identificando un taxi verde come blu è superiore al numero di volte in cui identifica correttamente un taxi blu. I taxi verdi sono talmente tanti che anche un errore raro, ad esempio il 20 per cento delle volte, produce un numero elevato di false identificazioni blu. La prevalenza dei taxi verdi schiaccia l’accuratezza del testimone.

Ed è esattamente qui che scatta ilbase rate neglect. La mente si aggrappa al dato più vivido — il testimone dice blu, il testimone è affidabile — e ignora il dato di fondo: quanto sono rari i taxi blu in quella città. Non lo ignora per pigrizia. Lo ignora perché il cervello non è fatto per integrare spontaneamente le probabilità a priori con le evidenze contingenti. È un difetto di fabbrica, non un difetto di formazione.

Dalla strada al reparto

Adesso spostiamoci in un contesto dove l’errore ha conseguenze molto più gravi. Un ospedale decide di sottoporre a screening tutti i dipendenti per una malattia rara. La malattia ha una prevalenza dello 0.1 per cento, dunque un caso ogni mille persone. Il test utilizzato ha una sensibilità del 99 per cento (i.e., identifica correttamente il 99 per cento dei malati, e una specificità del 99 per cento (i.e., identifica correttamente il 99 per cento dei sani). È un test eccellente: sulla carta è quasi perfetto.

Un dipendente risulta positivo. Il medico del lavoro gli comunica il risultato. Il dipendente chiede: “Dottore, allora sono malato?”. Il medico, ragionevolmente, pensa: “Il test ha una specificità del 99 per cento, quindi l’errore è minimo. È quasi certo che sia malato”.

Ma facciamo i conti. Su 100.000 dipendenti, un caso ogni mille significa 100 malati e 99.900 sani. Il test identifica correttamente 99 dei 100 malati: 99 veri positivi. Ma il test non sbaglia solo sui malati, sbaglia anche sull’1 per cento dei 99.900 sani; dunque ci sono 999 falsi positivi. Totale dei positivi: 99 + 999 = 1.098. Di questi 1.098 positivi, solo 99 sono realmente malati. Questo fa sì che la probabilità di essere davvero malati dato un risultato positivo, valore conosciuto anche come valore predittivo positivo, è 99 su 1.098, ossia circa il 9 per cento.

Significa che su dieci dipendenti che ricevono un risultato positivo, più di nove non hanno la malattia. Un test con sensibilità e specificità del 99 per cento, applicato a una malattia con prevalenza dello 0.1 per cento, produce un valore predittivo positivo di appena il 9 per cento. E il medico che comunica il risultato come una quasi certezza sta commettendo esattamente ilbase rate neglect: sta ignorando la prevalenza e si sta fidando del test.

La matematica dietro l’intuizione sbagliata

Il teorema che governa tutto questo ragionamento si chiamateorema di Bayes, dal nome del reverendo Thomas Bayes che lo formulò nel Settecento. Non è una formula complicata, ma è una formula profondamente controintuitiva, perché costringe a fare qualcosa che il cervello rifiuta di fare spontaneamente: aggiornare una credenza alla luce di un’evidenza tenendo conto di quanto quella credenza fosse plausibile prima dell’evidenza.

Il teorema afferma che la probabilità di avere la malattia dopo un test positivo non dipende solo dall’accuratezza del test. Dipende dal prodotto tra l’accuratezza del test e la probabilità a priori di avere la malattia, diviso per la probabilità complessiva di risultare positivi,probabilità quest’ultima che include sia i veri positivi sia i falsi positivi. Quando la malattia è rara, la probabilità a priori è molto bassa, e questo termine al numeratore schiaccia tutto il resto. L’accuratezza del test, per quanto alta, non riesce a compensare la rarità della condizione.

Questo significa che un test accurato è utile quanto la condizione che cerca è frequente. Quando la condizione è rara, anche un test eccellente produce più falsi positivi che veri positivi in termini assoluti  e ciò non perché il test sia cattivo, ma perché il gruppo dei sani è enormemente più grande del gruppo dei malati e dunque, anche un errore piccolo su un gruppo grande genera un numero elevato di falsi allarmi.

Le conseguenze nella pratica clinica

Ilbase rate neglectnon è un problema astratto. Ha conseguenze cliniche misurabili. Ogni falso positivo è un paziente che riceve una comunicazione angosciante, che viene sottoposto a esami di approfondimento — a volte invasivi, costosi e a loro volta portatori di rischi — e che vive settimane o mesi di incertezza prima di scoprire che non ha nulla. In oncologia, i programmi di screening su popolazioni a basso rischio producono sistematicamente un eccesso di falsi positivi che genera cascate diagnostiche: biopsie, interventi chirurgici, trattamenti su lesioni che non sarebbero mai diventate clinicamente rilevanti. Il fenomeno è noto come sovradiagnosi ed ilbase rate neglectè una delle sue radici cognitive.

Ma le conseguenze non si limitano allo screening. Ogni volta che un clinico ordina un test senza avere una ragione clinica forte per sospettare la malattia — un test «tanto per escludere», un test «di routine», un test richiesto per completezza — sta applicando il test a una popolazione a bassa prevalenza ed il valore predittivo positivo crolla. È il motivo per cui la medicina basata sull’evidenza insiste sulla probabilità pre-test: prima di ordinare un esame, bisogna chiedersi quanto è plausibile che il paziente abbia la condizione cercata. Se la risposta è «molto poco», il test non serve quasi a nulla non perché sia inaccurato, ma perché anche la sua accuratezza non basta a vincere la matematica della prevalenza.

Perché i medici a volte sbagliano

L’aspetto più studiato delbase rate neglectè la sua persistenza tra i professionisti sanitari. Diversi studi — a partire dai lavori pioneristici di David Eddy negli anni Ottanta2e proseguendo con le ricerche di Gerd Gigerenzer negli anni Duemila3— hanno documentato che la maggioranza dei medici sovrastima drammaticamente il valore predittivo positivo quando viene chiesto di interpretare un risultato di screening. In uno studio del 2007, Gigerenzer e colleghi sottoposero a 160 ginecologi tedeschi un problema con dati realistici sulla mammografia: prevalenza dell’1 per cento, sensibilità del 90 per cento, tasso di falsi positivi del 9 per cento. La stima più frequente tra i medici era intorno al 90 per cento, con risposte che variavano dall’1 al 90 per cento. Circa l’80 per cento dei ginecologi non comprendeva il valore predittivo positivo. Il valore corretto era circa il 9 per cento.

La ragione non è che i medici non conoscano il teorema di Bayes. Molti lo conoscono, almeno nella forma scolastica. Il problema è che la presentazione standard delle informazioni — sensibilità e specificità espresse come percentuali — non è il formato in cui il cervello umano elabora bene le probabilità. Gigerenzer ha dimostrato che quando le stesse informazioni vengono presentate in frequenze naturali del tipo “su 1.000 donne sottoposte a mammografia, 10 hanno il cancro, di queste 10 il test ne trova 9, delle 990 sane il test ne classifica erroneamente circa 89 come positive”4, la percentuale di risposte corrette sale drasticamente. Non perché il problema sia diventato più facile. Ma perché il formato rende visibile ciò che le percentuali nascondono: il rapporto tra il numero assoluto di veri positivi e il numero assoluto di falsi positivi.

La lezione metodologica

Ilbase rate neglectinsegna qualcosa che va oltre la diagnostica. Insegna che la performance di uno strumento — qualsiasi strumento, non solo un test clinico — non si valuta in astratto ma nel contesto in cui viene applicato. Un test con sensibilità del 99 per cento è uno strumento diverso quando viene usato in un reparto di malattie infettive durante un’epidemia e quando viene usato come screening su una popolazione generale sana. I numeri del test sono gli stessi. La prevalenza è diversa. E la prevalenza cambia tutto.

Questo principio si applica identicamente ai modelli predittivi, agli algoritmi di machine learning, ai biomarcatori. Un modello che classifica correttamente il 95 per cento dei casi in un dataset bilanciato avrà un valore predittivo positivo molto diverso quando viene applicato a una popolazione in cui l’evento è raro. La tentazione di valutare un classificatore solo sulla base di sensibilità e specificità, o delle loro controparti nel machine learning, recall e precision sul dataset di sviluppo, è esattamente la stessa trappola cognitiva delbase rate neglectapplicata alla valutazione dei modelli.

Il base rate neglect non è un errore che si corregge con l’esperienza. È un errore che si corregge con la consapevolezza.Sapere che esiste non basta a evitarlo — Kahneman ha scritto in più occasioni che conoscere un bias cognitivo non protegge dal commetterlo — ma sapere che esiste permette di costruire procedure che lo prevengano: calcolare il valore predittivo positivo prima di comunicare un risultato, presentare le informazioni in frequenze naturali anziché in percentuali, valutare sempre la probabilità pre-test prima di ordinare un esame. Sono abitudini semplici. Ma richiedono di accettare qualcosa che il cervello non accetta volentieri: che un test quasi perfetto, applicato a una condizione sufficientemente rara, sbaglia quasi sempre.

Riferimenti

  1. Tversky A, Kahneman D. Evidential impact of base rates. In: Kahneman D, Slovic P, Tversky A, editors.Judgment Under Uncertainty: Heuristics and Biases. Cambridge: Cambridge University Press; 1982. p. 153–160.↩︎
  2. Eddy DM. Probabilistic reasoning in clinical medicine: Problems and opportunities. In: Kahneman D, Slovic P, Tversky A, editors.Judgment Under Uncertainty: Heuristics and Biases. Cambridge: Cambridge University Press; 1982. p. 249–267. doi:10.1017/CBO9780511809477.019↩︎
  3. Gigerenzer G, Gaissmaier W, Kurz-Milcke E, Schwartz LM, Woloshin S. Helping doctors and patients make sense of health statistics.Psychological Science in the Public Interest. 2007;8(2):53–96. doi:10.1111/j.1539-6053.2008.00033.x↩︎
  4. Gigerenzer G, Hoffrage U. How to improve Bayesian reasoning without instruction: Frequency formats.Psychological Review. 1995;102(4):684–704. doi:10.1037/0033-295x.102.4.684↩︎

Negli ultimi anni, le applicazioni di intelligenza artificiale in sanità hanno attraversato una trasformazione strutturale silenziosa ma profonda. Per quasi un decennio, il paradigma dominante è stato quello del modello predittivo: un sistema addestrato su dati retrospettivi per produrre un singolo output probabilistico — uno score di rischio, una classificazione diagnostica, un alert di deterioramento — che un clinico poteva accettare, rifiutare o ignorare. Attorno a questo paradigma è stata costruita un’infrastruttura metodologica sofisticata: linee guida per il reporting, strumenti di valutazione della qualità, framework per i trial clinici. Questa infrastruttura funziona per la classe di sistemi per cui è stata progettata.

Quella classe di sistemi non è più la frontiera.

I sistemi di nuova generazione non producono raccomandazioni per il clinico. Eseguono azioni. E questa differenza non è di grado, ma categorica.

Una nuova generazione di sistemi di IA clinica esegue sequenze di azioni cliniche — raccogliendo l’anamnesi del paziente, ordinando ed interpretando esami diagnostici, generando diagnosi differenziali, prescrivendo farmaci, raccomandando il ricovero o la dimissione — all’interno di un singolo incontro clinico, utilizzando interfacce strutturate con i sistemi di cartella clinica elettronica (EHR) e operando con un intervento umano minimo o nullo a livello di singola azione. Quello che Zou e Topol hanno definito “agentic AI teammates in medicine” — compagni di squadra autonomi in medicina1.

L’evidenza empirica di questo cambiamento è ormai sostanziale. Un agente autonomo operante in un ambiente EHR controllato ha navigato oltre 85.000 opzioni decisionali cliniche attraverso otto categorie diagnostiche, raggiungendo un’accuratezza diagnostica equivalente o superiore a quella di medici certificati per tutte le diagnosi valutate, incluso il carcinoma pancreatico2. Benchmark indipendenti con architettura multi-agente in ambienti simulati hanno replicato e ampliato questi risultati in contesti oncologici3e multimodali4. Un benchmark EHR virtuale con 300 task clinici derivati — recupero di informazioni, ordine di esami, esecuzione di ordini farmacologici attraverso interfacce FHIR — ha rilevato che anche il modello migliore raggiunge meno del 70% di successo5.

La frontiera empirica si è spostata. Quella metodologica no.

Tre problemi strutturali

Il divario non è incidentale. Esso riflette un disallineamento strutturale tra la classe di sistemi per cui i framework esistenti sono progettati e la classe di sistemi che viene ora valutata. Questo disallineamento ha tre dimensioni specifiche.

Il problema dello standard di riferimento

La validazione dei modelli predittivi richiede uno standard di riferimento — una diagnosi istologica, un esito confermato in laboratorio, un’etichetta clinica condivisa — rispetto al quale confrontare le previsioni. Per gli agenti autonomi, nessun equivalente esiste. La sequenza di azioni che un agente dovrebbe produrre non ha una risposta corretta univoca: esistono molteplici percorsi diagnostici e terapeutici validi per la stessa presentazione clinica, e i medici variano sostanzialmente nelle loro scelte di esami, diagnosi differenziali e trattamenti, raggiungendo comunque esiti equivalenti per il paziente.

Confrontare le sequenze di azioni degli agenti con i dati EHR storici — come fanno diversi benchmark attuali — misura la fedeltà alla pratica passata, non l’appropriatezza clinica. Non è un problema tecnico che dati migliori possono risolvere; è un problema concettuale che richiede nuovi approcci alla definizione di cosa significhi performance corretta per un sistema di decision-making sequenziale.

Il problema dei failure mode

La tassonomia di errore dei modelli predittivi — falsi positivi, falsi negativi, miscalibrazione, distributional shift — non cattura i modi in cui gli agenti autonomi falliscono. Tre categorie di errore sono specifiche dei sistemi agentici e sono state documentate empiricamente6:

  • Action hallucination:la generazione di azioni strutturalmente valide ma clinicamente controindicate, che possono essere eseguite prima che avvenga una revisione umana.
  • Compounding error cascades:un errore iniziale plausibile che si propaga attraverso i passi successivi, ciascuno localmente coerente ma collettivamente dannoso — un pattern invisibile alle metriche di accuratezza finale.
  • Action-policy drift:cambiamenti nella strategia decisionale dell’agente quando il modello sottostante viene aggiornato, producendo variazioni comportamentali rilevabili solo attraverso la revisione delle trace individuali, non attraverso il monitoraggio aggregato delle performance.

Nessuno di questi failure mode è catturato da AUROC, calibration slope o Brier score. Nessuno è affrontato dalle linee guida di valutazione esistenti per i modelli predittivi, tra cui TRIPOD+AI7e DECIDE-AI8.

Il problema della supervisione umana

I framework regolatori esistenti — incluso il Regolamento (UE) 2024/1689 — AI Act, Art. 149— richiedono supervisione umana per i sistemi AI ad alto rischio. Per i sistemi di supporto decisionale che producono raccomandazioni, questo requisito ha un’interpretazione operativa chiara: il clinico rivede l’output prima di agire. Per gli agenti autonomi che eseguono sequenze di azioni negli ambienti EHR, l’interpretazione operativa non è né ovvia né standardizzata. A che livello di granularità opera la supervisione attraverso un workflow clinico multifase? Quali categorie di azioni richiedono autorizzazione in tempo reale versus revisione post-hoc? La letteratura empirica ha affrontato queste domande in modo inconsistente, senza alcuna base per il confronto tra studi.

ARIA: una proposta metodologica

Una rassegna sistematica di 43 studi sugli agenti AI in sanità ha concluso che l’innovazione tecnica sta superando l’istituzione di framework di governance, senza metriche di valutazione standardizzate tra i diversi deployment10. Una seconda rassegna indipendente ha confermato che la maggior parte delle valutazioni di IA agentica rimane esplorativa e priva di validazione clinica robusta11. La necessità di nuovi framework specifici per gli agenti autonomi è stata identificata ripetutamente ma non affrontata.

ARIA — Agentic Reasoning and Integrity Assessment — è una proposta metodologica strutturata in sei domini per la valutazione clinica prospettica degli agenti AI autonomi. Non è un documento regolatorio né uno standard definitivo: è un’architettura metodologica che rende i requisiti di valutazione abbastanza concreti da essere implementati, testati, criticati e raffinati. Ogni dominio risponde direttamente a una delle discontinuità strutturali identificate sopra.

ARIA non è un’autorizzazione al deployment. È il prerequisito per poterlo giustificare con l’evidenza.

Dominio 1. Caratterizzazione dello Spazio di Azione (ASC)

Nessuna valutazione rigorosa di un agente autonomo può essere progettata senza una specifica preventiva e completa di cosa l’agente può fare. ASC richiede la documentazione di ogni strumento che l’agente può invocare, di ogni sistema di codifica a cui i suoi output devono conformarsi (ICD, LOINC, SNOMED-CT, RxNorm, versione FHIR), e del meccanismo tecnico attraverso cui vengono prevenuti gli output invalidi. A differenza dei modelli predittivi, dove la specifica dei predittori è statica, lo spazio di azione agentico è dinamico: le opzioni valide a ciascun passo dipendono dai risultati dei passi precedenti.

Dominio 2. Valutazione della Performance Sequenziale (SPE)

SPE richiede la pre-registrazione delle metriche di valutazione prima della raccolta dei dati — importando il principio dei trial clinici degli endpoint pre-specificati in un campo dove ogni pubblicazione attualmente definisce le proprie metriche post-hoc. Le metriche devono catturare il comportamento dell’agente lungo almeno quattro dimensioni: appropriatezza della traiettoria (sequenza clinicamente coerente dall’inizio alla fine), efficienza delle azioni (selezione necessaria senza over- o under-ordering), rilevamento degli errori a cascata, e accuratezza dello stato finale. Quest’ultima, da sola, è necessaria ma insufficiente: mascherera pattern di errore strutturalmente distinti e non fornisce alcuna base per la correzione mirata.

Dominio 3.Tassonomia dei Failure Mode e Safety Screening (FTS)

FTS operazionalizza la tassonomia di errore specifica degli agenti e richiede tre componenti prima dell’inizio della valutazione clinica: documentazione del meccanismo di prevenzione dell’action hallucination con evidenza della sua efficacia; testing di robustezza a cascata tramite valutazione avversariale con errori impiantati nelle fasi iniziali; e screening sistematico della sicurezza per gli agenti con capacità prescrittiva, inclusa la valutazione delle interazioni farmacologiche, della dosificazione renale, dei conflitti con allergie e della prescrizione a rischio QT.

Dominio 4. Specifica dell’Architettura di Supervisione Umana (HOA)

HOA richiede la documentazione prospettica di cinque elementi: il livello di supervisione (piena, parziale, o post-hoc); quali categorie di azioni richiedono autorizzazione in tempo reale versus esecuzione autonoma; il meccanismo con cui i clinici possono interrompere, sovrascrivere o interrogare l’agente; i requisiti di formazione per i clinici valutatori; e la mappatura esplicita tra il livello di supervisione in valutazione e quello previsto per il deployment. Una valutazione condotta sotto supervisione piena non valida un deployment sotto supervisione parziale.

Dominio 5. Valutazione della Compatibilità con l’Ambiente di Deployment (DEFA)

DEFA è la controparte agentica della valutazione della rappresentatività della popolazione nella validazione dei modelli predittivi, ma strutturalmente più ampia. Richiede la valutazione lungo quattro dimensioni: allineamento della popolazione di pazienti, pattern di pratica istituzionale, compatibilità dell’infrastruttura EHR (standard di codifica, versione FHIR, architettura API), e allineamento dello scope di azione (se alcune categorie di azioni dell’agente ricadono al di fuori dello scope pratico del deployer previsto).

Dominio 6. Protocollo di Sorveglianza Comportamentale Prospettica (PBS)

PBS trasforma il monitoraggio post-deployment da quality assurance reattiva in un protocollo di sorveglianza pre-specificato progettato prima dell’inizio del deployment. A differenza del calibration drift nei modelli predittivi — rilevabile attraverso metriche scalari aggregate — l’action-policy drift negli agenti autonomi richiede la revisione a livello di trace delle singole encounter cliniche. PBS deve specificare: frequenza e metodologia di campionamento per la revisione delle action trace; soglie quantitative per la sospensione del deployment; meccanismi di rilevamento del drift per gli aggiornamenti del modello; e cattura sistematica delle sovrascritture dei clinici come segnale di sorveglianza prospettica. Approcci per la simulazione di ambienti clinici dinamici a supporto di questo monitoraggio sono stati proposti in letteratura12,13.

Nota importante

ARIA è un framework per la valutazione, non un’autorizzazione al deployment. Soddisfare i suoi domini è una condizione necessaria per comprendere se un sistema è sicuro da deployare, non una condizione sufficiente per deployarlo. La supervisione umana rimane un requisito non negoziabile a ogni fase della valutazione, indipendentemente dal livello di performance che un agente dimostra.

Ad oggi, nessun agente AI clinico autonomo è stato deployato in un contesto clinico regolamentato senza supervisione umana. ARIA non è una risposta a una crisi già in corso: è una preparazione metodologica per una transizione che la letteratura empirica indica come imminente, e per cui il campo non è ancora attrezzato.

Conclusioni

Gli agenti AI clinici autonomi non sono modelli predittivi migliori. Sono una classe categoricamente diversa di sistemi — non perché usino algoritmi diversi, ma perché fanno cose diverse: eseguono sequenze di azioni anziché produrre singoli output, interagiscono con ambienti EHR reali anziché elaborare dataset strutturati, e falliscono in modi che non hanno analogia nella modellazione predittiva.

L’infrastruttura metodologica disponibile per la loro valutazione non è stata progettata per loro. Il compito non è estendere i framework esistenti in modo incrementale, perché le incompatibilità strutturali sono fondamentali. È costruire, dalle fondamenta, un’architettura metodologica calibrata sulle proprietà specifiche dei sistemi AI sequenziali, multistep, integrati con gli EHR.

La frontiera empirica si è spostata. Quella metodologica no. Questo lavoro inizia a colmare il divario. Questo lavoro è necessario adesso — prima che il gap tra capability dimostrata e sicurezza dimostrata diventi una condizione accettata per il deployment clinico.

Reference

  1. Zou J, Topol EJ. The rise of agentic AI teammates in medicine. Lancet. 2025;405:457.↩︎
  2. Ferber D, et al. Towards autonomous medical artificial intelligence agents. Nature. 2026. doi:10.1038/s41586-026-10675-5↩︎
  3. Ferber D, et al. Development and validation of an autonomous AI agent for clinical decision-making in oncology. Nature Cancer. 2025;6:1337–1349.↩︎
  4. Schmidgall S, et al. AgentClinic: a multimodal benchmark for tool-using clinical AI agents. npj Digital Medicine. 2026;9:499.↩︎
  5. Jiang Y, et al. MedAgentBench: a virtual EHR environment to benchmark medical LLM agents. NEJM AI. 2025;2:AIdbp2500144.↩︎
  6. Qiu J, et al. LLM-based agentic systems in medicine and healthcare. Nature Machine Intelligence. 2024;6:1418–1420.↩︎
  7. Collins GS, et al. TRIPOD+AI statement. BMJ. 2024;385:e078378.↩︎
  8. Vasey B, et al. DECIDE-AI reporting guideline. Nature Medicine. 2022;28(5):924–933.↩︎
  9. Regolamento (UE) 2024/1689 — AI Act. Gazzetta ufficiale dell’Unione europea.↩︎
  10. Njei B, et al. Artificial intelligence agents in healthcare research: a scoping review. PLoS One. 2026;21(2):e0342182.↩︎
  11. Collaco BG, et al. The role of agentic AI in healthcare: a scoping review. npj Digital Medicine. 2026;9:345.↩︎
  12. Luo L, et al. A clinical environment simulator for dynamic AI evaluation. Nat Med. 2026;32:820–827.↩︎
  13. Nori H, et al. Sequential diagnosis with language models. arXiv:2506.22405. 2025.↩︎

Parigi, 1903. Una donna entra nell’Académie des Sciencescome ospite. Non è un membro dell’Académie, benché abbia ricevuto pochi mesi prima, insieme al marito Pierre, il Premio Nobel per la Fisica, il riconoscimento più alto della scienza mondiale. Le donne non hanno accesso all’Académie come membri: neanche lei, Maria Skłodowska Curie, ha diritto di sedere in quella sala se non come ospite.

Penso che non esista un’immagine più nitida di questa per raccontare la vita di Marie Curie: essere al centro e all’esterno del mondo scientifico allo stesso tempo. Accettata dalla natura, respinta dagli uomini. Ascoltata dai dati, ignorata dalle istituzioni. Una tensione mai risolta, ma a cui la non rassegnazione di Marie dà il senso più profondo del suo lavoro e della sua eredità.

Anche Marie è una particella dal comportamento strano, come le sue particelle. I fisici dell’epoca sapevano che certe sostanze emettevano radiazioni, ma non riuscivano a spiegare perché. L’energia sembrava provenire dal nulla, in violazione di ogni principio conservativo conosciuto. Marie Curie non si fermò all’anomalia: la studiò, la misurò, la nominò. Chiamò quel comportamento radioattività. E in quella parola — nata dalla volontà di dare un nome preciso a ciò che il sistema non sapeva ancora leggere — c’è già tutta la cifra del suo metodo: osservare senza pregiudizi, descrivere con rigore, resistere all’impulso di ignorare ciò che non si capisce ancora. Lei stessa era così: un’anomalia che il sistema non sapeva dove mettere. Troppo brillante per essere ignorata, troppo donna per essere accettata. Come il radio, emetteva un’energia che nessuna categoria dell’epoca riusciva a contenere.

«Nella vita non c’è niente da temere, solo da capire.»

Marie Curie

La scienza come territorio sottratto

Nata a Varsavia nel 1867, in una Polonia che non esisteva più come stato da quasi un secolo — divisa tra Russia, Prussia e Austria dopo le partizioni fine Settecento — Maria Skłodowska crebbe in un paese senza confini riconosciuti e senza il diritto di insegnare nella propria lingua. La Russia zarista che controllava Varsavia aveva una politica precisa: russificare l’istruzione, cancellare il polacco dalle aule, scoraggiare qualsiasi forma di cultura nazionale. In questo contesto, studiare, inteso come studiare davvero, non seguire il curriculum imposto, era già un atto di disobbedienza.

Marie lo capì presto. Il padre era insegnante di matematica e fisica. In casa i libri circolavano anche quando era pericoloso tenerli. Quando l’università di Varsavia chiuse le porte alle donne, lei si iscrisse all’Università Volante: una rete clandestina di lezioni tenute in appartamenti privati, che cambiavano sede continuamente per sfuggire alla polizia zarista. Le studentesse entravano a piccoli gruppi, a orari diversi, senza dare nell’occhio. I professori insegnavano gratis, per convinzione. Erano corsi di filosofia, letteratura, scienze naturali: tutto quello insomma che il sistema ufficiale negava.

Tuttavia studiare in Polonia non bastava. Per diventare scienziata sul serio serviva un’università vera, ma le università vere erano altrove. Marie e sua sorella Bronisława — Bronia, come la chiamava — strinsero un patto che dice molto su entrambe: Marie avrebbe lavorato come istitutrice di famiglie benestanti per finanziare gli studi di medicina di Bronia a Parigi. Una volta laureata e sistemata, Bronia avrebbe ricambiato, sostenendo Maria mentre studiava a sua volta. Fu un accordo di anni, onorato da entrambe fino in fondo. Marie lavorò come istitutrice per quasi sei anni, in case di campagna lontane da Varsavia, mandando i soldi alla sorella e studiando da sola la sera, con i libri che riusciva a procurarsi.

Arrivò a Parigi nel 1891, a ventiquattro anni. Si iscrisse alla Sorbona — una delle pochissime donne in un ambiente quasi interamente maschile — e trovò una mansarda nel Quartiere Latino, senza riscaldamento, con i soldi appena sufficienti per pagare l’affitto. D’inverno per dormire, indossava tutti i vestiti che aveva. A volte non mangiava abbastanza. Conseguì la laurea in fisica nel 1893 — prima della sua classe — e quella in matematica l’anno successivo. Prima donna in entrambe le discipline.

La radioattività

Nel 1894 Marie incontrò Pierre Curie, presentata da un collega fisico che pensava potessero avere interessi di ricerca comuni. Ne aveva ragione. Pierre era già uno scienziato affermato, noto per i suoi studi sulla piezoelettricità e sul magnetismo. Marie era una studentessa straniera con due lauree e nessun laboratorio. Eppure si riconobbero immediatamente come pari: una cosa rara, per l’epoca, tra un uomo e una donna in ambito scientifico. Si sposarono nel 1895, in una cerimonia civile senza anelli e senza abito bianco: Marie comprò un vestito blu scuro, pratico, che potesse indossare anche in laboratorio.

Lavorarono insieme fin dall’inizio, ma il progetto sulla radioattività fu essenzialmente suo. Nel 1896, Henri Becquerel aveva scoperto che i sali di uranio emettevano spontaneamente una forma di radiazione capace di impressionare le lastre fotografiche anche al buio. Non capiva perché. Nessuno capiva perché. Marie decise che quella sarebbe stata la sua tesi di dottorato e che avrebbe trovato una risposta.

Il laboratorio a disposizione era un capannone adiacente all’École de Physique et de Chimie, dove Pierre insegnava. Non aveva riscaldamento adeguato, quando pioveva l’acqua piovana si infiltrava ed era così mal ventilato che in estate diventava insopportabile. Era, scrisse lei stessa, “una stalla o una cantina”. Ma fu lì, in quel posto freddo d’inverso e troppo caldo d’estate che trascorse anni a lavorare, in piedi, per ore, davanti agli strumenti di misura, con le mani che cominciavano a scottarsi senza che capisse ancora perché.

Il metodo che sviluppò fu elegante e preciso. Invece di osservare le radiazioni fotograficamente — come faceva Becquerel — mise a punto un sistema di misurazione elettrica: le radiazioni ionizzano l’aria e l’aria ionizzata conduce elettricità. Misurando quella conduttività con strumenti che Pierre aveva contribuito a perfezionare, Marie riusciva a quantificare l’intensità della radiazione con una precisione fino ad allora impossibile. Fu con questo metodo che fece la prima osservazione davvero sorprendente: la pechblenda (uranite), un minerale di uranio, era molto più radioattiva dell’uranio puro che conteneva. Qualcosa in questo minerale emetteva radiazioni aggiuntive. Qualcosa di sconosciuto.

Quella anomalia poteva essere ignorata, attribuita a un errore di misura, a una contaminazione, a qualche possibile effetto secondario. Marie non la ignorò. Concluse che la pechblenda doveva contenere uno o più elementi ancora non scoperti, più radioattivi dell’uranio. Conclusione audace, quasi inverosimile: la tavola periodica di Mendeleev era considerata sostanzialmente completa. Trovare un nuovo elemento era un’impresa rarissima.

Ebbene, Marie ne trovò non uno, ma due. Il polonio, isolato nel luglio 1898 e chiamato così in onore della Polonia occupata: un gesto che non era nostalgia, ma rivendicazione, un modo per dare esistenza scientifica a un paese che la politica aveva cancellato dalla mappa. E il radio, annunciato nel dicembre dello stesso anno, insieme a Pierre e al chimico Gustave Bémont. Il radio era straordinario: emetteva una luce bluastra visibile al buio, scaldava l’aria intorno a sé e la sua radioattività era milioni di volte superiore a quella dell’uranio.

Isolare il radio in quantità sufficienti per studiarlo richiese quattro anni di lavoro brutale. Marie e Pierre lavorarono su tonnellate di residui di pechblenda — il minerale grezzo, dopo che l’uranio era già stato estratto per uso industriale — cercando di concentrare una sostanza presente in proporzioni infinitesimali. Marie si occupava della parte chimica: macinare, sciogliere, filtrare, cristallizzare, ricominciare. Pierre misurava la radioattività dei campioni a ogni stadio della purificazione. Nel 1902 Marie ottenne un decimo di grammo di cloruro di radio puro, sufficiente per determinarne il peso atomico.

Nel 1903 arrivò il dottorato: la sua commissione d’esame la definì la tesi di dottorato più importante mai presentata in Francia. Pochi mesi dopo arrivò il Premio Nobel per la Fisica, condiviso con Pierre e con Becquerel. Marie divenne la prima donna nella storia a ricevere il riconoscimento. Non andarono a Stoccolma a ritirarlo: erano oberati dagli impegni didattici, Marie non era ancora completamente guarita da una malattia estiva, e Pierre detestava il clamore pubblico. Andarono a ritirare il premio solo nel giugno del 1905.

Pierre morì nel 1906, investito da un carro trainato da cavalli mentre attraversava una strada a Parigi sotto la pioggia. Marie aveva trentotto anni. La Sorbona le offrì la cattedra di Pierre: fu la prima donna a occupare una cattedra universitaria in Francia. Continuò a lavorare.

Nel 1911 ricevette il secondo Nobel, questa volta per la Chimica, per la scoperta e l’isolamento del radio e del polonio: prima e unica persona nella storia a vincere il riconoscimento in due discipline diverse. In quello stesso anno, l’Académie des sciences di Parigi la rifiutò come membro per due voti, in un’elezione a doppio scrutinio.

Il mondo la celebrava, ma la sua accademia di riferimento la escludeva. Non presentò mai più la sua candidatura. Non perché si fosse arresa, ma perché le sue priorità erano altrove: nel laboratorio, nelle studentesse che formava, nelle applicazioni mediche di quella strana energia che emanava dalla materia.

La libertà scientifica, nella vita di Curie, non era un prerequisito. Era una conquista quotidiana.

Marie Curie morì il 4 luglio 1934 di anemia aplastica causata dall’esposizione prolungata alle radiazioni. Sapeva del rischio: lo aveva intuito da anni, osservando le bruciature sulle proprie mani, la stanchezza che non passava, i colleghi che si ammalavano. La comunità scientifica dell’epoca non aveva ancora compreso a fondo i meccanismi del danno da irradiazione e le misure di protezione erano inesistenti o insufficienti. Marie lavorò per decenni con campioni altamente radioattivi senza schermature adeguate, trasportando provette in tasca, tenendo i campioni sul tavolo accanto a sé. I suoi taccuini di laboratorio sono ancora oggi così radioattivi da essere conservati in contenitori di piombo allaBibliothèque Nationalede France. Chi vuole consultarli deve firmare una liberatoria e indossare dispositivi di protezione. I suoi strumenti di lavoro sono ancora vivi, ancora pericolosi, ancora presenti, come le domande che Marie ha lasciato aperte.

Dalla scoperta alla cura: un’eredità ancora viva

Fu proprio lo studio delle proprietà del radio a costruire il rapporto tra Marie Curie e la medicina. Nei primissimi anni del Novecento, lei e Pierre avevano osservato che le radiazioni del radio distruggevano i tessuti biologici in modo selettivo, colpendo più rapidamente le cellule a rapida replicazione. Fu Pierre a esporsi deliberatamente al radio, tenendo un campione a contatto con il braccio per dieci ore e osservando la lesione profonda che si sviluppò. In una conferenza alla Royal Institution di Londra nel 1903, suggerì pubblicamente che quella capacità di bruciare i tessuti in profondità potesse avere applicazioni in oncologia. Le applicazioni terapeutiche del radio erano già in corso da qualche anno — fin dal 1902 si trattavano lesioni cutanee — ma fu quell’osservazione sistematica a rafforzare l’idea che le radiazioni potessero essere usate per distruggere tessuti malati in modo controllato.

Quando nel 1914 scoppiò la Prima Guerra Mondiale, Marie Curie aveva quarantasette anni ed era già due volte Nobel. Avrebbe potuto restare nel suo laboratorio. Scelse invece di andare al fronte, ma non con un fucile, con i raggi X. I medici militari nelle zone di combattimento operavano quasi alla cieca senza immagini diagnostiche. Localizzare quindi un proiettile o valutare una frattura complessa richiedeva esplorazione chirurgica diretta, con tutti i rischi che comportava. Marie capì che la radiologia mobile poteva cambiare questa situazione radicalmente.

Ottenne finanziamenti da benefattori privati, convinse le autorità militari, requisì automobili e le fece attrezzare con apparecchiature radiologiche e generatori elettrici alimentati dal motore del veicolo. I soldati le chiamaronopetites Curies. Erano unità complete: una macchina, un medico, un’operatrice radiologica, un autista. Arrivavano vicino alle linee del fronte, eseguivano le lastre, le sviluppavano sul posto, restituivano ai chirurghi informazioni precise su dove operare e come. Marie guidò personalmente una di queste unità, insieme alla figlia Irène, allora diciassettenne, che divenne la sua assistente principale.

Entro la fine della guerra, lepetites Curieserano venti, affiancate da oltre duecento postazioni radiologiche fisse. Si stima che circa un milione di soldati feriti furono esaminati grazie a questa rete. Marie organizzò anche un programma di formazione al Radium Institute di Parigi: centocinquanta donne addestrate in corsi intensivi di sei-otto settimane per diventare operatrici di radiologia, una professione che praticamente non esisteva prima di lei.

La medicina attuale

Il filo tra Marie e la medicina non si è mai spezzato. Sono molteplici le applicazioni della radioattività in ambito medico. La radioterapia — che utilizza radiazioni ionizzanti per distruggere le cellule tumorali o impedirne la replicazione — è oggi uno dei pilastri fondamentali dell’oncologia, al fianco della chirurgia e delle terapie sistemiche. Secondo le stime più recenti, oltre il 50–60% dei pazienti oncologici necessita di radioterapia nel corso del proprio percorso di cura, spesso in combinazione con chemioterapia o immunoterapia. Le tecniche si sono raffinate in modo straordinario rispetto alle prime applicazioni del radio: la radioterapia stereotassica corporea (SBRT) permette di concentrare dosi elevate su volumi tumorali molto piccoli con una precisione millimetrica, minimizzando il danno ai tessuti sani circostanti. L’adroterapia con protoni e ioni carbonio sfrutta le proprietà fisiche di queste particelle pesanti per rilasciare la dose massima esattamente nel punto desiderato, con una caduta quasi verticale dell’energia appena oltre il bersaglio, particolarmente utile per tumori vicini a strutture critiche, come quelli pediatrici alla base del cranio. La brachiterapia, invece, prevede l’impianto di sorgenti radioattive direttamente nel tessuto tumorale o nelle sue immediate vicinanze, ottenendo una irradiazione intensa e localizzata con esposizione minima agli organi adiacenti.

La medicina nucleare percorre un binario parallelo ma convergente: usa i radionuclidi non per distruggere ma per vedere e sempre più spesso per fare entrambe le cose nello stesso momento. La PET, tomografia a emissione di positroni, è diventata uno strumento diagnostico indispensabile in oncologia, neurologia e cardiologia: un radiofarmaco marcato con un isotopo emettitore di positroni viene somministrato al paziente, si accumula nei tessuti metabolicamente attivi — tra cui i tumori — e la camera PET ne rileva la distribuzione con una risoluzione spaziale e funzionale che nessuna altra tecnica può eguagliare.

Il passo successivo è la teranostica: la stessa molecola vettore, diretta verso lo stesso bersaglio biologico, viene marcata alternativamente con un isotopo diagnostico per localizzare la malattia o con un isotopo terapeutico per trattarla. È medicina di precisione nella sua forma più letterale in quanto si usa lo stesso “indirizzo molecolare” prima per trovare il tumore, poi per colpirlo dall’interno. Il lutezio-177 legato a PSMA, una proteina espressa dalle cellule del carcinoma prostatico, è già approvato da FDA ed EMA per il trattamento del carcinoma prostatico metastatico resistente alla castrazione. Il lutezio-177 legato a DOTATATE è approvato per i tumori neuroendocrini avanzati che esprimono recettori della somatostatina. Sono farmaci nati da decenni di ricerca in fisica nucleare, radiofarmacologia e biologia molecolare. Il loro punto di origine concettuale è quella stanza con le lastre radiografiche che Marie Curie aveva intuito potesse diventare uno strumento di cura.

Il metodo come forma di resistenza

C’è una domanda che rimane aperta nella storia di Marie Curie, e che riguarda tutti noi: cosa significa fare ricerca in libertà quando il sistema non te la concede? Non è una domanda retorica. È una domanda che Marie Curie si trovò a rispondere con i fatti, ogni giorno, per tutta la vita.

La sua risposta fu silenziosa e radicale. Non aspettò il permesso. Non aspettò che le porte si aprissero: le porte, nella sua vita, rimasero chiuse a lungo e in molti modi. Chiuse quando l’università di Varsavia non ammetteva le donne. Chiuse quando il comitato Nobel del 1903 stava per assegnare il riconoscimento solo a Pierre e a Becquerel, dimenticandola. Chiuse quando l’Académie des sciencesla rifiutò nel 1911, nell’anno stesso in cui riceveva il suo secondo Nobel. Chiuse quando, dopo la morte di Pierre, i giornali francesi cercarono di ridurla a vedova inconsolabile piuttosto che riconoscerla come la scienziata più importante del suo tempo.

Di fronte a ciascuna di queste porte, Marie Curie fece la stessa cosa: continuò a lavorare. Non perché fosse indifferente all’esclusione: le lettere e i diari mostrano una donna che soffriva, che si sentiva sola, che portava il peso di essere sempre l’eccezione, mai la regola. Ma perché aveva capito qualcosa di fondamentale: i risultati scientifici non chiedono il permesso di essere veri. Un dato misurato con rigore è un dato misurato con rigore, indipendentemente dal genere, dalla nazionalità, dalla religione di chi lo ha prodotto. I dati erano l’unico territorio che nessuno poteva confiscare.

Costruì il suo spazio con quello che aveva. Fisicamente aveva lavorato e ricercato in laboratori di seconda scelta, capannoni che perdevano acqua, con strumenti di fortuna, fondi sempre insufficienti. Ma ancora più importante intellettualmente aveva sviluppato un metodo così rigoroso da rendere i suoi risultati inattaccabili, raggiungendo una precisione nelle misurazioni che i colleghi — anche quelli che non l’avrebbero mai votata all’Académie — non potevano mettere in discussione. La libertà scientifica, nella sua vita, non era un prerequisito. Era una conquista quotidiana, ottenuta misura dopo misura, dato dopo dato, pubblicazione dopo pubblicazione.

C’è un dettaglio della sua biografia che racconta tutto questo meglio di qualsiasi analisi. Quando nel 1898 isolò il polonio e il radio, Marie Curie avrebbe potuto brevettare il processo di estrazione, come le suggerirono alcuni colleghi e come la legge dell’epoca avrebbe consentito. Avrebbe guadagnato somme considerevoli. Ma ella rifiutò. Disse che la scoperta apparteneva alla scienza e che brevettarla avrebbe ostacolato la ricerca degli altri. Visse per tutta la vita con risorse limitate, finanziando il laboratorio con i premi che riceveva e con le donazioni che raccoglieva. La stessa coerenza tra principi e azioni che applicava in laboratorio, applicata alla propria esistenza.

In un’epoca in cui la scienza viene contestata, strumentalizzata, ignorata o finanziata in modo selettivo — in cui i dati vengono messi in discussione non sulla base di prove ma sulla base di convenienze politiche o economiche — la lezione di Marie Curie non è storiografia. È attualità. Ella dimostrò che la coerenza tra domanda e risposta, tra ipotesi e verifica, tra valori e azioni, è possibile. Anche quando costa. Anche quando il sistema fa di tutto per renderla impossibile.

I suoi taccuini sono ancora radioattivi. Le sue domande sono ancora aperte. E quella strana energia che emetteva, come le sue particelle, senza che nessuna categoria riuscisse a contenerla, continua a illuminare.

Nel giugno 2026, Nature pubblica un paper destinato a diventare un punto di riferimento per chi lavora all’intersezione tra AI e medicina clinica. Si intitola “Towards autonomous medical artificial intelligence agents1. Al centro c’è MIRA (Medical Intelligence for Reasoning and Action): un agente AI autonomo che gestisce pazienti in pronto soccorso dall’anamnesi alla dimissione, ordinando esami, interpretando risultati, prescrivendo farmaci, decidendo ricoveri.

I risultati sono impressionanti. MIRA supera i medici in accuratezza diagnostica. Aderisce alle linee guida meglio dei clinici di confronto. Non produce interazioni farmacologiche gravi. E lo fa navigando più di 85.000 opzioni cliniche in un ambiente EHR reale costruito su standard HL7 FHIR.

Ma quello che rende questo paper particolarmente importante non sono solo i risultati. È la dichiarazione di intenti degli autori stessi. Scrivono esplicitamente di sperare che il loro benchmark e il framework di MIRA possano fornire una base di confronto e miglioramento iterativo per gli agenti AI in medicina. Non un sistema pronto al deployment. Un punto di partenza. Un’infrastruttura su cui costruire.

Quest’ambizione degli autori — bellissima e sintomo di saggezza di chi ha condotto lo studio — è uno degli esempi più lungimiranti di come si debba fare ricerca e merita un’attenzione particolare. Ritengo infatti che sia uno spunto per riflettere su come la ricerca debba realmente orientarsi alla luce di questa nuova e travolgente tecnologia. Per poter raccogliere appieno questo invito, è opportuno interrogarsi su cosa manca al campo metodologico che dovrebbe accompagnare lo sviluppo della medicina nel contesto AI.

Da strumento a agente: perché il salto è importante

Per capire la portata del cambiamento introdotto da MIRA e dunque la riflessione che ne deriva, bisogna comprendere come l’AI è cambiata nel tempo e quali sono le diverse applicazioni che possono trovare spazio in ambito medico.

Fino a qualche anno fa, quando parlavamo di AI in medicina parlavamo quasi esclusivamente di modelli predittivi: sistemi che ricevono un input — una TAC, un valore di laboratorio, una sequenza genomica — e producono un output discreto. Una probabilità. Una classe. Un flag. Sistemi che, dato lo stesso input, producono sempre lo stesso output.

Su questo tipo di oggetto i framework di validazione esistenti funzionano bene. TRIPOD+AI ti dice cosa riportare. Il C-statistic misura la discriminazione. La calibration curve controlla se le probabilità sono credibili. Si divide il dataset in training e test, si calcolano le metriche, si pubblicano i risultati. Il sistema è statico, l’unità di analisi è il paziente, il gold standard è definito a priori.

Un agente AI è qualcosa di radicalmente diverso. Non produce un output singolo. Produce una sequenza di decisioni: ordina questo esame, poi interpreta il risultato, poi chiede un’altra cosa al paziente, poi rivaluta, poi prescrive. Ogni decisione dipende da tutte le precedenti. Il “risultato” non è un numero: è un percorso clinico intero, con ramificazioni, loop, revisioni.

Questo non è un dettaglio tecnico. È una rottura epistemologica che evidenzia come i framework sviluppati per i modelli predittivi non siano semplicemente incompleti per gli agenti, ma siano stati progettati per misurare qualcosa di strutturalmente diverso da ciò che un agente AI fa.

Cinque dimensioni che il campo metodologico deve ancora affrontare

Osservando gli strumenti attualmente a disposizione per valutare qualsiasi agente AI in ambito clinico, ci si rende conto che vi sono lacune metodologiche importanti da colmare, lacune che oggi impediscono di pervenire a una valutazione robusta e, di conseguenza, a una validazione affidabile dell’utilizzabilità di tali agenti.

1. Gli agenti AI non hanno un endpoint primario

Nell’attuale metodologia di ricerca, i trial clinici sono caratterizzati da una chiara e rigorosa pre-specificazione dell’endpoint primario: è questo infatti uno dei pilastri metodologici fondamentali. La loro pre-specificazione ha senso perché il sistema valutato produce un tipo di output specifico. Tutto il resto è secondario. La gerarchia funziona perché l’oggetto è semplice abbastanza da avere un obiettivo singolo e misurabile.

Al contrario, un agente AI fa cose fondamentalmente diverse contemporaneamente. Riprendendo proprio il caso di MIRA è possibile vedere che esso diagnostica, prescrive, riconcilia i farmaci pre-ricovero, raccomanda procedure chirurgiche, decide il ricovero. Nel paper, l’accuratezza diagnostica è calcolata su 574 pazienti, la sicurezza farmacologica su un sottoinsieme di 56, l’aderenza alle linee guida su 112 pazienti con 256 metriche di prescrizione, le decisioni di ricovero su 80 casi sintetici costruiti ad hoc, le procedure chirurgiche su un sottoinsieme condizionato alla diagnosi corretta. Ogni dimensione ha la sua unità di analisi, il suo campione, il suo metodo statistico. Nessuna è sbagliata. Ma non esiste una logica esplicita che le colleghi: che dica cosa succede quando vanno in direzioni diverse e come si forma un giudizio complessivo sul sistema.

E’ chiaro che chiedere quale sia l’endpoint primario di un agente AI è come chiedere quale sia l’endpoint primario di un medico di pronto soccorso. La domanda stessa è mal posta. Ma questo non significa che il problema non esista, significa che serve un concetto diverso, non una copia di quello che già abbiamo.

Una possibile soluzione

Il parallelo più utile non è il trial clinico ma il dossier di performance dei dispositivi medici complessi: sistemi robotici chirurgici, dispositivi impiantabili con componenti software. Lì non si definisce un endpoint primario unico. Si costruisce un profilo di validazione con dimensioni predefinite, soglie minime accettabili per ciascuna e una logica di integrazione esplicita. Se il sistema non raggiunge la soglia su una dimensione critica per la sicurezza, le altre non compensano, indipendentemente da quanto siano eccellenti.

Per gli agenti AI serve qualcosa di analogo. Non un endpoint primario, ma un profilo di validazione dichiarato prima della raccolta dati, con le dimensioni obbligatorie, le rispettive unità di analisi, le soglie minime, e una gerarchia che privilegi esplicitamente la sicurezza rispetto alla performance diagnostica. Questo non è ancora uno standard. Nessun documento regolatorio lo definisce in forma operativa. MIRA dimostra che ne abbiamo bisogno.

2. Il comparator umano è un campione, non una distribuzione

Nei trial clinici il comparator è definito con precisione: placebo, dose standard, chirurgia convenzionale. Il confronto ha senso perché le alternative sono sufficientemente omogenee da rappresentare una categoria, non un individuo.

Nel paper su MIRA i medici di confronto sono quattro specialisti board-certified tedeschi con 7-11 anni di esperienza, e una coorte mista di sei medici: quattro residenti con zero-cinque anni di pratica, un radiologo board-certified e un emato-oncologo board-certified con rispettivamente 12 e 15 anni di esperienza clinica. La scelta riflette lo staffing tipico dei pronto soccorso tedeschi, in un sistema sanitario che — come gli autori stessi spiegano nella Discussion — non prevede specializzazione in medicina d’emergenza. È una spiegazione onesta e metodologicamente rilevante. Ma il fatto che arrivi nella Discussion, e non come criterio dichiarato nel protocollo, è già di per sé sintomatico: la giustificazione del comparator è costruita a posteriori, non pre-specificata. Ed è esattamente questo il vuoto che il campo deve colmare.

Il problema non è la scelta degli autori. È che non esiste ancora uno standard per descrivere il comparator umano in modo da permettere la comparabilità tra studi diversi. Quando il prossimo paper valuterà un agente AI simile usando medici americani di pronto soccorso con specializzazione in emergency medicine, o medici italiani di medicina interna, i risultati non saranno comparabili con quelli di MIRA e ciò non perché uno studio sia migliore dell’altro, ma perché il comparator è una variabile non standardizzata.

Quello che manca è un framework per definire il comparator umano come distribuzione rappresentativa: quale contesto clinico si vuole rappresentare, quale livello di esperienza, quale sistema sanitario, quale case mix. Senza questo, ogni studio produce un dato locale che non si accumula in conoscenza generalizzabile. Ed è la conoscenza generalizzabile quella che serve per le decisioni.

3. Il leakage nel training data richiede un protocollo che ancora non esiste

I modelli statistici tradizionali vengono addestrati su dati specifici, validati su dati separati ed il confine è tracciato e controllato. Il problema del data leakage esiste, ma è gestibile: si usa un hold-out set, si applica una temporal split, si verifica che i dati di validazione non siano stati visti durante il training. Sono procedure consolidate con linee guida chiare.

Gli LLM alla base di agenti AI sono stati pre-addestrati su corpus enormi la cui composizione non è completamente nota nemmeno ai ricercatori che li usano. MIMIC-IV — il dataset su cui viene valutato MIRA, nella versione 2.2 usata nel paper — è pubblicamente accessibile a ricercatori credenziali su PhysioNet. È possibile che parti di esso siano finite nel training set di GPT-4o o o1-preview. Gli autori lo riconoscono esplicitamente e con onestà metodologica: le performance riportate potrebbero rappresentare un limite superiore e sovrastimare la generalizzabilità ad altri contesti.

Questa trasparenza è encomiabile. Ma il punto è che non abbiamo ancora strumenti standardizzati per andare oltre la dichiarazione. Non sappiamo come quantificare l’entità del leakage potenziale, come correggerlo statisticamente, se e quanto le performance cambino su un dataset che con certezza non è mai stato visto dal modello durante il training. TRIPOD+AI non copre questo scenario perché non esisteva quando è stato scritto.

Quello che serve è un protocollo specifico per la validazione di agenti basati su LLM: dataset di validazione riservati e non pubblici, test su dati raccolti dopo la data di training documentata del modello o metodi per quantificare e comunicare l’incertezza da leakage in modo standardizzato. Non è un problema irrisolvibile: è un problema che il campo non ha ancora affrontato collettivamente.

4. La non-stazionarietà della pipeline

Un modello statistico validato rimane quello che è. Lo si addestra, lo si valida, lo si deploya, e — salvo retraining esplicito e documentato — le sue performance sono stabili nel tempo. Questa stazionarietà è il presupposto implicito di qualsiasi framework di validazione: che l’oggetto valutato oggi sia lo stesso che verrà usato domani.

Gli agenti AI si poggiano su modelli distinti. Riprendendo proprio il caso MIRA esso si appoggia a GPT-4o per la conversazione con il paziente e la generazione delle risposte cliniche, e o1-preview per il reasoning, uno strumento quest’ultimo di pianificazione intermedio che genera piani multi-step prima di produrre l’output finale. Il paper specifica che GPT-4o è usato con temperatura 0.01, una scelta precisa per ridurre la variabilità delle risposte all’interno della stessa versione del modello. Ma anche con temperatura fissa: un aggiornamento del modello sottostante cambia il comportamento del sistema indipendentemente dalla temperatura impostata. Entrambi i modelli vengono aggiornati continuamente dai rispettivi vendor, in modo non completamente documentato e non controllato da chi li usa. Queste versioni esatte non sono riproducibili da terzi e non lo saranno nemmeno tra sei mesi.

Ne risulta un problema strutturale. Non stiamo validando un sistema stabile, ma una pipeline in cui due componenti possono cambiare in modo indipendente e non coordinato. Un aggiornamento di GPT-4o potrebbe migliorare la conversazione ma degradare la coerenza clinica. Un aggiornamento di o1-preview potrebbe cambiare il modo in cui vengono costruiti i piani diagnostici. Nessuno dei due cambiamenti sarebbe rilevabile senza una ri-validazione esplicita.

Il framework regolatorio MDR/IVDR prevede procedure di post-market surveillance per i dispositivi medici software, ma sono state disegnate per sistemi che cambiano in modo prevedibile e controllato, non per pipeline in cui il comportamento dipende da aggiornamenti decisi autonomamente da vendor esterni. L’AI Act classifica sistemi come quelli che usano agenti AI, come sistemi ad alto rischio, ma non specifica come gestire la non-stazionarietà dei modelli sottostanti in forma operativa. Serve un piano esplicito che valuti ad esempio quali sono i trigger che richiedono una ri-validazione, chi ha la responsabilità di attivarla e come si documenta la continuità tra versioni diverse del sistema.

5. La fedeltà della simulazione deve essere misurata, non assunta

MIRA interagisce con un paziente AI costruito su HPI estratti da note di dimissione retrospettive. È una scelta metodologicamente necessaria e intelligente: permette di condurre centinaia di simulazioni in parallelo, su casi reali, con una riproducibilità che nessuno studio con pazienti reali potrebbe garantire. Gli autori ne riconoscono apertamente i limiti: le risposte del paziente simulato potrebbero essere più strutturate del parlato reale in pronto soccorso. E vanno oltre la semplice dichiarazione, fornendo un’analisi esplicita della coerenza del parlato del paziente simulato, che esamina il contenuto diagnostico versus non-diagnostico nel corso della conversazione, cercando di quantificare in che misura il simulatore fornisce informazioni rilevanti in modo lineare o meno. È un tentativo serio.

Ma restano comunque due gap che il campo deve colmare. Il primo è strutturale. Le note di dimissione sono testo professionale: coerente, strutturato, completo. Un paziente reale in pronto soccorso racconta la sua storia in modo disordinato, omette informazioni cruciali, contraddice quello che ha detto cinque minuti prima, non ricorda i nomi dei farmaci che prende, aggiunge dettagli irrilevanti. Il paper testa la robustezza dell’agente attraverso perturbazioni predefinite — sesso diverso, ansia, bias linguistico — e i risultati sono rassicuranti. Ma queste perturbazioni sono costruite e uniformi: non catturano l’eterogeneità strutturale e imprevedibile del parlato reale che è qualitativa oltre che quantitativa.

Il secondo gap è di comparabilità. L’approccio di MIRA è replicabile e probabilmente diventerà uno standard de facto per questo tipo di studi. Proprio per questo il campo ha bisogno di definire metriche di fedeltà della simulazione: indici che misurino la distanza tra il comportamento del paziente simulato e quello di un paziente reale e che permettano di stimare e comunicare l’impatto di questa distanza sulle performance misurate. Senza questi strumenti, ogni studio che usa un paziente simulato produrrà risultati non comparabili con gli altri, e la letteratura si frammenterà in dati locali che non si accumulano.

Raccogliere l’invito degli autori

Gli autori di MIRA chiudono il loro paper con una frase precisa: la validazione prospettica sarà essenziale per confermare se questo potenziale possa essere pienamente realizzato in contesti clinici reali. È un invito esplicito a continuare il lavoro, a costruire su quello che hanno costruito loro.

Raccogliere quell’invito significa fare due cose in parallelo. La prima è continuare a sviluppare agenti sempre più capaci. La seconda — ed è quella di cui secondo me si parla ancora poco — è costruire il framework metodologico che permetta di valutarli in modo che i risultati abbiano il significato che pensiamo abbiano.

Quello che manca non è la volontà di farlo. Manca il consenso su come farlo: su come costruire un profilo di validazione multidimensionale che sostituisca la logica dell’endpoint primario, su come definire il comparator umano in modo generalizzabile tra studi e sistemi sanitari diversi, su come gestire l’incertezza da leakage nel training data, su come monitorare un sistema che cambia perché i suoi componenti vengono aggiornati da vendor esterni, su come misurare la fedeltà di una simulazione e comunicarne i limiti in modo standardizzato.

Sono domande aperte. Il fatto che MIRA le renda così visibili è uno dei contributi più importanti di questo paper, forse più importante dei numeri stessi. Altrimenti continuiamo a misurare la velocità di un’automobile con un termometro. Lo strumento è preciso. Misura la cosa sbagliata.

Reference

  1. Ferber, D., Hilgers, L., Höper, C. et al. Towards autonomous medical artificial intelligence agents. Nature (2026). https://doi.org/10.1038/s41586-026-10675-5↩︎

C’è una parola, in quel testo, che non smette di risuonare. Non la più citata, non la più discussa, eppure secondo me la più densa.Pursuit.

In italiano si traduce con ricerca, perseguimento.Pursuit: movimento verso qualcosa che non si possiede ancora. Non il possesso, ma il cammino. Non la risposta già trovata, ma la domanda che mette in moto. I padri fondatori americani avrebbero potuto scrivere “il raggiungimento della felicità” o “il diritto alla felicità”. Scelsero invece il movimento, il processo, l’atto stesso del cercare. Fu una scelta precisa. E chi la fece sapeva esattamente cosa stava dicendo.

Quando la curiosità era rivoluzionaria

Benjamin Franklin aveva settant’anni quando firmò la Dichiarazione di Indipendenza. Era già una figura leggendaria, ma non per il potere politico che stava esercitando. Era leggendario per la curiosità. Decenni prima aveva condotto ricerche sull’elettricità atmosferica che lo avevano reso celebre nelle accademie europee: l’aquilone, la chiave di metallo, il fulmine catturato e misurato. Non erano esperimenti di lusso, condotti da un gentiluomo con tempo libero. Erano il prodotto di una convinzione profonda, quella secondo cui il mondo naturale obbedisce a leggi comprensibili e che comprenderle sia un atto di libertà tanto quanto ribellarsi a un re.

Jefferson incarnava la stessa tensione. A Monticello (Virginia) registrava tutto: le date di fioritura delle piante, le loro rese, i fallimenti di coltivazione. Annotava le anomalie con la stessa cura con cui annotava i successi. Il giardino era il suo laboratorio ed ogni pianta che non cresceva come previsto era, per lui, un dato, non una sconfitta. Corrispondeva con naturalisti di tre continenti. Progettava strumenti di misura. Leggeva e annotava trattati di agronomia, geologia, lingue indigene americane. La sua curiosità non aveva confini disciplinari perché, per lui, non esistevano confini disciplinari: esisteva il mondo e il desiderio di capirlo.

Scienza e società

Per quella generazione — cresciuta nell’Illuminismo europeo, formatasi su Locke e Newton, su Voltaire e Linneo — indagare la natura e costruire una società libera erano gesti dello stesso ordine morale. Entrambi richiedevano di partire dall’osservazione, non dal dogma. Sia Jefferson che Franklin imponevano di seguire le evidenze dove conducevano, anche quando conducevano in luoghi scomodi. Entrambi pretendevano la disponibilità a rivedere le proprie conclusioni alla luce di nuovi dati. Quella disponibilità era, per loro, non una debolezza ma la forma più alta di onestà intellettuale.

L’indipendeza e dunque con essa la libertà che proclamarono il 4 luglio 1776 non era quindi solo politica. Era qualcosa di epistemico, radicato nell’indipendenza del giudizio, nel diritto di fare domande, di dubitare, di dissentire dall’autorità costituita quando i fatti lo imponevano. Era, in questo senso, una dichiarazione sul metodo prima ancora che sulla sovranità nazionale.

Scienza e libertà: la stessa struttura profonda

Il legame tra scienza e libertà non è retorica, né il risultato di sentimentalismi o di principi dal sapore antico. Scienza e libertà condividono una struttura logica profonda. Una struttura non ovvia come potrebbe sembrare, ma abbastanza solida da renderle interdipendenti: ciascuna ha bisogno dell’altra per restare integra.

Il primo punto di contatto è la falsificabilità. Karl Popper, due secoli dopo la Dichiarazione, formalizzò il principio secondo cui una teoria scientifica vale solo se può essere smentita. Se costruisco un’ipotesi in modo che nessun dato possa contraddirla, non sto facendo scienza, sto costruendo un sistema chiuso, impermeabile alla realtà. Lo stesso vale per un sistema politico. Una democrazia che non prevede meccanismi di correzione, di opposizione, di revisione delle proprie decisioni non è una democrazia: è un’autocrazia con elezioni decorative. In entrambi i casi, ciò che si perde non è solo un valore astratto. Si perde la capacità strutturale di migliorare, di adattarsi, di sopravvivere all’errore.

Il secondo punto è l’indipendenza dal potere. In scienza, questo principio ha un nome tecnico: conflitto di interesse. Un esperimento i cui risultati sono determinati — esplicitamente o implicitamente — da chi lo finanzia non produce conoscenza: produce conferma. La differenza non è sempre visibile dall’esterno e questo è esattamente il problema. Un dato manipolato può sembrare identico a un dato onesto. È il processo che li distingue: la trasparenza del protocollo, la pre-registrazione delle ipotesi, l’indipendenza dell’analisi statistica da chi ha interesse nel risultato. Nello stesso modo, un sistema politico in cui chi detiene il potere controlla anche i meccanismi di verifica di quel potere produce apparenze di legittimità, non legittimità. La forma può essere intatta. La sostanza no.

Il terzo punto è la trasparenza come condizione di fiducia. La peer review — il meccanismo con cui la comunità scientifica valuta, critica, contesta e infine valida il lavoro dei suoi membri — non è una formalità burocratica. È il dispositivo attraverso cui la scienza costruisce la propria credibilità collettiva. Non fidarsi di un singolo studio, ma di un corpo di evidenze prodotto da ricercatori diversi, in contesti diversi, con metodi confrontabili e risultati replicabili. È, strutturalmente, la stessa logica della separazione dei poteri: nessuna istanza è autoreferenziale, ogni affermazione è soggetta al vaglio di chi non ha interesse a confermarla.

Questi tre principi — falsificabilità, indipendenza, trasparenza — non sono nati con la scienza moderna. Erano già impliciti nel pensiero dei padri fondatori americani, anche se con un vocabolario diverso. Rappresentavano la ragione per cui Franklin non si fidava delle teorie che non potevano essere messe alla prova. Erano la ragione per cui Jefferson annotava meticolosamente anche le anomalie, i risultati inattesi, le piante che non crescevano come previsto.

La libertà di ricerca nel lavoro quotidiano

Per chi lavora in ricerca clinica, tutto questo non è storia della filosofia. È la materia di ogni giornata lavorativa.

La libertà di ricerca si manifesta in scelte concrete, spesso silenziose e poco celebrate. Si manifesta quando si decide di pubblicare un risultato negativo — uno studio che non ha trovato ciò che cercava — sapendo che i journal preferiscono i risultati positivi, che i colleghi ricorderanno più facilmente i successi, che il finanziatore potrebbe non essere entusiasta. Pubblicare comunque non è un atto eroico: è un atto metodologico. Perché la letteratura scientifica che non registra i risultati negativi è una letteratura distorta. Anche le stesse meta-analisi, lo study design con il più alto livello di evidenza, se costruite su questa letteratura incompleta, finiscono col produrre stime distorte. La libertà di pubblicare ciò che si è trovato — non ciò che si sperava di trovare — è una condizione di igiene epistemica collettiva, non una scelta individuale.

Si manifesta quando i dati vanno in una direzione che nessuno si aspettava. In quel momento, il ricercatore si trova davanti a una scelta che non è mai completamente neutrale: seguire i dati dove portano, oppure trovare — inconsciamente, gradualmente, con la migliore buona fede — un modo per ricondurli verso l’ipotesi di partenza. Ilp-hacking, l’HARKing, la selective reporting non sono comportamenti di ricercatori disonesti. Sono la deriva naturale di un sistema che premia la conferma e penalizza l’anomalia. Difendere la libertà di ricerca significa costruire processi che rendano quella deriva strutturalmente difficile e significa presentare anche ciò che non ha dato risultati positivi o attesi.

Quando si redige un protocollo o unpiano di analisi statistica (SAP)si fa una promessa. Una promessa liberamente voluta e liberamente enunciata. Si promette: ecco cosa cercherò, ecco come lo misurerò, ecco cosa considererò un risultato positivo e cosa no. Cosa farò dei risultati ottenuti, qualunque sia il loro esito. Quella promessa è l’atto fondante della credibilità dello studio. Romperla, anche in modo sottile, anche con le migliori intenzioni, significa che il risultato finale non è più il frutto di un’indagine, ma è il frutto di una narrazione costruita a posteriori. E una narrazione, per quanto ben scritta, non è scienza.

La libertà di ricerca, quindi, non è libertà da qualsiasi vincolo, quella sarebbe licenza, non libertà. È libertà dentro una struttura rigorosa, liberamente scelta e pubblicamente dichiarata. È la libertà di obbligarsi al metodo prima di sapere cosa troverà.

250 anni dopo, la stessa parola

Duecento cinquant’anni fa, la parolapursuitconteneva già tutto questo. Non la certezza, ma il movimento verso di essa. Non il traguardo. La disponibilità a partire senza sapere esattamente dove si arriverà. Non la risposta. La disciplina di fare la domanda nel modo giusto.

Franklin e Jefferson non hanno conosciuto il linguaggio della statistica moderna. Ma, se tornassero oggi sulla Terra, riconoscerebbero immediatamente l’atteggiamento che li sottende: la convinzione che la realtà sia indagabile, che le evidenze contino più delle opinioni, che il rigore del metodo sia l’unica forma di onestà intellettuale che non tradisce se stessa.

Ogni ricercatore che oggi pre-registra le proprie ipotesi prima di raccogliere i dati, che pubblica un risultato che nessuno si aspettava, che difende un’analisi davanti a un peer-reviewer anche quando i numeri non raccontano la storia che tutti volevano sentire, sta esercitando, nel suo campo, quella stessa libertà. Non la libertà da, ma la libertà di: libertà di cercare senza sapere dove porta la ricerca, di trovare senza poter scegliere cosa trovare, di pubblicare senza poter controllare come verrà letto.

Pursuit.Ricerca. La parola che conteneva tutto, anche ciò che i suoi autori non potevano ancora nominare. Non la risposta giusta. Il coraggio di fare la domanda giusta. Non il risultato atteso. La disponibilità a trovare l’inatteso e a dirlo. Duecentocinquant’anni di storia non hanno cambiato questa equazione. La scienza libera e la società libera si fondano sulla stessa scommessa: che la realtà, guardata con onestà, valga sempre più di qualsiasi cosa avessimo già deciso di vedere.

Quando un sistema di intelligenza artificiale pre-classifica un case report di sicurezza, o accelera la stesura di un dossier regolatorio, c’è una domanda che precede qualsiasi discussione su scadenze normative. Chi, concretamente, è in grado di verificare che quell’output sia corretto e con quali strumenti lo dimostra? È una domanda metodologica, non legale. Una domanda che si pone oggi, indipendentemente da quando un determinato sistema rientrerà formalmente nella classificazione “alto rischio” del Regolamento (UE) 2024/1689.

Per chi lavora in biostatistica e metodologia della ricerca clinica, questa domanda non è nuova. Un sistema di intelligenza artificiale che classifica, predice o stratifica non è, dal punto di vista del rigore metodologico richiesto, diverso da un nuovo strumento diagnostico o da una scala di valutazione multi-item. È un sistema che va validato prima di essere usato, va monitorato dopo ed ogni decisione clinica o regolatoria che si basa sul suo output deve poter essere ricostruita, giustificata e difesa. Quello che l’AI Act introduce — in particolare con l’articolo 14, dedicato alla sorveglianza umana — non è un principio nuovo: è la formalizzazione normativa di ciò che la buona pratica metodologica richiedeva già.

AI Act e contesto

L’AI Act non cambia il valore scientifico di questa documentazione. Quella validità era già presente prima della norma e non dipende dall’esistenza di un obbligo legale. Quello che cambia è il contesto in cui questa documentazione viene richiesta e valutata. Un’autorità di vigilanza può esigerla e la sua assenza ha ora conseguenze formali oltre che metodologiche. Ma c’è un secondo livello, che la norma non dice e che chi lavora in metodologia vede subito.

Produrre quella documentazione richiede competenze che non si improvvisano. Sapere che un modello va validato non equivale a sapere scegliere le metriche giuste per il contesto specifico, gestire lo squilibrio tra classi nei dati di training, valutare la calibrazione oltre l’accuratezza, o costruire un piano di monitoraggio che sia statisticamente sensibile alla deriva e non solo formalmente presente. Sono competenze che si costruiscono su anni di lavoro con dati clinici e strumenti di misura complessi. La biostatistica e la metodologia non si improvvisano.

Prima di approfondire l’argomento voglio fare una precisazione importante. Questo articolo tratta i sistemi AI nel senso proprio del termine, ossia modelli che producono un output discreto su cui una persona qualificata esercita una decisione. Non si applica agli agenti AI che operano in modo autonomo attraverso sequenze di azioni interdipendenti e interazioni con ambienti esterni. Per questi ultimi, i framework di validazione e sorveglianza classici sembrano al momento insufficienti e richiedono un approccio metodologico distinto, tema che affronto in un articolo separato.

Articolo 14 AI Act: perché interessa il metodologista

L’articolo 14 specifica che i sistemi di AI ad alto rischio devono essere progettati e sviluppati in modo tale da poter essere effettivamente supervisionati da persone fisiche durante il loro utilizzo. La sorveglianza deve mettere chi la esercita nelle condizioni di comprendere le capacità e i limiti del sistema, riconoscere la cosiddetta “distorsione dell’automazione” — la tendenza a fare affidamento acritico sull’output algoritmico — e poter decidere di ignorare, correggere o bloccare l’output in qualsiasi momento.

Dal punto di vista metodologico, questo prescrive implicitamente tre cose che chi ha esperienza in validazione di strumenti di misura riconoscerà immediatamente. Prima: la sorveglianza umana è possibile solo se il sistema è stato validato in modo sufficientemente granulare da consentire a chi lo usa di sapere dove sbaglia, non solo quanto spesso sbaglia in media. Seconda: il protocollo di supervisione deve essere pre-specificato, non lasciato alla discrezionalità del momento, altrimenti non è sorveglianza, è interpretazione a posteriori. Terza: la tracciabilità delle decisioni non è un adempimento burocratico. È lo strumento che permette di verificare nel tempo se il pattern delle correzioni umane segnala un problema sistematico nel modello.

Un caso di lavoro: la pre-classificazione degli ICSR (Individual Case Safety Reports)

Per rendere il ragionamento concreto, consideriamo uno schema ricorrente in farmacovigilanza. Un sistema AI applicato alla fase di triage e valutazione degli ICSR (Individual Case Safety Reports), ovvero le segnalazioni individuali di sospette reazioni avverse. Il sistema assegna un livello di priorità agli ICSR in arrivo e segnala potenziali segnali di sicurezza da verificare. La decisione finale — se il caso costituisce un segnale, se va escalato, se va comunicato alle autorità competenti — resta umana. Il sistema AI accelera il processo di triage, non lo sostituisce.

Dal punto di vista della validazione statistica, costruire la documentazione di sorveglianza per questo tipo di sistema richiede quattro componenti distinte.

Misurazione delle performance

Sensibilità e specificità rispetto a un riferimento esperto, con attenzione particolare al tasso di falsi negativi. Nella fase di triage e valutazione degli ICSR, il tasso di falsi negativi è la metrica critica. Un ICSR classificato erroneamente come non prioritario può portare a ritardare o perdere del tutto l’identificazione di un segnale di sicurezza, con conseguenze potenzialmente gravi per la salute pubblica.

A queste si aggiunge la calibrazione. Non è sufficiente che il sistema classifichi correttamente, serve verificare che la confidenza dichiarata dall’algoritmo corrisponda alla sua reale accuratezza empirica. Questo tipo di analisi, nella sua struttura logica, è identico a uno studio di reliability inter-rater in cui si misura l’accordo tra il sistema e un gold standard umano esperto. Tutto ciò usando le stesse metriche e le stesse cautele metodologiche che si applicano quando si confrontano due revisori umani. È un terreno consolidato, applicato a un nuovo oggetto.

Pre-specificazione del protocollo di sorveglianza

Prima che il sistema entri in uso, il protocollo di supervisione deve essere scritto. Deve esplicitare in quali condizioni l’output viene accettato senza verifica aggiuntiva, in quali richiede revisione obbligatoria, chi ha l’autorità di correggere o bloccare e attraverso quale procedura. Il principio è lo stesso di un piano di analisi statistica pre-specificato. Le regole si stabiliscono prima di osservare i risultati per evitare che le decisioni vengano prese o giustificate a posteriori. Un protocollo di sorveglianza scritto dopo che il sistema è già operativo vale metodologicamente quanto un SAP scritto dopo aver visto i dati.

Monitoraggio longitudinale delle performance

Un modello validato al baseline non è garantito stabile nel tempo. I dati in ingresso cambiano — nuovi pattern di reazioni avverse, nuovi prodotti, variazioni nel mix di popolazione — e le performance possono degradare in modo silenzioso, senza che nessun alert esplicito lo segnali. Il piano di monitoraggio deve specificare con quale frequenza si ri-misurano le performance, con quale soglia si attiva una revisione del modello e chi è responsabile di questa valutazione periodica. È la stessa logica di un piano di follow-up in uno studio osservazionale. Il disegno deve prevedere i timepoint di controllo prima che i dati arrivino, non reagire alla deriva quando è già evidente.

Tracciabilità sistematica delle decisioni

Tracciare sistematicamente significa che qualsiasi sistema ha necessità di essere accompagnato da un log che permetta di ricostruire, per ogni caso, cosa ha proposto il sistema e cosa ha deciso la persona responsabile. Questo non è solo un requisito di trasparenza: è lo strumento diagnostico del modello nel tempo. Se la persona responsabile corregge sistematicamente le classificazioni del sistema in una certa categoria, quella frequenza di correzione è un segnale che indica che il modello ha un bias specifico che va corretto, non che il processo di sorveglianza funziona bene.

Il punto metodologico che l’AI Act non dice esplicitamente

C’è una dimensione del problema che il testo normativo lascia implicita e che vale la pena rendere esplicita. La sorveglianza umana è efficace solo se chi la esercita è in grado di riconoscere quando il sistema sta sbagliando. Questo richiede non solo che il protocollo esista, ma che la persona designata abbia una comprensione sufficientemente profonda delle condizioni in cui il modello è stato validato. Deve insomma essere chiaro su quale popolazione, con quale distribuzione degli esiti, con quali limiti di generalizzabilità il modello è valido.

In pratica: un sistema validato su una popolazione di ICSR europei potrebbe comportarsi diversamente su segnalazioni provenienti da altri contesti regolatori. Un sistema calibrato su un certo mix di prodotti potrebbe perdere accuratezza quando il portafoglio cambia. La persona responsabile della sorveglianza non può riconoscere questi problemi se non ha accesso alla documentazione di validazione originale e non è stata formata su cosa cercare. Questo è esattamente il motivo per cui la documentazione di validazione non è un documento da produrre una volta e archiviare. Esso è il riferimento operativo della sorveglianza e deve essere leggibile e utile per chi lo usa, non solo completo per chi lo deposita.

Il problema della validazione indipendente

Quando si studia metodologia della ricerca, uno degli aspetti importanti è la valutazione esterna dei sistemi. Questa procedura serve per evitare bias legati a possibile “interferenze” anche involontarie, da parte di chi ha sviluppato e addestrato il modello. Questo è un aspetto che nella procedura di validazione dei modelli AI sembra essere sottovalutato da parte delle organizzazioni che introducono questi sistemi. La validazione condotta da chi ha sviluppato o adottato il modello non è, per definizione, indipendente. E l’assenza di indipendenza è un limite metodologico strutturale, non una questione di buona fede.

In ricerca clinica questo principio è consolidato. Uno studio di validazione di uno strumento diagnostico condotto esclusivamente dal gruppo che lo ha sviluppato è considerato a rischio di bias, indipendentemente dalla qualità tecnica del lavoro. La stessa logica si applica a un modello di intelligenza artificiale. Chi ha costruito il sistema — o chi ha deciso di adottarlo — ha un interesse, anche solo cognitivo, nel trovare che le performance siano adeguate. Questo non implica disonestà. Esso implica che il disegno della validazione, la scelta delle metriche, la selezione del dataset di test e la definizione del gold standard possono essere inconsapevolmente orientati verso una conferma piuttosto che verso una verifica critica.

Una validazione indipendente — condotta da chi non ha partecipato né allo sviluppo né all’adozione del sistema, con accesso ai dati originali e libertà di scegliere le metriche appropriate al contesto — è la risposta metodologicamente corretta a questo problema. Non è un lusso aggiuntivo. È la condizione che rende la documentazione di validazione effettivamente difendibile, davanti a un revisore, a un’autorità di vigilanza, o semplicemente davanti a un collega che chiede su quali basi il sistema è stato giudicato affidabile.

La domanda da farsi ora

La domanda che vale la pena farsi non è se il proprio sistema rientri formalmente nella classificazione alto rischio dell’AI Act. È una domanda più vicina alla pratica quotidiana: se qualcuno — un revisore, un’autorità, un cliente — chiedesse di vedere la documentazione di validazione del sistema in uso, quella documentazione reggerebbe a un esame metodologico indipendente? Passerebbe insomma una sorta di peer-review?

Costruire una risposta affermativa a questa domanda richiede esperienza specifica nella scelta delle metriche, nella gestione dei bias del dataset, nella pre-specificazione del protocollo prima di osservare i risultati, nel disegno del monitoraggio longitudinale. Sono competenze che si sviluppano nel tempo, lavorando su dati clinici complessi e strumenti di misura che devono essere difendibili. Chi le costruisce solo quando la situazione lo richiede — scopre quasi sempre, in quel momento, che non bastava il tempo che aveva.

Uno degli errori più costosi nella ricerca clinica non si commette durante l’analisi dei dati, ma molto prima quando si decide quanti partecipanti reclutare. Se i partecipanti sono troppo pochi, lo studio non ha la potenza per rilevare un effetto reale: si potrebbe concludere con un risultato non significativo che non dimostra nulla — né che il trattamento funziona né che non funziona — o con un risultato significativo che però è limitato dal campione troppo piccolo per essere interpretato con fiducia.

Se al contrario i partecipanti sono troppi, si arruolano più partecipanti di quanti necessario, si spendono risorse che non cambieranno la conclusione, e — nei trial con trattamenti sperimentali — si viola il principio etico di minimizzare l’esposizione a interventi non ancora validati.

Il calcolo della sample size non è un passaggio tecnico da delegare in fretta prima di iniziare il reclutamento. È una decisione scientifica che cristallizza tutte le assunzioni dello studio — sull’effetto atteso, sulla variabilità della misura, sull’errore che si è disposti a tollerare — e che deve essere documentata nel protocollo con la stessa cura delle analisi principali.

Prima del calcolo: capire cosa si sta chiedendo

Il calcolo della numerosità campionaria risponde a una domanda precisa: quante osservazioni servono per avere una probabilità sufficientemente alta di rilevare un effetto di una certa dimensione, assumendo che quell’effetto esista davvero? Ogni parola di questa frase contiene un’assunzione che deve essere quantificata prima di aprire qualunque software.

Il punto di partenza è l’ipotesi statistica. Nella maggior parte degli studi clinici si lavora con un framework di ipotesi nulla e alternativa: l’ipotesi nulla (H₀) afferma che non c’è differenza tra i gruppi, l’ipotesi alternativa (H₁) afferma che una differenza esiste. Il calcolo della sample size serve a dimensionare lo studio in modo che, se H₁ è vera, si abbia una probabilità accettabile di rifiutare H₀.

Il calcolo della sample size non è un passaggio tecnico da delegare in fretta. È una decisione scientifica che cristallizza tutte le assunzioni dello studio.

I quattro elementi fondamentali

Qualunque sia il disegno dello studio e il tipo di endpoint, il calcolo della sample size richiede sempre quattro elementi. Cambiano i valori, cambia il modo in cui entrano nella formula di calcolo, ma la struttura non cambia mai.

1. Il livello di significatività α

Il primo elemento del calcolo della sample size è il livello di significatività, indicato con la lettera greca alfa (α). Indica la probabilità di commettere un errore di tipo I, cioè di rifiutare H₀ quando è vera, concludendo che c’è un effetto quando in realtà non c’è. Si tratta, in termini pratici, del rischio di affermare un’efficacia che non esiste.

Per convenzione si fissa a 0.05 nella maggior parte degli studi clinici, a 0.025 in alcuni contesti regolatori con test a una coda, e a soglie molto più stringenti — fino a 5×10⁻⁸ — nella ricerca genomica, dove il numero di test simultanei è nell’ordine delle centinaia di migliaia. La scelta di α non è mai puramente statistica: è una scelta sul rischio che si è disposti a correre. In un trial che porta a un’approvazione regolatoria, le conseguenze di un falso positivo sono enormi — trattamenti inefficaci distribuiti su scala di popolazione — e questo giustifica soglie conservative.

2. La potenza statistica (1 − β)

La potenza statistica, espressa nella forma (1 − β), è la probabilità di rilevare un effetto reale quando questo esiste, ovvero di rifiutare H₀ quando H₁ è vera. Il suo complemento, β, è la probabilità di errore di tipo II: concludere che non c’è effetto quando invece c’è.

Per convenzione si lavora con potenze tra l’ 80% e il 90%, il che significa accettare rispettivamente un 20% o un 10% di probabilità di perdere un effetto reale. La scelta non è indolore: passare dall’ 80% al 90% aumenta la numerosità campionaria di circa il 30%, a parità di tutto il resto.

In studi con endpoint primari di sopravvivenza o in contesti regolatori, il 90% è spesso lo standard atteso. Per gli studi esplorativi o di fase II, l’ 80% può essere sufficiente. In casi selezionati — trial con endpoint rari, studi registrativi su popolazioni vulnerabili o contesti in cui le conseguenze di un falso negativo sono particolarmente gravi — la potenza può essere portata al 95%.

3. La dimensione dell’effetto atteso

Questo è il cuore del calcolo e la fonte di maggiore incertezza ed è anche l’elemento meno compreso da chi si avvicina al calcolo della sample size per la prima volta. Stimare la dimensione dell’effetto significa rispondere a una domanda concreta: di quanto ci aspettiamo che i due gruppi differiscano? Per un endpoint continuo sarà la differenza tra le medie; per un endpoint binario sarà la differenza tra proporzioni o il rischio relativo; per un endpoint di sopravvivenza sarà l’hazard ratio.

La dimensione dell’effetto non si sceglie liberamente. Non è un parametro arbitrario: deve essere giustificata da fonti accurate e documentabili. Le fonti principali sono i dati di studi precedenti — pilota, osservazionali o trial di fase II — e la letteratura pubblicata su popolazioni simili. In alcuni casi si ricorre al giudizio clinico su quale sia la differenza minima clinicamente rilevante (MCID, Minimal Clinically Important Difference). Il MCID è un concetto cruciale: non basta che un effetto sia statisticamente rilevabile, deve essere abbastanza grande da modificare o orientare la pratica clinica. Uno studio dimensionato per rilevare una differenza di 0.3 punti su una scala da 0 a 100 può essere statisticamente impeccabile e clinicamente irrilevante.

La dimensione dell’effetto agisce come una bilancia: più grande è l’effetto atteso, più piccolo è il campione necessario e viceversa. L’errore più comune è sovrastimare la dimensione dell’effetto per rendere lo studio più fattibile. Il risultato è uno studio dimensionato su un effetto irrealisticamente grande che si rivela, di fatto, molto inferiore: se l’effetto reale è più piccolo di quello ipotizzato, lo studio non avrà la potenza per rilevarlo. Ma la bilancia può sbilanciarsi anche nell’altra direzione: assumere un effetto talmente piccolo da richiedere una numerosità enorme porta a rilevare come statisticamente significativi effetti clinicamente trascurabili, resi significativi dalla sola forza del campione. È qui che il MCID torna centrale: la domanda non è solo “riusciamo a vedere questo effetto?” ma “se lo vediamo, cambia qualcosa nella pratica clinica?”

4. La variabilità della misura

Per gli endpoint continui, la formula del campione richiede una stima della deviazione standard della misura nella popolazione. Anche questa deve essere ricavata da fonti esterne — dati pilota, letteratura, registri — e non dalla distribuzione osservata nei dati dello studio stesso, che non sono ancora disponibili al momento del calcolo.

Sovrastimare la variabilità porta a campioni più grandi del necessario; sottostimarla porta a studi sottodimensionati. Quando l’incertezza sulla variabilità è elevata, la pratica corretta è condurre un’analisi di sensibilità: calcolare la sample size per diversi valori plausibili della deviazione standard e valutare quanto i risultati cambiano. Se una piccola variazione nell’assunzione sulla variabilità cambia radicalmente la numerosità richiesta, l’incertezza su quel parametro merita attenzione prima di finalizzare il disegno.

Le formule: cosa usare e quando

Per calcolare la sample size sono presenti numerose formule a seconda dei parametri a disposizione su cui eseguire il calcolo. Le formule qui sotto coprono i casi più frequenti nella pratica clinica. Per ognuna sono indicati i parametri richiesti e le condizioni di applicabilità. La scelta della formula giusta precede qualunque software: se non si è in grado di leggere e interpretare la formula, non si è in grado di valutare se il risultato restituito sia accurato e adatto alla situazione clinica specifica.

Confronto tra due medie indipendenti (endpoint continuo)

La formula per calcolare la numerosità per ciascun gruppo è:

n=2(zα2+zβ)2σ2δ2n = 2\cdot(z_{\frac{\alpha}{2}}+z_{\beta})^{2}\cdot\frac{{\sigma^{2}}}{\delta^{2}}

in cuinnè la numerosità campionaria che si intende calcolare,zα2z_\frac{\alpha}{2}è il quantile normale per il livello di significatività (solitamente fissato a 1.96 se alfa = 0.05 a due code),zβz_{\beta}è il quantile normale per la potenza (è pari a 0.84 per potenza all’80%, 1.28 per potenza al 90%),σ\sigmaè la deviazione standard comune nei due gruppi eδ\deltaè la differenza attesa tra le medie.

Confronto tra due proporzioni (endpoint binario)

Quando si confrontano due proporzioni per cui si ha un endpoint binario (successo/insuccesso), la formula è:

n=(zα2+zβ)2[p1(1p1)+p2(1p2)](p1p2)2n=(z_{\frac{\alpha}{2}}+z_{\beta})^{2}\cdot\frac{[p_{1}(1-p_{1})+p_{2}(1-p_2)]}{(p_{1}-p_{2})^{2}}

in cuinnè la numerosità campionaria che si sta cercando,p1p_1ep2p_2sono le proporzioni attese, mentrezα2z_\frac{\alpha}{2}ezβz_{\beta}sono gli stessi valori come definiti sopra.

Endpoint di sopravvivenza

Quando si lavora con gli endpoints di sopravvivenza, il calcolo si focalizza sul numero degli eventi necessari, dunque non sul numero di pazienti, il cui valore è determinato in un secondo momento. Dunque per questo tipo di endpoint il primo passo è calcolare il numero di eventi necessari utilizzando la seguente formula:

E=4(zα2+zβ)2[ln(HR)]2E = 4 \cdot\frac{(z_{\frac{\alpha}{2}}+z_{\beta})^2}{[ln(HR)]^2}

in cuiEEè appunto il numero di eventi necessari,HRHRè l’hazard ratio atteso tra i due gruppi (in questo caso si usa il logaritmo naturalelnln) e gli altri valorizα2z_\frac{\alpha}{2}ezβz_{\beta}sono quelli già visti.

Dopo aver determinato il numero necessario di eventi, il passo successivo è il calcolo della numerosità che è pari a:

N=Eprobabilità attesa di evento nel follow-upN = \frac{E}{\text{probabilità attesa di evento nel follow-up}}

La probabilità attesa di evento nel follow-up non è un parametro direttamente osservabile. Essa va stimata a partire dal tasso di eventi atteso nella popolazione e dalla durata del follow-up pianificata. In pratica, se si assume un tasso di eventi costante che indichiamo conλ\lambdae un follow-up di durataTT, la probabilità di osservare l’evento è approssimabile come1e(λT)1-e^{(-{\lambda}T)}. Anche questa stima deve provenire dalla letteratura o da dati pilota. Sovrastimare questo parametro porta a reclutare meno pazienti del necessario, esattamente come accade con la sovrastima della dimensione dell’effetto negli endpoint continui.

Assunzione per l’uso della formula

Questa formula si basa sull’assunzione che gli hazard siano proporzionali nel tempo, ovvero che il rapporto tra i rischi istantanei nei due gruppi rimanga costante per tutta la durata del follow-up. Quando questa assunzione non è soddisfatta — per esempio nei casi in cui l’effetto del trattamento si manifesta con ritardo o in cui le curve di sopravvivenza si incrociano — la formula sovrastima o sottostima il numero di eventi necessari, e l’hazard ratio perde il suo significato di misura sintetica dell’effetto. In questi contesti è necessario ricorrere a metodi alternativi, come i test weighted log-rank o le misure di area sotto la curva di sopravvivenza.

Studio crossover (endpoint continuo)

Quando si lavora con studi crossover la numerosità campionaria si può determinare applicando la seguente formula:

n=(zα2+zβ)22σd2δ2n = (z_{\frac{\alpha}{2}}+z_{\beta})^{2}\cdot\frac{2\sigma_{d}^{2}}{\delta^2}

in cuiddè la deviazione standard delle differenze intra-soggetto (tipicamente pari aσd=σ2(1ρ)\sigma_d = \sigma\sqrt{2(1-\rho)}, in cuiρ\rhoè la correlazione tra le due misurazioni) ednnè il numero totale di soggetti (ognuno riceve entrambi i trattamenti).

Studio cluster-randomizzato

Quando si lavora su studi cluster con randomizzazione la numerosità si calcola come:

n=n[1+(m1)ICC]n^*=n\cdot[1+(m-1)\cdot ICC]

in cuinnè la numerosità campionaria calcolata per un disegno parallelo standard,mmè la dimensione media del cluster eICCICCè l’intraclass correlation coefficient che misura la somiglianza tra partecipanti dello stesso cluster, ednn^*è la numerosità effettiva richiesta per lo studio (inflation factor).

Trial di non inferiorità (endpoint continuo)

Quando si definisce la numerosità campionaria per un trial di non inferiorità con endpoint continuo, la formula da applicare è:

n=(zα+zβ)22σ2(Δδ)2n = (z_{\alpha}+z_{\beta})^{2}\cdot\frac{2\sigma^{2}}{(\Delta-\delta)^{2}}

in cuiΔ\Deltaè il margine di non-inferiorità (pre-specificato su base clinica),δ\deltaè la differenza attesa tra i trattamenti (spesso 0 se si assume equivalenza pratica),zαz_\alphaè il quantile ad una coda (pari a 1.645 perα=0.05\alpha=0.05).

Quale formula scegliere?

SituazioneFormulaParametri necessari
Endpoint continuo
Due gruppi indipendenti
n = (zα/2+ zβ)² × 2σ² / δ²
n = numerosità per gruppo
δdifferenza attesa tra le medie
σdeviazione standard comune (da letteratura o pilota)
α, potenzafissati prima del calcolo
Endpoint binario
Sì/no, responder/non-responder
n = (zα/2+ zβ)² × [p₁(1−p₁) + p₂(1−p₂)] / (p₁−p₂)²
n = numerosità per gruppo
p₁, p₂proporzioni attese nei due gruppi (da letteratura)
α, potenzafissati prima del calcolo
Formula senza correzione per la continuità
Sopravvivenza
Tempo all’evento
E = 4 × (zα/2+ zβ)² / [ln(HR)]²
N = E / P(evento nel follow-up)
Prima gli eventi, poi i pazienti
HRhazard ratio atteso
P(evento)stimata come 1 − e−λT
lnlogaritmo naturale (non log₁₀)
Crossover
Endpoint continuo
n = (zα/2+ zβ)² × 2σd² / δ²
σd= σ√(2(1−ρ))
n = numero totale di soggetti
σddeviazione standard delle differenze intra-soggetto
ρcorrelazione tra le due misurazioni sullo stesso soggetto
Non usare la SD between-soggetti al posto di σd
Cluster-randomizzato
Qualsiasi endpoint
n* = n × [1 + (m−1) × ICC]
Design Effect applicato alla n standard
nnumerosità da disegno parallelo standard
mdimensione media del cluster
ICCintraclass correlation coefficient (parametro più incerto)
Non-inferiorità
Endpoint continuo
n = (zα+ zβ)² × 2σ² / (Δ−δ)²
Test a una coda: zα, non zα/2
Δmargine di non-inferiorità (giustificato clinicamente)
δdifferenza attesa tra i trattamenti (spesso 0)
zαquantile a una coda (1.645 per α = 0.05)

Aggiustamenti pratici

Il calcolo base fornisce la numerosità netta, ossia il numero di partecipanti che devono completare lo studio e contribuire all’analisi primaria. Ma negli studi longitudinali una quota di partecipanti abbandonerà prima della fine: si ritira, si trasferisce, perde il follow-up, muore per cause non correlate all’endpoint. Questa quota va anticipata e incorporata nel calcolo.

Se si prevede un tasso di dropout del 20%, la numerosità deve essere aumentata dividendo per (1 − 0.20): se il calcolo base richiede 100 partecipanti per gruppo, ne vanno reclutati 125. Questa correzione assume implicitamente che il dropout sia indipendente dal trattamento e dall’outcome, un’assunzione quest’ultima che va valutata criticamente, perché un dropout sistematicamente legato all’efficacia o agli effetti avversi cambia il profilo del bias, non solo della potenza.

Se lo studio prevede analisi per sottogruppi pre-specificate con rilevanza confermativa o endpoint multipli senza una struttura gerarchica, la molteplicità deve essere gestita anche nel calcolo della sample size: il livello α da usare nella formula non è 0.05, ma il livello corretto dopo l’aggiustamento previsto, per esempio 0.025 con correzione di Bonferroni su due endpoint.

Studi di non-inferiorità

Nei trial di non-inferiorità l’obiettivo non è dimostrare che il nuovo trattamento è migliore del controllo, ma che non è peggiore di un margine pre-stabilito — il cosiddetto margine di non-inferiorità, indicato con Δ. Questa inversione logica cambia radicalmente il calcolo della sample size.

Il margine Δ deve essere definito prima dello studio, su basi cliniche e statistiche solide. Il campione deve essere abbastanza piccolo da preservare una quota sostanziale dell’effetto del controllo attivo rispetto al placebo — il cosiddettofraction retained— e deve essere giustificato nella letteratura. Un margine scelto per rendere lo studio più facile da condurre, e non per ragioni cliniche, è una delle manipolazioni più difficili da individuare e più dannose per la qualità dell’evidenza.

La numerosità in un trial di non-inferiorità dipende criticamente dall’ampiezza del margine Δ. Quanto più il margine è stretto — come dovrebbe essere per ragioni cliniche — tanto più grande è il campione richiesto. Con margini molto conservativi, la numerosità può superare quella di un trial di superiorità equivalente; con margini più ampi, può essere inferiore. In ogni caso, uno studio di non-inferiorità sottodimensionato non è uno studio conservativo: è uno studio che favorisce sistematicamente la conclusione di non-inferiorità, perché intervalli di confidenza ampi rientrano più facilmente entro il margine, indipendentemente dalla realtà.

Studi di equivalenza

I trial di equivalenza pongono una sfida ulteriore. Qui l’obiettivo è dimostrare che i due trattamenti non differiscono in nessuna direzione oltre il margine Δ — né che il nuovo sia peggiore né che sia migliore del controllo in misura clinicamente rilevante. Dal punto di vista del calcolo, questo si traduce in un doppio test: bisogna escludere simultaneamente sia l’inferiorità che la superiorità, il che in pratica si ottiene costruendo un intervallo di confidenza bilaterale e verificando che cada interamente all’interno del corridoio (−Δ, +Δ). Gli studi di equivalenza richiedono in genere campioni ancora più grandi rispetto a quelli di non-inferiorità, e la scelta del margine — che deve essere simmetrico e giustificato clinicamente in entrambe le direzioni — diventa ancora più delicata.

Strumenti per il calcolo

Esistono diversi strumenti affidabili per eseguire il calcolo, ciascuno con i propri punti di forza.

G*Powerè il software gratuito più diffuso in ambito accademico: copre un’ampia gamma di disegni sperimentali e test statistici, permette di calcolare la potenza dato il campione o la numerosità data la potenza, e produce grafici di sensibilità che mostrano come la potenza varia al variare della dimensione dell’effetto. È adatto per la maggior parte degli studi clinici standard.

R è il software più conosciuto in ambito statistico ed offre pacchetti dedicati — tra cui pwr, pwrss e TrialSize — che coprono disegni più complessi e permettono di integrare il calcolo direttamente nel flusso di analisi, facilitando documentazione e riproducibilità. Per studi con endpoint di sopravvivenza, il pacchetto gsDesign gestisce anche i disegni con analisi interim e alpha spending.

Un software molto noto in contesti regolatori èPASS: copre centinaia di disegni sperimentali, produce output dettagliati adatti alla documentazione regolatoria, e viene aggiornato regolarmente con le nuove metodologie. È lo standard de facto in molte CRO e in studi di fase III. Un’altra opzione commerciale molto usata in ambito farmaceutico ènQuery, che ha funzionalità specifiche per disegni adattativi e trial bayesiani.

La scelta dello strumento dipende dal contesto — accademico o industriale, esplorativo o regolatorio — ma la logica del calcolo è la stessa. Ciò che occorre ricordare è che nessuno strumento sostituisce la comprensione della formula che sta usando. Se non si è in grado di leggere e interpretare la formula alla base del calcolo, non si è in grado di valutare se il risultato restituito sia accurato e adatto alla situazione clinica specifica. Il software esegue: il giudizio metodologico resta sempre in capo a chi esegue il calcolo.

Come documentare il calcolo nel protocollo

Il calcolo della sample size non deve solo essere eseguito, ma deve essere documentato in modo che chiunque legga il protocollo possa riprodurlo e valutarne le assunzioni. La sezione dedicata deve riportare: il tipo di test statistico usato per il calcolo, tutti i parametri inseriti con le loro fonti, il software e la versione, il risultato finale con e senza l’aggiustamento per dropout, e — quando rilevante — un’analisi di sensibilità che mostri come la numerosità cambia al variare delle assunzioni chiave.

Una pratica che vale la pena adottare, quando possibile e non eccessivamente onerosa per il lettore, è riportare esplicitamente le formule alla base del calcolo. Farlo facilita la lettura, aumenta la riproducibilità e rende immediatamente evidente cosa si sta misurando e perché nel contesto specifico dello studio. La trasparenza non è un optional per chi vuole soddisfare i revisori. Questa è la garanzia che le assunzioni su cui si basa lo studio possano essere discusse, criticate e — se necessario — corrette prima che il reclutamento inizi.

Cosa fare operativamente: i sei passi

Il calcolo della sample size può sembrare un esercizio astratto fino a quando non ci si siede davanti a un protocollo vuoto. Questi sono i passi nell’ordine in cui vanno affrontati, ognuno deve essere completato prima di passare al successivo.

Passo 1 —Definire l’endpoint primario e il tipo di analisi

La formula da usare dipende interamente da questa scelta. Un confronto tra medie richiede una formula diversa da un confronto tra proporzioni, che richiede una formula diversa da un’analisi di sopravvivenza (vedi formule sopra). Scegliere la formula sbagliata invalida tutto il calcolo che segue.

Passo 2 —Raccogliere le stime dei parametri

Dalla letteratura o da dati pilota: la dimensione dell’effetto atteso, la deviazione standard per gli endpoint continui, il tasso di eventi per gli endpoint binari o di sopravvivenza. Ogni stima deve avere una fonte documentabile — non “è plausibile” ma “è coerente con i dati di [studio X, anno Y]”.

Passo 3 —Fissare α e la potenza con una giustificazione

Non ci si riduce al “usiamo i valori standard”. Se il contesto è esplorativo, l’ 80% è difendibile. Se il contesto è regolatorio o l’endpoint è di sopravvivenza, il 90% è più appropriato. La scelta deve essere motivata nel protocollo.

Passo 4 —Eseguire il calcolo e fare almeno un’analisi di sensibilità

Verificare che i parametri inseriti nel software corrispondano alle stime raccolte, poi variare i parametri più incerti per capire quanto il risultato sia robusto alle assunzioni. Se piccole variazioni producono grandi cambiamenti nella numerosità, l’incertezza su quel parametro va affrontata prima di procedere.

Passo 5 —Aggiustare per il dropout atteso

Tenendo conto del disegno: in uno studio crossover il dropout si gestisce diversamente che in uno studio parallelo. La correzione deve essere documentata separatamente dal calcolo base, in modo che il lettore veda sia la numerosità netta che quella lorda.

Passo 6 —Documentare tutto nel protocollo

Parametri, fonti, formula, software, risultato lordo e netto. Un calcolo non documentato è un calcolo che non esiste — e che nessun revisore, nessun comitato etico, nessuna autorità regolatoria accetterà come tale.

Una nota finale sul ricalcolo in corso di studio

In alcuni disegni adattativi è prevista la possibilità di riesaminare la numerosità campionaria a metà studio, sulla base di dati intermedi — tipicamente la varianza osservata o il tasso di eventi, ma non la dimensione dell’effetto. Questo ricalcolo, se pianificato nel protocollo e condotto in cieco rispetto all’effetto del trattamento, è metodologicamente accettabile e può aumentare la robustezza dello studio rispetto a errori nelle assunzioni iniziali.

Quello che non è accettabile è aumentare la numerosità a metà studio perché i risultati intermedi sembrano negativi, senza che questo fosse previsto nel disegno originale. Un ricalcolo non pianificato, condotto guardando i dati di efficacia, introduce un bias che non ha rimedio statistico — e che nelle submission regolatorie viene sistematicamente identificato.

Il calcolo della sample size è la prima analisi statistica che si fa su uno studio. Vale la pena farlo bene.

I contenuti di Mathsly Research Magazine hanno finalità divulgative e non costituiscono consulenza professionale. Non ci assumiamo responsabilità per decisioni adottate sulla base dei soli articoli pubblicati. Termini d'uso