Under Review. Intelligenza artificiale, ricerca clinica e giudizio metodologico

Ho letto recentemente il saggio di Dario Amodei, CEO di Anthropic, la società che ha creato Claude, dal titoloThe Adolescence of Technology. Il lavoro si apre con una scena del filmContactin cui la protagonista chiede agli alieni: “Come avete fatto a sopravvivere alla vostra adolescenza tecnologica senza distruggervi?“.

Partendo da questa domanda, Amodei — sostenendo che con l’intelligenza artificiale (AI) stiamo vivendo esattamente lo stesso momento — presenta una disamina articolata di come l’AI si stia trasformando velocemente e come potrebbe entro un paio di anni divenire più intelligente di qualsiasi Premio Nobel in qualsiasi campo, capace di agire autonomamente per giorni o settimane, replicabile in milioni di istanze: una sorta di, come la chiama lo stesso Amodei, “un paese di geni in un datacenter”.

Nello stesso saggio Amodei identifica cinque rischi a cui una tale intelligenza potrebbe spingerci: comportamenti autonomi e imprevedibili emersi durante il training, uso improprio per la distruzione — in particolare biologica —, concentrazione del potere in mani sbagliate, disruption economica su larga scala del lavoro cognitivo ed effetti indiretti ancora difficili da prevedere, dalla dipendenza psicologica alla perdita di senso.

La domanda iniziale del saggio ritorna così prepotente: “Come avete fatto a sopravvivere alla vostra adolescenza tecnologica senza distruggervi?“. È una domanda che mi ha fatto pensare. Non in astratto, ma in concreto, nel mio lavoro di ogni giorno.

Quello che vedo

Negli ultimi mesi qualcosa è cambiato nel modo in cui arrivano le richieste di consulenza. Sempre più spesso mi trovo davanti a protocolli già impostati, dataset già analizzati, SAP già redatti, output statistici già prodotti, paper già scritti. Un’insolita escalation di materiale già pronto. Tutto già “cotto e mangiato”. Tutto di chiara fonte AI. Fatto velocemente e a volte fatto anche molto bene, con insight anche interessanti, devo essere onesta.

A prima vista sembra di essere entrati nel paese dei balocchi di Collodi: tutto perfetto, tutto veloce, tutto possibile. Eppure io, affezionata e memore della storia di Pinocchio, non riesco a guardare tanta apparente perfezione senza mettermi a cercare le orecchie d’asino — magari nascoste sotto un bel cappello, o anche solo sotto una semplice busta della spesa. E le orecchie ci sono, quasi sempre. Stanno lì, silenziose, proprio come quelle di Pinocchio e del povero Lucignolo, per il quale ho sempre sperato — e continuo a sperare — che si salvi. Che capisca. Che torni.

Perché quelle orecchie nascoste non sono solo errori tecnici. Sono il segnale di qualcosa di più profondo: di un’opportunità mancata di pensare, di firmare, di essere presenti nel lavoro che si produce. E da lì nascono le riflessioni che hanno dato vita a questa rubrica.

Pinocchio alla fine ce la fa: smette di inseguire il paese dei balocchi, impara a fare le domande giuste e diventa un bambino vero. Ma la domanda che mi porto dietro non è solo se riusciremo a fare lo stesso — è se, una volta capita la lezione, avremo anche il coraggio di tornare indietro a tendere una mano a Lucignolo.

Perché sì, in fondo la storia dell’AI ripropone lo stesso vecchio copione: il paese dei balocchi, il campo dei miracoli, il Gatto e la Volpe che promettono alberi carichi di monete d’oro. Il problema — voglio chiarirlo bene — non è l’AI, esattamente come il problema non potrebbe essere il nostro smartphone o la nostra auto super tecnologica. L’AI fa esattamente quello che le viene chiesto. Siamo noi che confrontandoci con l’AI siamo chiamati a scegliere se fare come Pinocchio prima di aver capito — credere che il Gatto e la Volpe siano due gentiluomini, che esista davvero un posto in cui mangiare, bere e giocare senza mai studiare né lavorare — oppure capire la lezione di Pinocchio, aprire gli occhi, fare le domande giuste e magari andare a salvare anche Lucignolo.

Nei report che ricevo fatti interamente da AI ciò che mi allerta è che nessuno ha pensato alle conseguenze, a dove un’AI non supervisionata può condurre. Nessuno ha validato il dataset. Non vi è stata alcuna verifica che le finestre temporali del protocollo fossero rispettate. Nessuno ha controllato che i criteri di esclusione fossero applicati. Ed ancora, nessuno ha firmato — nel senso pieno della parola — il ragionamento metodologico dietro ogni scelta. Insomma, un report senza anima — non nel senso tecnico, ma in quello più profondo: quello del sapere umano che dovrebbe stare dietro ogni scelta, ogni numero, ogni conclusione. Il segno di un ragionamento che, ahimè non c’è stato.

E allora mi chiedo: quando arriverà il momento di difendere quell’analisi davanti a un reviewer, a un comitato etico o a un’autorità regolatoria — e l’AI non potrà e non dovrà essere lì — chi risponderà? Chi risponderà davanti a colleghi con anni di studio e sacrificio alle spalle? Chi risponderà ai pazienti in attesa di una cura, di una strada che consenta loro di vedere un futuro oltre la loro malattia?

Non ci sarà l’AI di fronte a tutto questo. Ci saremo noi e ci saranno i pazienti, vittime silenziose di ogni errore dovuto a questa mancanza di supervisione. Il giudizio non arriverà da un tribunale della città di Acchiappacitrulli, dove finisce in prigione chi è stato truffato: arriverà dalle conseguenze che dovremo sopportare. Da uno studio che non regge o da una cura che non funziona come promesso. Da una decisione clinica fondata su un’analisi che nessuno ha mai davvero firmato.

È il monito del Grillo Parlante, lo so. Ma per dirla con Oriana Fallaci: “Vi sono momenti, nella vita, in cui tacere diventa una colpa e parlare diventa un obbligo. Un dovere civile, una sfida morale, un imperativo categorico al quale non ci si può sottrarre.”

Perché Under Review

Da queste riflessioni è nata la rubrica Under Review.

Non è una rubrica contro l’AI. Non mi interessa la polemica e non sarei credibile nel farla: l’AI è entrata con forza anche nel mio lavoro di ogni giorno ed è un buon assistente digitale. Tante attività prima logoranti e da far manualmente, sono adesso diventate veloci proprio grazie all’AI. È inoltre, a volte, un ottimo compagno per chiarirsi le idee: un luogo in cui dialogare dove la domanda giusta conta più della risposta che ne riceviamo.

Ma — ed è un ma importante — gli algoritmi AI possono produrre output apparentemente impeccabili, non ragionamento. Possono generare testo, non giudizio metodologico. Quale modello usare. Quali assunzioni difendere. Quali limiti riconoscere. Queste non sono scelte tecniche automatizzabili: sono decisioni forgiate da anni di lavoro sul campo, di revisioni, di difese davanti a comitati e reviewer — il frutto di studio e di esperienza, un mix imprescindibile di valori e principi che nessuno potrà mai sottrarre all’uomo.

Paradossalmente, l’AI sa tanto, ma per poterla utilizzare al meglio ne dobbiamo sapere di più. Se da un lato riduce il lavoro operativo, dall’altro ci obbliga — e sottolineo obbliga — a rendere il nostro sapere più solido. Ci ha alleggerito alcuni compiti, ma ci chiede di apprendere di più e più in fretta. Non per diventare esperti in tutto — sarebbe impossibile e nessuno vuole davvero farlo — ma perché il sapere trasversale è ciò che ci rende pienamente umani. Essere bravi in un solo ambito non ci rende perfetti: ci rende monotematici. Pensiamo all’uomo vitruviano di Leonardo: quella perfezione nasce dall’equilibrio tra tutte le parti, non dallo sviluppo esasperato di una sola. Un corpo tutto formato su un arto, con il resto lasciato abbozzato, non è perfezione: è squilibrio.

In medicina il dibattito ha superato da tempo la domanda “L’AI ci sostituirà?”. L’AI supporta la diagnosi, accelera l’analisi delle immagini, aiuta i clinici a integrare informazioni più rapidamente. Ma il giudizio resta umano legato ad anni di formazione, anni di esperienza, anni di studio per leggere oltre il semplice risultato. È esattamente il modello di cui ha bisogno la ricerca. Non opposizione all’AI. Non sostituzione. Integrazione. Lo strumento accelera il lavoro, il ragionamento umano decide cosa quel lavoro significa davvero.

Gli strumenti hanno reso la superficie di questo lavoro più semplice. Il ragionamento sottostante è rimasto esattamente altrettanto difficile. E il divario tra il lavoro che sembra competente e il lavoro che lo è davvero non è mai stato più ampio.

Under Review vuole andare al cuore di questo divario: studiare casi, analizzare implicazioni che non sono ovvie, fare ad alta voce le domande che nessuno sta ancora facendo abbastanza. Perché l’AI diventi la nostra tecnologia diventata adulta e non un’adolescente impazzita che gestisce il nostro lavoro e il nostro quotidiano.

A chi è utile

La ricerca clinica è fatta di persone, ciascuna con anni di studio alle spalle e una responsabilità reale davanti. L’AI è entrata in questo mondo velocemente, spesso prima che ci fosse il tempo di capire dove finisce lo strumento e dove inizia il ragionamento. Under Review nasce per chi quella domanda se la sta già facendo. E anche per chi ancora non se la fa — ma prima o poi sarà chiamato a farla, perché la realtà, quella vera non quella AI, ha il brutto vizio di presentare il conto.

Questa rubrica vuole richiamare alla memoria la storia di Pinocchio e ricordare che tutti siamo chiamati a diventare bambini veri, basta smettere di credere alle promesse del Gatto e della Volpe e iniziare a fare le domande giuste. E vuole altresì essere anche una mano tesa a Lucignolo, nella speranza che le orecchie d’asino non diventino permanenti.

Non per spaventare. Per pensare insieme.