Elena Ottavianelli, direttrice scientifica AICRO, interviene su rischi, regole e controllo nel processo di ricerca clinica
In questi giorni si è intensificato, a livello globale, il dibattito sui rischi dell’Intelligenza artificiale, uno dei quali riguarda il potenziale uso improprio, se non addirittura fraudolento, negli studi clinici. Dal 2024 ci sono stati alcuni casi di studi, pubblicati su riviste scientifiche, e poi ritirati non appena ci si è resi conto che erano stati manipolati con l’aiuto dell’AI. In Italia a far luce su questo particolare rischio ha contribuito un recente articolo, apparso sul Corriere della Sera del 14 settembre, a firma di Milena Gabanelli.
Questo nuovo potenziale rischio pone una domanda legittima e importante: l’Intelligenza artificiale può essere utilizzata per alterare o costruire dati scientifici apparentemente credibili? La risposta è sì. Come ogni tecnologia potente, anche l’AI può essere impiegata in modo improprio.
Ma il punto centrale è un altro: il sistema della ricerca clinica è già costruito per prevenire, identificare e gestire questo tipo di rischio.
Negli ultimi anni l’Intelligenza artificiale è entrata progressivamente nei processi di sviluppo dei farmaci, nell’analisi statistica e nella gestione di grandi quantità di dati sanitari. Non si tratta però di uno strumento lasciato senza controllo. La ricerca clinica opera all’interno di un quadro regolatorio tra i più rigorosi esistenti, fondato sulla valutazione continua dei rischi, sulla trasparenza dei processi e sulla verifica indipendente dei risultati.
Ogni studio clinico viene progettato, monitorato e controllato secondo procedure consolidate che prevedono la valutazione preventiva dei rischi scientifici, metodologici, etici e tecnologici. La qualità dei dati non viene data per scontata: viene costruita e verificata lungo tutto il percorso della ricerca. Ogni singolo dato prodotto ai fini di ricerca viene verificato e validato per completezza, coerenza e rispodenza ai dati originali dei pazienti da cui viene generato. Anche gli algoritmi e i sistemi digitali utilizzati devono essere verificati, documentati e sottoposti a controlli periodici.
Spesso nel dibattito pubblico si tende a confondere la pubblicazione scientifica con l’intero processo di sviluppo di un farmaco. In realtà l’articolo scientifico rappresenta solo la fase finale di comunicazione dei risultati. A monte esiste un lavoro molto più ampio che coinvolge sperimentatori, biostatistici, gestori dei dati, esperti di qualità, autorità regolatorie e comitati etici. I dossier esaminati dagli enti regolatori sono infatti incomparabilmente più estesi e dettagliati delle informazioni riportate in una pubblicazione, anche quando compare sulle riviste scientifiche più autorevoli.
Lo stesso vale per l’Intelligenza artificiale. Gli algoritmi non producono conoscenza dal nulla. I modelli vengono sviluppati a partire da dati reali, applicando metodologie statistiche che devono essere giustificate, validate e rese verificabili. Quando tali approcci vengono utilizzati in un contesto regolatorio, sono oggetto di valutazione da parte delle autorità competenti, che ne esaminano presupposti, limiti e affidabilità.
Gli episodi di manipolazione o falsificazione dei dati citati nell’articolo non dimostrano quindi una fragilità intrinseca della ricerca clinica. Al contrario, ricordano quanto sia indispensabile mantenere elevati standard di controllo, sorveglianza e competenza professionale. In questo senso, la conclusione della stessa Gabanelli coglie un punto essenziale: la credibilità di uno studio dipende dall’affidabilità dei dati, dalla solidità del metodo e dall’esperienza di chi conduce la ricerca.
Anche per questo motivo chi opera professionalmente nella ricerca mantiene sempre uno sguardo critico sulla letteratura scientifica, indipendentemente dal prestigio della rivista che la pubblica. La validazione delle evidenze non si esaurisce infatti nella revisione tra pari (la “peer review”), ma continua attraverso processi regolatori, analisi indipendenti e confronti multidisciplinari che coinvolgono competenze scientifiche, cliniche, statistiche e, sempre più spesso, anche informatiche e legate alla protezione dei dati personali.
L’Intelligenza artificiale rappresenta senza dubbio una grande opportunità per migliorare l’efficienza della ricerca e accelerare l’arrivo di nuove terapie ai pazienti. Tuttavia, come ogni innovazione che incide sulla salute delle persone, deve essere accompagnata da regole chiare, responsabilità definite e controlli rigorosi. La fiducia nella ricerca non nasce dalla tecnologia, ma dalla capacità del sistema di governarla.
Il confronto pubblico su questi temi è non solo utile, ma necessario. Proprio per questo sarebbe auspicabile che il dibattito coinvolgesse tutti gli attori della filiera della ricerca, dagli scienziati ai regolatori, dai professionisti del settore ai rappresentanti dei pazienti, affinché l’attenzione verso i rischi non oscuri il valore di un sistema che ogni giorno lavora per garantire sicurezza, qualità e innovazione terapeutica.
