Con l'intelligenza artificiale generativa che si avvicina sempre di più all'assistenza clinica, la domanda più importante non è più cosa può fare l'AI, ma se possiamo fidarci di essa affinché lo faccia in modo responsabile.

L'intelligenza artificiale si sta rapidamente spostando dai laboratori di ricerca agli ambienti sanitari reali. È già oggetto di sperimentazione e implementazione nell'imaging medico, nella documentazione clinica, nella comunicazione con i pazienti, nello sviluppo di farmaci e nei sistemi di supporto alle decisioni. Ma man mano che i sistemi di AI diventano più capaci, emerge una nuova sfida: come dovrebbe la sanità valutare tecnologie in grado di generare risposte, adattare i propri output e svolgere attività sempre più complesse?

Questa domanda ha recentemente assunto un ruolo centrale. Il 18 agosto 2026, la U.S. Food and Drug Administration (FDA) ha pubblicato un documento di discussione dedicato alla regolamentazione dei dispositivi medici basati sull'AI generativa, chiedendo agli stakeholder di fornire il proprio contributo su come queste tecnologie dovrebbero essere valutate durante tutto il loro ciclo di vita.

Il momento è significativo. L'AI nel settore sanitario non riguarda più semplicemente il riconoscimento di pattern; riguarda sempre più il ragionamento, la generazione di contenuti, l'interazione e il supporto alle decisioni. E questo cambia tutto.

Dall'AI predittiva all'AI generativa

Le tecnologie mediche tradizionali basate sull'AI sono generalmente progettate per attività specifiche e strettamente definite: analizzare un'immagine, identificare una caratteristica, calcolare un punteggio di rischio o classificare una condizione.

L'AI generativa introduce un livello di complessità completamente diverso. I Large Language Models (LLM) e i sistemi multimodali possono generare nuovi output sulla base di molteplici fonti di informazioni. Possono sintetizzare la documentazione clinica, interagire in modo conversazionale, interpretare flussi di dati diversi e supportare i professionisti in diverse fasi del workflow clinico.

Tipo di output

• AI predittiva / tradizionale: output fissi (classificazione, punteggio di rischio)

• AI generativa: output dinamici (testo, sintesi, contenuti multimodali)

Ambito

• AI predittiva / tradizionale: singola attività strettamente definita

• AI generativa: multitasking, adattabile a diversi workflow

Valutazione

• AI predittiva / tradizionale: criteri di validazione consolidati e statici

• AI generativa: valutazione continua basata sul contesto e sull'evoluzione dei modelli

Sebbene la flessibilità sia uno dei principali punti di forza dell'AI generativa, rappresenta anche la sua principale sfida. Un sistema che produce un output fisso per un'attività definita può essere valutato attraverso metriche consolidate. Un sistema generativo può invece produrre risposte diverse a input simili, interagire dinamicamente con gli utenti ed evolversi quando i modelli sottostanti vengono aggiornati.

La domanda fondamentale diventa quindi: come valutiamo un sistema le cui capacità non sono sempre fisse?

La FDA sta ponendo una domanda diversa

Il documento di discussione della FDA analizza aspetti normativi che includono la valutazione del rischio, la valutazione pre-commercializzazione e il monitoraggio post-commercializzazione dei dispositivi medici basati sull'AI generativa.

Un concetto particolarmente importante che emerge da questo confronto riguarda la valutazione dell'AI in base alla sua competenza per il compito specifico che è destinata a svolgere.

Invece di chiederci soltanto: "La tecnologia funziona?", dobbiamo sempre più chiederci: "La tecnologia è sufficientemente competente per lo specifico compito clinico nel quale viene utilizzata?"

Questa distinzione è estremamente importante. Un sistema di AI che aiuta un professionista sanitario a organizzare informazioni amministrative non presenta lo stesso profilo di rischio di un sistema di AI che contribuisce a una decisione diagnostica o terapeutica. Le conseguenze di un output errato sono fondamentalmente diverse.

La futura regolamentazione dell'AI sanitaria non si baserà quindi su un'unica definizione universale di "buona AI". Saranno invece il rischio, l'uso previsto, il contesto clinico e le potenziali conseguenze a guidare i framework di valutazione.

La sanità non può trattare l'AI come un software qualunque

L'AI generativa crea un'altra sfida fondamentale: i suoi output sono spesso probabilistici anziché deterministici. Lo stesso modello può generare risposte diverse a seconda del contesto, della formulazione del prompt o della versione del modello.

I paradigmi convenzionali dell'ingegneria del software non sono sufficienti negli scenari clinici ad alto rischio. I sistemi sanitari devono andare oltre accuratezza, performance e usabilità:

• Trasparenza e tracciabilità: comprendere come gli input portano agli output generati.

• Bias ed equità: garantire prestazioni eque tra diversi gruppi demografici di pazienti.

• Privacy e cybersecurity: proteggere i dati dei pazienti nelle interfacce conversazionali e generative.

• Supervisione umana e validazione clinica: mantenere confini chiari per la responsabilità dei professionisti sanitari.

• Monitoraggio post-implementazione: monitorare l'evoluzione delle prestazioni man mano che cambiano modelli e ambienti.

Ricerche recenti pubblicate su Nature evidenziano che la rapida integrazione dei Large Language Models nella sanità crea nuove responsabilità, vulnerabilità e potenziali rischi per la sicurezza che devono essere valutati sistematicamente prima di una diffusione clinica su larga scala.

Costruire un potente sistema di AI per la sanità è solo metà della sfida. Costruire un sistema di cui ci si possa fidare responsabilmente è l'altra metà.

Il professionista umano rimane centrale

Un'idea sbagliata comune sull'AI nella sanità è che il suo obiettivo sia sostituire i professionisti sanitari. L'opportunità molto più significativa è invece quella dell'human augmentation, ovvero il potenziamento delle capacità umane.

Un professionista clinico porta con sé comprensione del contesto, intuizione clinica, capacità comunicative, giudizio etico e responsabilità ultima.

L'intelligenza artificiale offre capacità complementari:

• Elaborare grandi quantità di dati clinici non strutturati

• Identificare pattern sottostanti tra fonti di dati differenti

• Ridurre il carico delle attività amministrative ripetitive

• Supportare il rapido recupero di informazioni e prove scientifiche

• Supportare workflow strutturati e personalizzati per i pazienti

• Fornire segnali secondari di supporto alle decisioni

Il modello sanitario più efficace non è Essere umano contro AI, ma Competenza umana + Intelligenza Artificiale.

Il vero valore dell'AI potrebbe essere invisibile

L'AI sanitaria più preziosa non sarà necessariamente la tecnologia con la demo più spettacolare. Sarà la tecnologia che migliorerà in modo silenzioso e fluido il modo in cui lavorano i professionisti sanitari.

Immaginiamo un ambiente in cui l'AI trasforma dati frammentati dei pazienti in conoscenza strutturata, automatizza la documentazione di routine e presenta informazioni rilevanti esattamente nei momenti in cui servono.

L'AI non deve necessariamente essere il decisore; agisce come un livello intelligente di supporto per gli esseri umani che prendono le decisioni.

È qui che l'AI passa dall'essere una novità tecnologica a diventare una vera e propria infrastruttura sanitaria.

La fiducia deve essere progettata fin dall'inizio

La fiducia non può essere aggiunta a un sistema di AI dopo la sua implementazione; deve essere progettata fin dal primo giorno.

L'innovazione responsabile richiede di rispondere in anticipo ad alcune domande fondamentali:

1. Provenienza dei dati: su quali dati è stato costruito e ottimizzato il sistema?

2. Valutazione: come è stato validato il modello nei casi limite?

3. Modalità di errore: quali meccanismi di sicurezza entrano in funzione quando il sistema commette un errore?

4. Spiegabilità: i professionisti sanitari possono comprendere perché è stato generato uno specifico output?

5. Responsabilità: chi mantiene la responsabilità ultima delle decisioni cliniche?

6. Gestione del ciclo di vita: come viene monitorata la performance quando i modelli sottostanti vengono aggiornati?

Il lavoro della FDA riflette una transizione più ampia del settore: valutare l'AI durante l'intero ciclo di vita, invece di affidarsi a un singolo controllo statico prima dell'implementazione.

La prossima generazione dell'AI nella sanità

L'AI sanitaria sta entrando in una nuova fase di maturità:

• Fase 1: dimostrare che l'AI può svolgere attività isolate in modo impressionante.

• Fase 2: dimostrare che l'AI può essere implementata in modo sicuro, responsabile e significativo nei workflow clinici reali.

Sbloccare la Fase 2 richiede solidi framework di valutazione, una rigorosa governance dei dati, una cybersecurity robusta, un monitoraggio continuo post-commercializzazione e una profonda collaborazione tra sviluppatori tecnologici e professionisti sanitari.

La capacità da sola non determinerà il successo dell'AI nella sanità.

Lo farà la fiducia.

La prospettiva di Kemetica

In Kemetica crediamo che il futuro dell'AI nella sanità non sia definito dalla sostituzione delle competenze umane, ma dal loro potenziamento.

Le soluzioni di AI più efficaci affrontano direttamente i punti di attrito operativi e clinici, semplificando workflow complessi, supportando i team sanitari, migliorando l'accesso alle informazioni e permettendo un'assistenza ai pazienti più personalizzata ed efficiente.

I nostri principi fondamentali per l'AI nella sanità:

• Human-Centered: progettata intorno ai workflow clinici reali e al controllo del professionista.

• Evidence-Informed: basata su un rigoroso contesto clinico e sull'integrità dei dati.

• Responsible by Design: sviluppata ponendo privacy, sicurezza e protezione al centro.

• Practical & Scalable: capace di offrire valore operativo immediato senza creare attriti.

La domanda centrale che il nostro settore deve affrontare non è semplicemente: "Quanto può diventare intelligente l'AI nella sanità?"

È: "Come possiamo rendere un'AI sempre più intelligente realmente utile, sicura e affidabile per le persone che dipendono dalla sanità?"

Questa è la sfida che ci attende, ed è molto più importante dell'intelligenza in sé.

Fonti e approfondimenti:

• U.S. Food and Drug Administration: Considerations for the Regulation of Generative AI-Enabled Medical Devices: Discussion Paper and Request for Feedback (FDA Discussion Paper)

• U.S. Food and Drug Administration: FDA Seeks Public Feedback to Inform Regulatory Approach for Generative AI-Enabled Medical Devices (FDA Press Announcement)

• Nature: Safety and security of large language models in healthcare (Nature Journal)