IA nel settore sanitario: come Compassana unisce innovazione e responsabilità

L’intelligenza artificiale ha grande potenziale nel sistema sanitario. Non vi sono ormai quasi più dubbi seri sul suo contributo alla creazione di valore. Allo stesso tempo, soprattutto i grandi modelli linguistici sono ancora agli albori dal punto di vista tecnico. Possono presentare affermazioni errate come fatti accertati, le cosiddette “allucinazioni”. Anche le distorsioni possono continuare a influenzare le decisioni senza che ce ne si accorga.

Chi lavora nel settore sanitario conosce bene questi rischi, così come le opportunità. Per Bluespace Ventures, l’azienda che sta dietro a Compassana, l’obiettivo primario è quindi quello di creare i presupposti per un impiego sicuro ed efficace dell’IA. I rischi devono rimanere gestibili. La catena di creazione del valore deve essere riorganizzata in modo che l’IA agisca laddove offre effettivamente dei vantaggi. La strategia dell'IA dell’azienda è altamente adattabile e si articola su cinque livelli che si basano l’uno sull’altro. A livello di prodotto si vede infine con quanta coerenza l’azienda attua i propri standard quando gli utenti ne sono direttamente coinvolti.

1. Regole chiare per i collaboratori

Bluespace Ventures ha integrato le proprie linee guida sulla sicurezza informatica con una normativa interna sulla conformità in materia di IA, prima ancora che venisse utilizzato uno strumento di IA. Tale normativa disciplina le modalità di utilizzo degli strumenti di IA da parte dei collaboratori e li tutela grazie a direttive chiare. In questo modo garantisce un margine di manovra all’interno di un quadro giuridico ben definito. Allo stesso tempo, impedisce che informazioni riservate o personali finiscano indirettamente nei dati di addestramento di fornitori esterni.

I briefing di accompagnamento avevano l’obiettivo di creare una visione comune e sviluppare competenze solide in materia di IA. L’articolo 4 del regolamento UE sull’IA (Regolamento IA) richiede ormai espressamente tali competenze. Esse erano necessarie già in precedenza, poiché i collaboratori entrano quotidianamente in contatto con strumenti di IA. Questo quadro, la governance, costituisce il presupposto affinché siano ammesse ulteriori applicazioni di IA.

2. Un team dedicato alla IA per applicazioni efficaci

Su questa base è stato costituito un team interno dedicato all’intelligenza artificiale. Esso analizza sistematicamente in quali punti della catena di creazione del valore l’impiego dell’intelligenza artificiale possa offrire un vantaggio tale da giustificarne gli sforzi. Il team testa gli strumenti adeguati, li adatta e li rende disponibili internamente qualora si dimostrino efficaci.

Nel marketing e nella comunicazione, gli strumenti specializzati di IA consentono di realizzare lavori creativi che in precedenza sarebbero stati troppo onerosi. Per i percorsi di lavoro strutturati, il team utilizza l’IA agente per attuare i processi in modo mirato e sicuro. La sperimentazione si basa sistematicamente sull’efficienza economica e tecnica di ogni intervento.

3. Criteri rigorosi nel management

Su questa base, i sistemi di management di Bluespace Ventures rappresentano un ambito di applicazione particolarmente proficuo. Essi garantiscono qualità, protezione dei dati, sicurezza delle informazioni e gestione dei servizi al livello richiesto da una soluzione sanitaria professionale come Compassana. Poiché questi sistemi sono alla base dell’affidabilità dell’azienda, per l’IA di supporto valgono requisiti più rigorosi rispetto ad altri settori.

I sistemi di IA devono essere fedeli ai fatti e privi di allucinazioni e distorsioni. Se necessario, possono essere presi in considerazione anche modelli linguistici locali. I sistemi devono essere costantemente protocollati e rimanere tracciabili grazie a un sistema di versionamento verificabile nell’ambito di un audit.

Un testo di marketing può perdonare qualche errore occasionale. Un sistema di qualità o di protezione dei dati, invece, no. L’accurata progettazione tecnica garantisce la fiducia di tutti coloro che utilizzano Compassana a titolo privato o professionale.

4. Ada in qualità di prodotto medico verificato

Compassana ha integrato già molto presto lo strumento di check dei sintomi Ada, basato sull'IA. Questo prodotto medico è stato testato secondo linee guida particolarmente rigorose. Ha ottenuto l'autorizzazione ufficiale solo dopo aver superato test specialistici e aver dimostrato la propria efficacia e affidabilità.

Questi criteri di qualità non si applicano ai comuni modelli linguistici universali. Un LLM generico fornisce una risposta possibile; Ada ne fornisce una che segue una procedura accuratamente verificata e comprensibile. È questa differenza a distinguere un prodotto medico da uno strumento di assistenza generico.

5. L’autonomia dell’utente rimane determinante

Sono in fase di preparazione ulteriori integrazioni per Compassana. Il principio fondamentale è il seguente: le utenti e gli utenti decidono autonomamente e in piena libertà in merito ai propri dati sanitari personali e a chi può disporne. Non avviene alcun trasferimento di dati né alle compagnie assicurative né ai sistemi di intelligenza artificiale. Le applicazioni sono progettate in modo trasparente e per scopi specifici e vengono attivate solo previo consenso delle persone interessate. Queste disposizioni valgono anche per le utenti e gli utenti professionali di Compassana Med e per la loro autonomia professionale.

La base giuridica è costituita in particolare dalle disposizioni della legge sulla protezione dei dati (LPD). Tra queste rientrano la profilazione e, in particolare, la profilazione ad alto rischio ai sensi dell’art. 5, lett. f e g, LPD. L’art. 22, comma 2, LPD disciplina l’obbligo di effettuare una valutazione d’impatto sulla protezione dei dati in caso di impiego di nuove tecnologie.

Qualora delle decisioni automatizzate comportino conseguenze giuridiche per i singoli, l’art. 21 della LPD prevede l’informazione della persona interessata e una verifica da parte di un operatore umano. Ulteriori indicazioni sono fornite dalle valutazioni d’impatto sui diritti fondamentali, come previsto, ad esempio, dall’approccio basato sul rischio del Regolamento UE sull’IA, in particolare all’art. 27.

Cosa significa ciò per Compassana

I cinque livelli sono interconnessi. La politica di sicurezza informatica definisce il quadro di riferimento all’interno del quale il team di IA individua campi di applicazione efficaci. I sistemi di management applicano i più elevati standard di qualità, poiché sono alla base dell’affidabilità dell’azienda, su cui si fonda la fiducia in Compassana. Ada illustra cosa distingue un prodotto medico regolamentato da un modello linguistico generico. La tutela giuridica dell’autonomia degli utenti garantisce che il potere di disposizione sui dati sanitari rimanga nelle mani degli utenti stessi.

Nella pratica, ciò significa che Compassana impiega l’IA laddove è dimostrato che apporti i maggiori vantaggi con il minimo rischio. Prima del lancio, ogni nuova applicazione viene sottoposta alla stessa verifica in materia di governance, qualità e consenso degli utenti.