“Quali saranno i compiti del supervisore umano dell’intelligenza artificiale? Dovrà comprendere correttamente le capacità e i limiti del sistema, monitorarne il funzionamento e individuare eventuali anomalie, disfunzioni o prestazioni inattese”. Con queste parole Giovanni Ziccardi, professore ordinario di Informatica giuridica all’Università degli Studi di Milano, ha aperto il suo intervento all’Azienda Usl di Piacenza, ospite della Sala conferenze di via Anguissola.

Ziccardi è stato protagonista del convegno “Intelligenza artificiale in sanità: cybersecurity, qualità dei dati e supervisione umana”, curato e coordinato da Miriam Bisagni, responsabile del Supporto alla gestione della trasparenza, dell’anticorruzione e della privacy dell’Ausl di Piacenza. L’iniziativa testimonia l’attenzione dell’Azienda verso una formazione continua capace di garantire ai professionisti competenze costantemente aggiornate e una conoscenza consapevole delle nuove tecnologie.

Nel corso dell’incontro, il docente ha approfondito il rapporto tra professionisti sanitari e sistemi di intelligenza artificiale, soffermandosi sui temi della cybersecurity e della protezione di sistemi, dati e processi decisionali, sulla qualità dei dati quale presupposto essenziale per un’IA affidabile e sul ruolo determinante della supervisione umana nelle decisioni supportate dall’intelligenza artificiale. Chiaro il messaggio: un sistema di IA non può essere supervisionato da un altro sistema di IA, non può essere lasciato solo. La presenza dell’essere umano resta indispensabile per garantire sicurezza, tutelare la salute e proteggere i diritti fondamentali dei pazienti.

Dopo il saluto introduttivo di Mirko Minelli della Direzione medica dell’Ausl di Piacenza, Ziccardi ha analizzato gli adempimenti che potrebbero diventare obbligatori a partire dal prossimo 2 agosto, con l’entrata in vigore della parte del Regolamento europeo sull’intelligenza artificiale relativa ai sistemi di IA ad alto rischio. Tra i riferimenti normativi più rilevanti figura il Digital Omnibus, il pacchetto di semplificazione presentato dalla Commissione europea nel novembre 2025 con l’obiettivo di riorganizzare, razionalizzare e armonizzare il complesso quadro normativo digitale dell’Unione europea.

Particolare attenzione è stata dedicata alla figura del supervisore umano, un ruolo tutt’altro che formale. “Dovrà essere in grado di interpretare correttamente gli output prodotti dall’IA. Avrà inoltre la facoltà di decidere di non utilizzare un sistema di IA ad alto rischio, di ignorarne o annullarne le indicazioni e, se necessario, persino di ribaltarne le conclusioni. Come ultima possibilità, potrà interrompere il funzionamento del sistema attraverso il pulsante di arresto”, ha affermato Ziccardi. Si tratta di un ambito ancora in evoluzione e dai confini non del tutto definiti.

Accanto alla centralità del fattore umano – più che un semplice filtro, una figura di garanzia altamente qualificata – emergono infatti altre questioni cruciali. Tra queste, la vulnerabilità dei sistemi agli attacchi esterni, che rende indispensabile investire nella cybersecurity, e la qualità dei dati utilizzati per addestrare gli algoritmi, condizione essenziale per ottenere risultati affidabili e realmente utili (pensiamo ai robot-fisioterapisti in Cina).

“In sanità immagino il supervisore umano – ha osservato Ziccardi – più come un professionista competente, esperto e capace di mantenere uno spirito critico, che come un esperto di machine-learning ancora privo della necessaria esperienza clinica. Solo chi possiede solide conoscenze nella propria disciplina medica può dialogare con le risposte fornite dall’intelligenza artificiale, valutarle e, quando necessario, metterle in discussione”. Il convegno ha suscitato grande interesse e partecipazione tra i presenti, molti dei quali già impegnati nell’utilizzo di strumenti basati sull’intelligenza artificiale e chiamati, sempre più spesso, a governarne l’impiego in modo consapevole e responsabile.