La regolazione dei dispositivi medici è stata costruita attorno a prodotti relativamente stabili: si valuta un apparecchio, se ne certificano sicurezza e prestazioni e poi lo si sorveglia. L’intelligenza artificiale rende questa sequenza meno lineare, perché prestazioni e rischi possono dipendere dai dati, dal contesto clinico e dagli aggiornamenti. La National Commission into the Regulation of AI in Healthcare britannica ha proposto un modello che prova ad adattare la supervisione a questa realtà.
Le raccomandazioni pubblicate il 10 settembre, dopo un processo di consultazione che il governo descrive come molto ampio, prevedono percorsi più flessibili per consentire l’adozione di strumenti promettenti accompagnandola con salvaguardie proporzionate. Tra le idee discusse c’è una forma di autorizzazione iniziale condizionata, paragonata a una patente provvisoria, insieme a monitoraggio successivo e maggiore trasparenza sugli incidenti.
Il problema del performance drift
Un sistema può funzionare bene nel dataset di validazione e comportarsi diversamente quando incontra popolazioni, ospedali o procedure differenti. Per questo la supervisione post-market diventa centrale: non basta chiedere se il modello era sicuro al momento dell’autorizzazione, bisogna poter verificare se continua a esserlo.
Il modello britannico prova così a evitare due estremi: pretendere una certezza preventiva impossibile oppure lasciare che l’innovazione proceda senza strumenti pubblici per intervenire quando emergono problemi. È una questione che riguarda ben più della sanità, perché molti sistemi di AI sono prodotti dinamici.
