Un sistema AI può cambiare efficacia quando cambiano utenti, dati, contesto o modello. La gestione del rischio deve quindi continuare anche dopo la messa in produzione.
Questo approfondimento usa come riferimento NIST AI Risk Management Framework, una fonte istituzionale o tecnica primaria. L’obiettivo è spiegare il principio in modo operativo, senza trasformare uno standard in una promessa assoluta.
Il punto da capire
Un sistema AI può cambiare efficacia quando cambiano utenti, dati, contesto o modello. La gestione del rischio deve quindi continuare anche dopo la messa in produzione.
Come applicarlo nella pratica
Servono indicatori di prestazione, registrazione degli incidenti, revisioni periodiche e soglie che facciano scattare un riesame o una sospensione.
Un controllo efficace parte dal contesto reale: utenti, dati, dispositivi e conseguenze non sono uguali in ogni organizzazione. Conviene quindi documentare le scelte, verificare periodicamente che funzionino e aggiornare le misure quando cambiano tecnologie o processi.
Cosa controllare
- Usare la documentazione ufficiale e verificare la versione applicabile.
- Definire chi è responsabile della verifica e con quale frequenza.
- Provare il comportamento reale, non soltanto la configurazione dichiarata.
Perché è importante
Il monitoraggio intercetta degradazioni e nuovi usi prima che diventino comportamenti normalizzati.
La sicurezza e l’affidabilità migliorano quando procedure e strumenti vengono trattati come un sistema: prevenzione, monitoraggio e capacità di correggere gli errori devono restare collegati.
