Per anni il rischio esistenziale dell’intelligenza artificiale è rimasto confinato a conferenze, laboratori e comunità specializzate. Le dichiarazioni di ricercatori di Anthropic sui rischi di sistemi superumani e le dimissioni di Jacob Coxon hanno invece provocato reazioni esplicite nel Congresso americano.
Politici con orientamenti molto diversi, da Bernie Sanders a Ted Cruz e altri parlamentari democratici, hanno chiesto maggiore attenzione e, con accenti differenti, interventi sulla sicurezza dei sistemi avanzati. Le stime catastrofiche restano contestate e non rappresentano un consenso scientifico sulla probabilità di estinzione umana.
Dal rischio teorico alla responsabilità politica
Il passaggio importante non è stabilire oggi quale percentuale attribuire a scenari estremi, ma riconoscere che modelli più autonomi pongono problemi di controllo che non possono essere delegati interamente alle aziende che li costruiscono.
Il dibattito americano dovrà evitare due errori opposti: trasformare ipotesi in certezze oppure ignorare rischi ad alta conseguenza soltanto perché difficili da quantificare. La politica dell’AI entra così in una fase nella quale anche l’incertezza deve essere governata.
