La domanda più difficile sull’intelligenza artificiale non è sempre “quanto è intelligente?”. A volte è molto più semplice: da dove arriva quello che sa?
Una controversia raccontata da The Verge ha portato questa domanda dentro uno dei mondi più sensibili alla paternità delle idee: la matematica. Alcuni ricercatori hanno chiesto maggiore trasparenza a OpenAI sul possibile utilizzo di interazioni e materiali non pubblici nella formazione dei modelli. OpenAI ha contestato l’idea di aver utilizzato specifiche sessioni private nel modo ipotizzato dai critici.
Al di là del caso concreto, la questione è destinata a diventare enorme. Se un modello può contribuire a una dimostrazione, a una scoperta o a una nuova congettura, la provenienza dei dati non è più soltanto un tema di copyright: diventa parte del metodo scientifico.
La scienza funziona anche grazie alla tracciabilità
Una pubblicazione scientifica non vale soltanto perché arriva a una conclusione corretta. Deve spiegare come ci è arrivata, quali dati ha utilizzato, quali lavori precedenti ha consultato e quali limiti restano. Questa struttura consente ad altri ricercatori di verificare, replicare e contestare il risultato.
I modelli generativi rompono parzialmente questa catena. Possono produrre un’idea plausibile senza essere in grado di ricostruire in modo affidabile quali frammenti del proprio addestramento abbiano contribuito a quella risposta.
Più diventano potenti, più questa opacità diventa problematica.
Una conversazione privata può contenere ricerca
Per molte persone una chat con un assistente è un’interazione quotidiana. Per uno scienziato può contenere ipotesi non pubblicate, tentativi di dimostrazione, frammenti di codice o risultati preliminari. In altre parole, materiale con valore intellettuale prima ancora di diventare un paper.
Questo cambia la percezione del consenso. Dire che alcuni dati possono essere utilizzati in forma de-identificata può essere accettabile per migliorare un prodotto generalista, ma diventa molto più delicato quando quelle informazioni rappresentano lavoro scientifico originale.
Il problema non si risolve con un disclaimer
Le aziende possono migliorare le informative, offrire controlli e distinguere più chiaramente tra dati usati e non usati per l’addestramento. Ma la sfida vera è tecnica: riuscire a dimostrare, quando serve, che un risultato non deriva da materiale che non avrebbe dovuto contribuire.
È una forma di provenance, cioè di tracciabilità dell’origine. Nel mondo dei contenuti generati dall’AI la chiediamo per immagini e video. Nella ricerca potrebbe diventare ancora più importante.
L’AI scientifica avrà bisogno di regole scientifiche
Il punto non è impedire ai ricercatori di usare modelli avanzati. Al contrario, strumenti capaci di esplorare ipotesi e controllare enormi spazi di possibilità possono accelerare il lavoro umano. Ma più l’AI partecipa alla produzione di conoscenza, più deve avvicinarsi agli standard di trasparenza della scienza.
Una risposta corretta ma impossibile da ricostruire può essere utile. Una scoperta scientifica, però, richiede qualcosa in più: sapere quali assunzioni, dati e idee hanno contribuito al risultato.
La prossima battaglia dell’AI potrebbe quindi non riguardare soltanto chi costruisce il modello migliore. Potrebbe riguardare chi riesce a costruire il modello di cui possiamo conoscere davvero la genealogia delle idee.
