Le dimostrazioni matematiche annunciate da OpenAI stanno producendo un effetto collaterale tutt’altro che marginale: la comunità accademica vuole capire da dove arrivi, con precisione, la conoscenza che ha portato i modelli a quei risultati. Dopo le contestazioni sollevate nei giorni scorsi dal professore della New York University Tristan Buckmaster, ora è Andreas Thom a chiedere spiegazioni pubbliche e verificabili sull’uso delle interazioni avute con ChatGPT.
Thom, matematico noto per i suoi studi sui gruppi non sofic, sostiene che le risposte ricevute da OpenAI non chiariscano il punto che per lui conta davvero. Non gli basta sapere se le sue conversazioni con il chatbot siano recuperabili direttamente dal sistema durante il ragionamento: vuole sapere se quei contenuti, o quelli di altri ricercatori, possano essere entrati nei dati che contribuiscono ad addestrare o affinare i modelli. Nelle sue dichiarazioni pubblicate su Mastodon ha parlato di condotta non trasparente e ha accusato l’azienda di comportamenti che ritiene non etici e disonesti.
Il caso riguarda uno dei dieci risultati matematici presentati da OpenAI con grande visibilità il mese scorso. Uno di questi era collocato proprio nell’area di ricerca di Thom. L’azienda ha riconosciuto che quel lavoro si fondava in larga misura su contributi precedenti di Thom e di Gábor Kun, ma la prima versione della documentazione non aveva attribuito adeguatamente quei precedenti. La mancanza era stata criticata da altri matematici e OpenAI ha poi modificato il testo pubblicato.
Il dubbio non riguarda soltanto la paternità di un’idea
Una citazione bibliografica incompleta può essere corretta; molto più difficile è ricostruire l’origine effettiva delle capacità di un modello generativo. Thom ha spiegato di essersi interrogato sulle sue stesse conversazioni con ChatGPT dopo la disputa aperta da Buckmaster sul possibile utilizzo, da parte dei modelli OpenAI, del lavoro che il docente aveva sviluppato servendosi di Codex.
Nel caso di Thom, la perplessità nasce anche dal livello di familiarità mostrato da OpenAI con metodi specifici del suo filone di studi. Secondo il matematico, le tecniche impiegate non erano né le più immediate né quelle considerate, all’epoca, le strade più promettenti per arrivare a una soluzione. È un elemento che non dimostra da solo un trasferimento improprio di contenuti, ma che rende rilevante la domanda sulle fonti da cui il sistema possa aver appreso quelle connessioni.
I gruppi non sofic sono oggetti matematici infiniti che, in termini molto semplificati, non possono essere approssimati attraverso strutture finite. È un campo altamente specialistico, lontano dai grandi corpus divulgativi che alimentano la parte più visibile dell’IA generativa. Proprio questa distanza rende la vicenda significativa: quando un sistema produce avanzamenti in discipline ristrette, con letteratura tecnica e risultati ancora in circolazione accademica, la provenienza delle informazioni non può essere trattata come un dettaglio operativo.
Thom ha contattato Sébastien Bubeck, ricercatore di OpenAI, e Mark Sellke, statistico di Harvard, chiedendo se le sue interazioni con ChatGPT potessero essere parte dei dati di addestramento o comunque accessibili al processo di ragionamento. La risposta ricevuta, secondo quanto riferito dal matematico, avrebbe affrontato la seconda possibilità — l’accesso diretto alle conversazioni — senza sciogliere la prima. Da qui la sua insoddisfazione e la richiesta di maggiore chiarezza.
La linea sottile tra uso di un prodotto e conferimento di dati
Il nodo è delicato perché investe una pratica ormai comune. Ricercatori, programmatori, studenti e professionisti usano chatbot e assistenti di coding per discutere ipotesi, fare tentativi, riformulare appunti e verificare passaggi. In un ambito come la matematica, una sessione di lavoro può contenere intuizioni non pubblicate, piste abbandonate, bozze di dimostrazioni o riferimenti a materiali che non sono ancora passati attraverso il processo di revisione scientifica.
Le condizioni e le modalità con cui queste interazioni vengono trattate assumono quindi una rilevanza nuova. Il problema non è limitato al rischio che un altro utente riceva una risposta simile: riguarda anche l’eventualità che un contributo ancora riservato venga assorbito, in qualunque forma, nel ciclo di miglioramento dei prodotti. Per chi fa ricerca, la distinzione incide su priorità scientifica, attribuzione del merito e possibilità di pubblicare risultati originali senza averli già esposti a una piattaforma commerciale.
OpenAI deve inoltre affrontare una difficoltà intrinseca dei grandi modelli linguistici. Questi sistemi non offrono normalmente una tracciabilità puntuale dell’origine di ogni passaggio prodotto. Possono citare fonti se istruiti a farlo, ma non sono progettati per fornire un registro probatorio capace di separare con certezza ciò che deriva da letteratura pubblica, da materiale concesso in licenza, da esempi umani o da interazioni avvenute durante l’uso dei servizi.
Questo limite tecnico e organizzativo non equivale a una prova delle accuse mosse da Thom. Però rende più difficile rispondere in modo convincente a richieste specifiche di esclusione o di verifica. Una rassicurazione generale sulla non accessibilità diretta di una conversazione, per esempio, non risolve automaticamente la questione se il contenuto sia stato usato in altri processi di training, valutazione o miglioramento.
Un test per l’IA che vuole entrare nella ricerca
OpenAI ha presentato i suoi risultati matematici come un segnale della crescente utilità dei modelli nella ricerca di frontiera. È una promessa importante: strumenti capaci di esplorare congetture, individuare collegamenti inattesi o aiutare nella costruzione di dimostrazioni potrebbero cambiare il lavoro in molti laboratori. Ma più gli esiti diventano vicini a contributi scientifici originali, più diventa necessario chiarire chi abbia fornito le idee, quali dati siano stati disponibili e come siano state riconosciute le fonti.
La discussione non si esaurisce dunque nell’attribuzione relativa ai gruppi non sofic. Riguarda il rapporto tra imprese che gestiscono infrastrutture di IA e comunità scientifiche che producono conoscenza in ambienti fondati sulla verifica, sulla pubblicazione e sul riconoscimento degli autori. Un modello può accelerare la ricerca, ma l’accettazione dei suoi risultati dipenderà anche dalla possibilità di escludere che stia riproponendo, senza adeguato credito, lavoro già svolto da altri.
Per OpenAI, il caso arriva in una fase in cui gli annunci di progressi matematici aumentano l’attenzione sulle procedure interne. La correzione dell’attribuzione nel materiale sul risultato legato a Thom e Kun mostra che la pressione della comunità può produrre rettifiche. Tuttavia, l’attuale richiesta è più ampia: non una nota a margine aggiunta dopo la pubblicazione, ma indicazioni comprensibili sulle politiche relative alle conversazioni degli utenti e sui confini tra utilizzo del servizio, addestramento e produzione di nuove conclusioni.
Non è ancora emersa una prova pubblica che le conversazioni di Thom abbiano contribuito al risultato annunciato da OpenAI. È altrettanto vero che il matematico contesta proprio l’assenza di strumenti e risposte che permettano di verificarlo. Nelle prossime settimane la credibilità dell’azienda su questo terreno dipenderà dalla qualità dei chiarimenti che saprà offrire, non soltanto ai due ricercatori coinvolti nella polemica, ma a chiunque stia valutando se affidare a un chatbot materiale di lavoro non ancora pubblico.
