Per insegnare a un'intelligenza artificiale a utilizzare strumenti esterni, forse conviene partire dalla soluzione e non dalla domanda. È l'idea di ToolGrad, il lavoro presentato nel circuito scientifico ACL e illustrato da Google Research il 10 settembre. Il suo interesse non riguarda soltanto il prossimo record di un modello: riguarda il modo in cui si costruiscono gli esempi da cui gli agenti imparano ad agire.
Una sequenza funzionante prima del problema
Nella descrizione degli autori, molti sistemi di generazione dei dati cominciano inventando una richiesta e cercano poi una catena di operazioni capace di soddisfarla. Il procedimento può produrre percorsi che non funzionano o richiedere numerosi tentativi. ToolGrad inverte l'ordine: costruisce e verifica una sequenza di utilizzo degli strumenti, la migliora attraverso un processo iterativo e soltanto dopo genera una domanda coerente con quella soluzione.
I cosiddetti gradienti testuali sono feedback formulati in linguaggio naturale, utilizzati per correggere il processo. Non vanno confusi con i gradienti numerici con cui vengono normalmente aggiornati i parametri delle reti neurali. Nel lavoro scientifico, gli autori riportano vantaggi nella qualità dei dati sintetici e nelle prestazioni dei modelli addestrati su questi esempi.
Il valore sta nei passaggi intermedi
Una risposta corretta e un'azione corretta non sono la stessa cosa. Immaginiamo un assistente incaricato di preparare un report: deve individuare il documento giusto, estrarre i dati pertinenti e utilizzare lo strumento appropriato. Un testo finale plausibile potrebbe nascondere un errore avvenuto molto prima. Un insieme di esempi verificati permette invece di esaminare anche il percorso seguito.
La conseguenza progettuale è interessante: prima di moltiplicare i dati di addestramento, un team dovrebbe chiedersi quali errori contengano e quale comportamento stiano premiando. Dieci percorsi ripetuti male non diventano utili soltanto perché vengono trasformati in mille varianti linguistiche. La diversità deve accompagnarsi alla validità delle operazioni.
Il benchmark non è il mondo reale
Resta una distinzione decisiva. Una catena riuscita nell'ambiente di valutazione non garantisce che lo stesso agente gestisca correttamente permessi, costi, interruzioni o dati incompleti in un servizio aperto al pubblico. Anche la scelta delle domande ricavate dalle soluzioni può condizionare ciò che il modello impara: richieste nuove e ambigue restano un test separato.
La lettura più utile di ToolGrad, quindi, non è che gli agenti abbiano risolto il problema dell'affidabilità. È che la verifica dei dati può diventare parte della progettazione, anziché un controllo aggiunto alla fine. Per chi sviluppa automazioni, significa misurare i risultati operativi e mantenere autorizzazioni, limiti e possibilità di arresto indipendenti dalla sicurezza con cui l'AI formula la propria risposta.
