Gli agenti basati su modelli linguistici diventano più utili quando possono agire fuori dalla conversazione: interrogare un database, aprire un ticket, verificare una disponibilità, chiamare un servizio aziendale o avviare un flusso operativo. Ma ogni nuova capacità aggiunta a un agente porta con sé un costo tecnico poco visibile: il modello deve sapere che cosa fa ciascuno strumento e con quali parametri può invocarlo.

Google interviene su questo passaggio con Tool Retrieval, funzione ora disponibile in anteprima nella Gemini Interactions API. L’idea è separare il catalogo degli strumenti dalle istruzioni dettagliate necessarie per usarli. Invece di inserire in ogni richiesta l’intera libreria di definizioni, lo sviluppatore può lasciare che l’agente recuperi gli schemi dei soli strumenti che considera pertinenti al compito ricevuto.

La novità è pensata per gli scenari in cui il numero di integrazioni non è più limitato a poche funzioni. In quel caso, trasmettere ogni volta al modello nomi, descrizioni e parametri di decine o centinaia di strumenti può consumare una quota rilevante della finestra di input, aumentare il tempo di elaborazione e rendere più complessa la scelta dell’azione corretta.

Un catalogo che non deve più entrare tutto nel prompt

Gli strumenti di un agente vengono normalmente descritti tramite schemi dei parametri: definizioni che indicano, per esempio, quali dati una funzione accetta e in quale formato. Per consentire a un modello di selezionarli e invocarli, queste informazioni devono essere disponibili nel contesto della richiesta. È un approccio diretto, adeguato quando il set di strumenti è contenuto, ma meno efficiente quando il catalogo cresce.

Tool Retrieval introduce un caricamento differito. L’agente può partire con una visione della libreria e ottenere i dettagli operativi di uno specifico strumento solo al momento opportuno. Google descrive questo modello come un modo per mantenere ampia la dotazione disponibile senza dover allegare l’intero inventario tecnico a ciascun prompt.

La conseguenza immediata riguarda i token in ingresso. Le definizioni degli strumenti, soprattutto se ricche di campi e vincoli, occupano spazio che non contribuisce direttamente alla richiesta dell’utente. Ridurne la presenza iniziale può lasciare più contesto per istruzioni, dati aziendali e cronologia della conversazione. Google indica inoltre una riduzione della latenza come obiettivo della funzione, proprio perché il sistema evita di elaborare fin dall’inizio descrizioni non necessarie.

C’è anche un aspetto qualitativo. Davanti a una lista molto lunga di opzioni, un modello deve distinguere strumenti simili, talvolta con nomi o finalità parzialmente sovrapposti. Restringere le informazioni dettagliate agli strumenti richiamati durante l’esecuzione mira a rendere più accurata la selezione. Non elimina però la necessità di progettare bene le integrazioni: descrizioni ambigue, permessi troppo larghi o funzioni duplicate rimangono problemi dell’applicazione, non del meccanismo di recupero.

Come si attiva nell’API

La funzionalità viene proposta nella Interactions API di Gemini. Secondo le indicazioni di Google, gli sviluppatori devono aggiungere lo strumento tool_search alla richiesta e impostare defer_loading su true. In questo modo gli schemi dei parametri non vengono caricati tutti in anticipo, ma possono essere richiesti quando l’agente ne ha bisogno.

Tool Retrieval è compatibile con Gemini 3.6 e con i modelli successivi. Il dettaglio è rilevante per chi ha già un’infrastruttura costruita su versioni precedenti: la disponibilità dell’API non implica automaticamente che ogni modello Gemini in uso possa adottare il nuovo comportamento. Prima di intervenire su un agente in produzione, sarà quindi necessario verificare il modello selezionato e il percorso di migrazione eventualmente richiesto.

Essendo un’anteprima, la funzione va letta come un’opzione di sviluppo e sperimentazione, non come una scorciatoia universale. Google non comunica nel materiale di lancio valori standardizzati sui token risparmiati né una misura unica dell’accelerazione ottenibile. È una cautela importante: il vantaggio dipenderà dalla dimensione degli schemi, dal numero di strumenti esposti, dalla frequenza con cui vengono davvero usati e dalla natura dei compiti affidati all’agente.

Dove può fare la differenza

Il caso più evidente è quello degli agenti aziendali con molte connessioni a software diversi. Un assistente interno può dover lavorare con CRM, sistemi di assistenza clienti, gestione documentale, calendari, database, strumenti di reporting e servizi proprietari. Non tutte queste funzioni servono nella stessa conversazione. Caricare l’intero set di schemi per una semplice verifica, o per una richiesta circoscritta, può essere un sovraccarico evitabile.

La stessa logica può interessare le piattaforme che costruiscono agenti configurabili per clienti differenti. Un prodotto può offrire una libreria ampia, ma attivare percorsi diversi in base al reparto, ai dati disponibili e alle autorizzazioni dell’utente. In questi contesti, la possibilità di recuperare i dettagli solo su richiesta aiuta a separare meglio la disponibilità generale delle capacità dall’esposizione completa del loro contratto tecnico nel prompt iniziale.

Questo non significa che il caricamento differito sia sempre preferibile. Per un agente con poche funzioni, inviare fin da subito tutti gli schemi resta più semplice da implementare e da osservare. Anche un flusso molto ripetitivo, in cui gli stessi strumenti vengono chiamati quasi sempre, potrebbe ricavare benefici limitati. Il punto di forza della novità emerge quando la varietà disponibile è molto maggiore della varietà effettivamente utilizzata in una singola interazione.

Efficienza non equivale a controllo automatico

La riduzione dei token non risolve le questioni più delicate legate agli agenti operativi. Uno strumento può eseguire azioni che modificano dati, accedono a informazioni riservate o avviano processi esterni. Il fatto che il suo schema venga recuperato soltanto quando serve non definisce chi sia autorizzato a usarlo, quali controlli debbano precedere l’esecuzione o come debba essere gestito un errore.

Per gli sviluppatori resta quindi centrale la separazione tra capacità dell’agente e autorizzazioni effettive. Tool Retrieval può migliorare il modo in cui il modello scopre le funzioni disponibili, ma non sostituisce validazione degli input, limiti sulle operazioni, tracciamento delle chiamate e conferme umane nei flussi più sensibili. Sono livelli che devono rimanere nell’architettura applicativa.

Resta inoltre da valutare il comportamento del recupero in compiti complessi, dove l’agente deve esplorare più strumenti prima di individuare quello corretto. Un catalogo più snello nel prompt iniziale può ridurre il peso della richiesta, ma le ricerche e i caricamenti successivi fanno parte della sequenza di esecuzione. L’effetto complessivo su tempi e costi dovrà essere misurato su casi reali, non dedotto soltanto dalla struttura della funzione.

Per Google, il lancio colloca la Gemini API su un terreno sempre più pratico: non solo generazione di testo o ragionamento, ma gestione di agenti che devono coordinare molte capacità software. Per chi sviluppa questi sistemi, Tool Retrieval offre un nuovo componente da testare nelle librerie estese. La promessa concreta è ridurre il contesto tecnico non necessario; la verifica decisiva sarà capire quanto il meccanismo rimanga affidabile quando gli strumenti, gli utenti e le regole operative aumentano insieme.

Fonti