La corsa all’intelligenza artificiale viene quasi sempre raccontata attraverso i processori, ma nei data center moderni il problema non è soltanto quanto velocemente una GPU riesca a calcolare. Sempre più spesso il limite è la velocità e l’energia necessarie per spostare i dati tra memoria e unità di calcolo. È per questo che l’uscita dallo stealth di Kepler Computing merita attenzione: la startup non promette un nuovo acceleratore, ma una nuova architettura di memoria pensata per uno dei colli di bottiglia più difficili dell’AI.
Kepler, fondata nel 2018 a San Jose, ha raccolto 468 milioni di dollari da investitori che includono Intel Capital, AMD Ventures, GlobalFoundries, Baillie Gifford e il fondo Gates Frontier di Bill Gates. A luglio il Dipartimento del Commercio statunitense ha inoltre annunciato un impegno fino a 245 milioni di dollari per sostenere negli Stati Uniti lo sviluppo di una nuova classe di memoria AI ad alte prestazioni basata su tecnologie 3D e ferroelettriche.
Il problema non è solo costruire più chip, ma muovere meno dati
Nei sistemi AI la memoria ad alta banda, HBM, è diventata quasi importante quanto gli acceleratori stessi. I modelli di grandi dimensioni devono trasferire continuamente enormi quantità di pesi e attivazioni; quando i dati sono lontani dal punto in cui vengono elaborati, energia e prestazioni vengono sprecate nel movimento. È il motivo per cui l’industria sta investendo miliardi in stack di memoria sempre più vicini ai processori.
Kepler sostiene di poter aumentare la densità della memoria usando tecniche di stacking tridimensionale e materiali proprietari senza dipendere interamente dalla litografia EUV più avanzata. Per SRAM, la memoria veloce integrata vicino al core, l’azienda utilizza materiali ferroelettrici capaci di operare a tensioni inferiori. L’obiettivo è semplice da formulare e difficile da realizzare: più memoria nello stesso spazio, meno energia per leggerla e scriverla.
La parte interessante è l’uso delle fab esistenti
Il costo di una nuova fab avanzata è enorme e i tempi di costruzione possono superare diversi anni. Kepler prova a inserirsi proprio qui, sostenendo che la propria tecnologia possa essere adottata in impianti esistenti senza richiedere un’intera generazione di macchinari EUV. GlobalFoundries sta collaborando con la startup e ha indicato proprio questo aspetto come uno dei punti di interesse della tecnologia.
Se l’approccio funzionasse su scala industriale, il vantaggio non sarebbe soltanto tecnico ma strategico: aumentare la capacità di memoria senza attendere che l’intera industria costruisca nuove fab. È una promessa particolarmente importante in un momento in cui HBM è diventata uno dei componenti più contesi della filiera AI.
Il caveat è enorme: la fisica deve diventare manifattura
Le startup di semiconduttori possono dimostrare prestazioni convincenti su wafer sperimentali e fallire comunque nel passaggio alla produzione. Kepler ha testato la propria tecnologia su migliaia di wafer, ma dovrà dimostrare uniformità, resa, affidabilità e compatibilità con processi industriali che lavorano su milioni di dispositivi. L’introduzione di nuovi materiali nelle fab crea inoltre problemi di contaminazione e isolamento che devono essere gestiti con grande precisione.
La stessa società prevede i primi campioni HBM entro la fine dell’anno e punta alla produzione statunitense nel 2028. Sono tempi che mostrano come la rivoluzione, se arriverà, non sarà immediata.
Perché Kepler conta anche se non sostituirà DRAM e SRAM
La proposta di Kepler non deve necessariamente cancellare le tecnologie esistenti per avere successo. Nel mercato AI basta migliorare un punto della gerarchia di memoria per generare valore enorme, perché ogni watt risparmiato nel movimento dei dati può essere convertito in più capacità di calcolo.
Il messaggio più interessante è quindi che l’AI sta riaprendo problemi che per anni sembravano secondari rispetto al processore. La memoria, il packaging e la vicinanza fisica tra dati e calcolo stanno diventando determinanti quanto il numero di transistor. Se Kepler riuscirà a trasformare il proprio materiale in un prodotto industriale, potrebbe dimostrare che il prossimo salto dell’AI non verrà da una GPU più potente, ma dal fatto che i dati devono fare molta meno strada.
