IA · 10 agosto 2026 · 4 min di lettura
Oltre i Transformer: la corsa delle startup all'architettura post-LLM
In sintesi: A nove anni dal celebre paper 'Attention Is All You Need', i costi computazionali ed energetici dei Transformer rappresentano il principale collo di bottiglia per l'IA. Una nuova ondata di startup sta sviluppando architetture sub-quadratiche e silicio specializzato per rendere i modelli piu' veloci, economici e capaci di gestire contesti illimitati.
di Team Mocchi's
Il collo di bottiglia dei Transformer e l'esplosione dei costi
Nel 2017, la pubblicazione del celebre paper "Attention Is All You Need" da parte dei ricercatori di Google pose le basi dell'attuale rivoluzione dell'intelligenza artificiale. L'architettura dei Transformer, basata sul meccanismo della cosiddetta "dense attention", ha consentito ai modelli di linguaggio di processare il testo con una precisione senza precedenti, analizzando le relazioni tra ogni singola parola e tutte le altre presenti nel contesto. Tuttavia, a quasi un decennio di distanza, questa stessa struttura mostra ormai i propri limiti fisici ed economici.
Come evidenzia un'analisi pubblicata da MIT Technology Review, il problema fondamentale risiede nel costo computazionale dei Transformer, che cresce in modo quadratico rispetto alla lunghezza del testo da elaborare. Per analizzare un documento di sole 10.000 parole, un Transformer tradizionale deve eseguire circa 50 milioni di moltiplicazioni matematiche. Questo impatto si riflette direttamente sui bilanci finanziari ed energetici del settore: secondo le ultime stime riportate dalla direzione di OpenAI, l'azienda pianifica di spendere oltre 50 miliardi di dollari in sola potenza di calcolo nel corso del 2026, mentre l'Agenzia Internazionale dell'Energia prevede il raddoppio del consumo elettrico globale dei data center entro il 2030.
La nuova frontiera: modelli sub-quadratici e agenti autonomi
Il collo di bottiglia si e' fatto critico con l'avvento degli agenti autonomi e dei modelli di ragionamento avanzato. Tecnologie come la "chain of thought", in cui l'IA genera brevi note intermedie prima di formulare una risposta finale, finiscono per moltiplicare esponenzialmente il volume di token processati. Quando ad un agente viene chiesto di analizzare l'intera codebase di un software, esaminare centinaia di pagine di documentazione o gestire interazioni multi-agente, la finestra di contesto dei Transformer tradizionali si trasforma in una trappola di costi e latenza.
Per superare queste barriere, un numero crescente di startup sta lavorando su architetture alternative definite "LLM+". L'obiettivo e' sostituire la dense attention con meccanismi di calcolo sub-quadratici, capaci di mantenere intatta la comprensione del contesto ma con un ingombro di memoria e un consumo di calcolo drasticamente inferiori. Realtà emergenti come Subquadratic, guidata da Justin Dangel, stanno progettando reti neurali capaci di processare sequenze di dati di lunghezza teoricamente illimitata senza provocare l'esplosione dei requisiti hardware.
Dalle architetture al silicio: la corsa all'efficienza
La ricerca di un'alternativa ai Transformer non riguarda solo il livello algoritmico, ma sta spingendo una profonda ristrutturazione degli investimenti nell'hardware per l'IA. I grandi fondi di investimento e le aziende tech stanno indirizzando capitale verso startup capaci di reimmaginare la produzione e la progettazione dei chip, con l'obiettivo di abbattere i costi di fabbricazione del silicio e rendere la potenza computazionale piu' accessibile.
In questa prospettiva si inseriscono operazioni finanziarie di primo piano: come riporta TechCrunch, il fondo focalizzato sull'IA Situational Awareness ha recentemente versato 400 milioni di dollari nella startup Source Foundry, una realtà fondata da ricercatori di Stanford specializzata in processi produttivi di chip piu' veloci ed economici, portando il proprio impegno complessivo nella societa' a 500 milioni di dollari. Questo dimostra come la sfida dell'efficienza nell'IA si giochi su due fronti parallelamente integrati: da un lato l'invenzione di architetture matematiche piu' snelle, dall'altro l'ottimizzazione del silicio su cui questi modelli vengono eseguiti.
Il punto di Mocchi's
Per le aziende e per i team di sviluppo che integrano l'intelligenza artificiale nei propri processi produttivi, l'imminente transizione verso modelli post-Transformer rappresenta una svolta determinante. Oggi la personalizzazione di sistemi IA su grandi volumi di dati aziendali — come intere basi documentali o complessi repository di codice — si scontra frequentemente con i costi insostenibili dei token e le limitazioni della memoria di contesto.
In Mocchi's riteniamo che il passaggio a modelli sub-quadratici ed efficienti consentira' nel breve-medio termine di portare l'IA avanzata direttamente su infrastrutture private o sui dispositivi aziendali aziendali (edge), senza dipendere da cluster cloud iper-costosi. Preparare le architetture software aziendali fin da ora, strutturando i dati in modo modulare e privilegiando soluzioni basate su agenti flessibili, permettera' di cogliere immediatamente i benefici di questa nuova generazione di modelli non appena diventeranno disponibili sul mercato enterprise.