Per anni la narrazione sull'AI è stata tutta sul training: cluster mostruosi, mesi di calcolo, milioni di dollari per addestrare un modello. Vero, ma non è il tuo problema. Tu un modello non lo addestri: lo usi. E usarlo — l'inferenza — è la voce che, nel 2026, è diventata quella che conta economicamente. Ogni volta che un utente interroga il tuo chatbot, che un documento passa nel tuo RAG, che un agente chiude un ticket, stai pagando dell'inferenza. Ogni giorno, per sempre.
La differenza cruciale rispetto al training è questa: il training è un costo una tantum, l'inferenza è un costo ricorrente che scala con l'uso. Ed è qui che la scelta dell'infrastruttura smette di essere una questione tecnica e diventa una questione di bilancio.
1. Il modello a token: comodo finché sei piccolo
Le API dei grandi provider si pagano a token: tanti ne processi, tanto paghi. È il modello ideale per iniziare — zero investimento, paghi solo quello che usi, scala da solo. Finché i volumi sono bassi, è imbattibile: perché comprare una GPU per fare cento richieste al giorno?
Il problema arriva con il successo. Quando l'AI entra davvero nei processi — assistenza clienti, analisi documentale, generazione di contenuti, agenti operativi — i volumi esplodono. E il conto a token, che a poche richieste era trascurabile, diventa una voce fissa che cresce mese su mese senza mai fermarsi. Hai affittato l'intelligenza, e l'affitto non scade mai.
2. I numeri dell'on-premise
Qui entrano i modelli open-weight: modelli i cui pesi sono scaricabili e che puoi eseguire su hardware tuo — Llama, Mistral, Qwen e simili. Non paghi più per token: paghi l'hardware una volta, e il costo marginale di ogni richiesta tende quasi a zero (elettricità e ammortamento). I dati del 2026 sono netti:
- L'inferenza sui modelli open-weight costa tra il 70% e il 90% in meno rispetto alle API di OpenAI o Anthropic, per i carichi di lavoro aziendali tipici (analisi documenti, revisione codice, output strutturati).
- Secondo un'analisi TCO Lenovo 2026, sui carichi ad alta frequenza d'uso il costo per milione di token on-premise può essere fino a 18 volte inferiore a quello delle API dei grandi provider.
- Il breakeven dell'investimento in GPU, per workload intensivi, si raggiunge in meno di quattro mesi: dal quinto mese in poi, l'infrastruttura interna è puro risparmio rispetto all'abbonamento cloud.
3. Da "costo per token" a "costo per task"
C'è un cambio di prospettiva più sottile e più utile della semplice bolletta. Il parametro giusto non è quanto costa un token, ma quanto costa portare a termine un'attività — qualificare un lead, riassumere un contratto, chiudere un ticket. È il passaggio dal "costo per token" al "costo per task".
Perché conta? Perché un modello enorme via API può costare, per singolo task, molto più di un modello open-weight più piccolo ma perfettamente adeguato a quel compito, che gira in casa. Gran parte del lavoro aziendale reale — estrazione dati, classificazione, risposte su knowledge base — non ha bisogno del modello più grande del mondo: ha bisogno del modello giusto, sotto controllo, a costo prevedibile. Ragionare per task, non per token, spesso ribalta la convenienza a favore dell'infrastruttura propria.
4. Affittare o possedere: la scelta non è ideologica
Non esiste una risposta unica. Esiste la risposta giusta per il tuo profilo di carico. Semplificando:
Conviene affittare (API cloud) quando:
- i volumi sono bassi, sporadici o molto variabili (picchi imprevedibili);
- stai ancora sperimentando e non sai quali carichi resteranno;
- ti serve occasionalmente il modello più potente in assoluto per compiti complessi;
- non hai (e non vuoi) competenze IT interne per gestire l'infrastruttura.
Conviene possedere (on-premise) quando:
- hai inferenza in produzione, costante, su dati operativi — è il caso in cui il conto a token diventa insostenibile;
- operi in un settore regolamentato (sanità, finanza, legale) dove i dati non possono uscire dal perimetro;
- hai vincoli di latenza stringenti;
- vuoi eliminare il lock-in: nessun fornitore che cambia prezzi, cambia modello o dismette un servizio da sotto i tuoi piedi.
Non a caso IDC stima che entro il 2027 il 75% delle grandi organizzazioni adotterà architetture ibride: cloud per ciò che è sporadico o richiede il modello di frontiera, on-premise per l'inferenza di produzione ad alto volume su dati sensibili. La terza via — open-weight in casa per i compiti standard, API proprietarie per i casi difficili — è già la scelta di molte imprese medie.
"Il primo anno l'API era comodissima. Il secondo, quando l'assistente è finito in tutti i reparti, la bolletta mensile era diventata più alta della rata di un server con GPU. A quel punto la matematica ha deciso per noi." — Direttore IT di un'azienda manifatturiera, confronto TCO 2026.
Il nostro taglio: per questo i nostri prodotti girano su infrastruttura tua
Non è un caso che Celeris, Nexus e Automata siano nati per girare su modelli open-weight, su infrastruttura che l'azienda controlla — on-premise o private cloud sovrano. La ragione non è ideologica ("open è bello"): è di conto economico. Quando l'AI entra nei processi e i volumi salgono, il modello a token diventa una tassa perpetua; il modello a hardware si ripaga e poi lavora quasi gratis, con i dati che non lasciano mai il perimetro.
Non stiamo dicendo che il cloud sia sbagliato: per iniziare, per sperimentare, per i picchi, è perfetto. Stiamo dicendo che la scelta va fatta con la calcolatrice, non con la moda del momento — e che chi ragiona sul costo per task su un orizzonte di due anni, e non sulla fattura del primo mese, spesso scopre che l'infrastruttura propria è la scelta economicamente più seria. Abbiamo scritto quando l'on-premise conviene a una PMI e quando no: questo articolo ne è la versione con i numeri del 2026 in mano.
