AI on premise per le PMI: quando conviene tenere l'AI in azienda, e quanto costa
Il cloud resta, ma i dati che non devono uscire restano in casa: quando l'AI on premise conviene a una PMI, tre lavori fatti con modelli piccoli e i prezzi veri dell'hardware.
Conviene a una PMI tenere l'AI in casa? Sì, per i dati che non devono uscire: segreti aziendali, documenti con dati personali, la conoscenza che fa la differenza. Per tutto il resto, nella mia esperienza, il cloud resta più economico e più capace. La strada pratica è ibrida: un modello piccolo in locale lavora sui dati sensibili, il cloud ragiona sul resto.
La mia tesi è che, dopo vent'anni di cloud first, l'AI stia tornando dentro l'azienda. Non al posto del cloud, ma accanto. Al GTC di Berlino del 21 ottobre 2026, Jensen Huang, che guida NVIDIA, ha spiegato che un'azienda può prendere un modello aperto e addestrarlo ancora sui propri dati, ricavandone quella che ha chiamato "sovereign intelligence"; e che conoscenza e strumenti degli agenti appartengono all'azienda (resoconto ufficiale NVIDIA). Chi lo dice vende le macchine su cui l'AI in casa dovrebbe girare: un buon motivo per non prenderlo alla lettera. Ma è lo stesso discorso che si fa da tempo sull'Europa che dipende da altri per energia e chip, la base dell'AI, portato al livello della singola azienda.
Cosa vuol dire AI on premise per una PMI?
AI on premise vuol dire che il modello gira su un computer che l'azienda controlla: un server in sede, una workstation, a volte un PC. I documenti che gli dai non escono dal perimetro, e nessun fornitore esterno li riceve. È il contrario dell'abbonamento a un servizio in cloud, dove ogni richiesta viaggia verso i server di qualcun altro.
Per una PMI quasi sempre si tratta di modelli piccoli, detti SLM (small language model): versioni ridotte, che girano su hardware normale e fanno bene un compito preciso. Quale modello scegliere non dipende dalla bandiera di chi lo pubblica, ma dai risultati misurati sul compito che ti serve.
Quando conviene tenere l'AI in azienda, e quando no?
La privacy è un freno ricorrente fra chi valuta l'AI. Secondo l'Istat, fra le imprese con almeno 10 addetti che nel 2025 non usavano l'intelligenza artificiale ma avevano preso in considerazione di usarla (l'11,5% di chi non la usava), il 43,2% indicava fra gli ostacoli la privacy e la protezione dei dati (Istat, Imprese e ICT, 15 dicembre 2025). Un modello in locale riduce proprio quel freno.
Conviene quando:
- lavori su segreti aziendali: formule, ricette, offerte, progetti, tutto ciò che un concorrente pagherebbe per leggere;
- tratti dati personali di clienti, dipendenti o debitori: tenerli in casa evita di affidarli a un fornitore esterno, anche se gli altri obblighi del GDPR restano (ne ho scritto a proposito degli agenti che cercano clienti e del GDPR);
- vuoi proteggere la base di conoscenza dell'azienda e usarla molto di più, senza dipendere da un fornitore che può cambiare prezzi e condizioni.
Non conviene quando il compito chiede il ragionamento migliore disponibile, quando i volumi sono bassi, o quando in azienda non c'è nessuno che possa tenere in piedi una macchina in più. Lì oggi vince il cloud, che per me resta la leva per abbassare i costi e migliorare qualità e processi.
Cosa fa già un modello piccolo in locale?
Tre lavori che ho fatto girare con modelli piccoli sul mio PC: un portatile con una scheda grafica NVIDIA GeForce RTX 4060 da 8 GB di memoria video, non una macchina dedicata.
Anonimizzare i documenti prima di darli a un'AI. È il processo con cui abbiamo lavorato per LidIA, la piattaforma per le procedure di sovraindebitamento sviluppata da Castaldo Solutions in collaborazione con Rimedia Solutions (ne racconto la nascita nel caso studio). Sul mio PC un modello piccolo anonimizzava i documenti, e solo il documento ripulito andava a un'AI da digerire. È il modello ibrido nella sua forma più semplice: il dato sensibile non esce, il ragionamento lo fa chi lo fa meglio.
Leggere i documenti (OCR). Trasformare scansioni e PDF in testo che si può cercare e usare. È un lavoro ripetitivo, a volumi alti, su documenti che spesso non dovrebbero uscire: il caso tipico per un modello piccolo. Sul mio portatile l'ho fatto con GLM-OCR, un modello da 1,1 miliardi di parametri, che occupa 2,2 GB e si scarica gratis con Ollama.
Generare immagini da altre immagini. Un agente img-2-img per il prototipo di uno studio di architetti: si parte da un'immagine del progetto e se ne generano varianti, senza mandare gli elaborati a un servizio esterno.
Una cosa va detta chiaramente: oggi nessuno di questi tre lavori gira su una macchina dedicata presso un cliente. I miei clienti sono PMI con margini stretti, e finora l'hardware dedicato non si è giustificato. Ma funzionano, ed è da qui che si parte.
Quanto costa l'hardware per l'AI in locale?
Per provare, se hai già un computer con una buona scheda grafica, non serve comprare niente: strumenti gratuiti come Ollama o LM Studio scaricano un modello aperto e lo fanno girare in locale. Su un portatile con 8 GB di memoria video girano già modelli piccoli per OCR, anonimizzazione e immagini.
Quando serve una macchina dedicata, il riferimento più piccolo di NVIDIA è la DGX Spark, un computer da scrivania pensato per far girare modelli in locale. Prezzi di listino in dollari, IVA esclusa, verificati il 24 ottobre 2026:
| Configurazione | Prezzo | Quando | Fonte |
|---|---|---|---|
| DGX Spark, prezzo di lancio | 3.999 dollari | fino a febbraio 2026 | NVIDIA |
| DGX Spark, dopo il rincaro per la carenza di memoria | 4.699 dollari | febbraio 2026 | NVIDIA |
| DGX Spark da 128 GB | 6.995 dollari | ottobre 2026 | HotHardware |
| Dell Pro Max con GB10, versione da 64 GB | 4.999 dollari | in vendita dal 23 ottobre 2026 | HotHardware |
Per i sistemi più grandi non ho trovato un listino pubblico, e la tabella non comprende i costi di gestione: energia, manutenzione, il tempo di chi la segue.
Il confronto giusto è fra il costo della macchina e quello che già paghi in abbonamenti e in ore di lavoro su quel compito. E c'è una parte che il conto non vede: se l'AI in locale protegge i segreti dell'azienda e la libera da servizi di cui non sai cosa faranno con i tuoi dati, per me quel prezzo è impagabile.
Cos'è l'harness, e perché conta più del modello?
Nel keynote di Berlino un agente AI è descritto come l'insieme di cinque componenti:
- il modello;
- l'harness;
- la sandbox, cioè lo spazio isolato in cui agisce;
- la conoscenza;
- gli strumenti.
L'harness è tutto ciò che sta intorno al modello e lo fa lavorare: le istruzioni, gli strumenti che può usare, la conoscenza che può leggere, i permessi, i controlli. È la parte che fa la differenza, ed è il nostro mestiere: costruire tutto questo intorno al modello, cioè essere implementatori di harness agentica.
Il modello si cambia quando ne esce uno migliore; l'harness resta, e con lui le regole e la memoria dell'azienda. Le istruzioni sono il primo pezzo, e un esempio concreto è il CLAUDE.md. Vale anche in locale: un modello piccolo con istruzioni chiare, permessi stretti e una conoscenza ordinata fa bene il suo compito. Lo stesso modello senza harness è una demo.
Da dove parte una PMI?
Da una lista, non da un acquisto. Scrivi quali dati non devono uscire dall'azienda, e su quali di questi l'AI ti farebbe risparmiare più tempo. Scegli un compito solo, per esempio anonimizzare un tipo di documento, e provalo in locale su un PC. Solo quando l'uso è chiaro ha senso decidere l'hardware, e a quel punto il conto si fa sui numeri, non sulla paura.
Se vuoi capire quali dei tuoi dati dovrebbero restare in casa e quali possono andare in cloud, si parte da un Pre-Assessment gratuito: scrivimi, è una conversazione che conviene fare prima di comprare qualsiasi cosa.
Domande frequenti
Cos'è l'AI on premise?
È un'intelligenza artificiale che gira su hardware controllato dall'azienda, in sede o su una macchina dedicata, invece che sui server di un fornitore in cloud. I documenti e i dati che le dai non escono dal perimetro aziendale. Per una PMI di solito si tratta di modelli piccoli, che girano su hardware normale e fanno bene un compito preciso, come anonimizzare o leggere documenti.
Quanto costa far girare un'AI in locale?
Per provare, niente: strumenti gratuiti come Ollama o LM Studio fanno girare un modello aperto su un computer con una buona scheda grafica. Per una macchina dedicata, la DGX Spark di NVIDIA è partita a 3.999 dollari ed è salita a 4.699 a febbraio 2026; a ottobre 2026 la Dell Pro Max con GB10 da 64 GB costa 4.999 dollari. Il costo va confrontato con abbonamenti e ore che quel compito costa oggi.
Un modello piccolo in locale è all'altezza di ChatGPT o Claude?
Nella mia esperienza, non sui ragionamenti lunghi e aperti, dove i modelli di frontiera in cloud restano avanti. Su compiti stretti e ripetitivi sì: anonimizzare documenti, leggere scansioni, generare varianti di un'immagine sono lavori che un modello piccolo fa bene sul proprio PC. Per questo la strada pratica è ibrida: il locale lavora sui dati sensibili, il cloud ragiona sul resto.
L'AI in locale basta per essere in regola con il GDPR?
No. Un modello in locale evita di affidare i dati personali a un fornitore esterno, e con lui l'accordo che il GDPR chiede quando un terzo li tratta per tuo conto (articolo 28). Restano però a carico dell'azienda la base giuridica del trattamento, l'informativa alle persone e le misure di sicurezza (articolo 32). Il testo completo è sul Regolamento (UE) 2016/679.
