Home · Blog

Small Language Models: l'AI che gira a casa tua

29 giugno 2026 · Sovereign AI · On-premise

Per due anni il riflesso è stato uno solo: serve l'AI? Si chiama l'API del modello più grande disponibile. Nel 2026 la domanda è cambiata. Non è più "qual è il modello più potente", ma "qual è il modello giusto, nel posto giusto". E sempre più spesso la risposta è un modello compatto, che gira dentro l'azienda.

Cosa sono gli Small Language Models

Gli Small Language Models (SLM) sono modelli linguistici con un numero di parametri ridotto, tipicamente sotto i 30 miliardi, spesso molto meno. Non competono con i modelli di frontiera sui compiti più creativi e aperti. Ma sui compiti aziendali ripetitivi e ben definiti (classificare ticket, estrarre dati, rispondere a domande su una base di conoscenza, instradare richieste) fanno esattamente il lavoro che serve, più in fretta e a una frazione del costo.

Perché nel 2026 sono diventati una scelta seria

Il motivo non è una statistica di settore, è un conto che potete rifare sul vostro traffico:

• Girano su hardware che si compra: sotto i 30 miliardi di parametri, e quantizzato, un modello sta su una singola GPU di fascia consumer. Non serve un data center, serve una macchina.
• Il costo diventa fisso invece che a consumo: con le API si paga ogni chiamata, quindi su un compito ripetitivo ad alto volume la bolletta cresce insieme all'uso. Con un modello vostro il costo è hardware più energia, e non raddoppia se raddoppiano le richieste. Dove cada il punto di pareggio dipende dai vostri volumi: è un calcolo da fare sui vostri numeri, non da copiare dai nostri.
• Sui compiti stretti la qualità basta: classificare un ticket o estrarre un campo da una fattura non richiede un modello di frontiera. Il confronto va fatto sul vostro dataset, perché è l'unico posto in cui la risposta significa qualcosa.

Il vero vantaggio: i dati non escono dall'azienda

Il risparmio è solo metà della storia. La parte che interessa di più ai nostri clienti in settori regolamentati (finanza, sanità, legale, manifattura con know-how sensibile) è la sovranità del dato. Un SLM può girare on-premise o in un cloud privato: i documenti riservati, la telemetria, i dati dei clienti non lasciano mai il perimetro aziendale per finire su server di terze parti.

È lo stesso principio di data residency che applichiamo nei progetti RAG sui dati aziendali, portato alle estreme conseguenze: non solo i dati restano in UE, ma l'intero modello vive sotto il tuo controllo. Per chi deve dimostrare conformità all'AI Act e al GDPR, è spesso l'architettura che semplifica di più la vita.

Quando conviene un SLM (e quando no)

Non è una scelta ideologica: è una scelta di architettura. La nostra regola pratica:

• SLM on-premise quando il compito è ben definito e ad alto volume, i dati sono sensibili, la latenza conta, e i costi delle API stanno diventando un problema strutturale.
• Modello di frontiera via API quando serve ragionamento aperto e complesso, i volumi sono bassi, oppure stai prototipando e la velocità di sviluppo conta più dell'ottimizzazione dei costi.
• Architettura ibrida, la più frequente nei progetti maturi: un SLM gestisce in locale la gran parte delle richieste banali, e solo i casi complessi vengono inoltrati a un modello più grande. Il meglio dei due mondi.

Come li mettiamo in produzione

Adottare un SLM non significa solo scaricare un modello open. Il valore sta nel fit con il tuo caso d'uso: selezione del modello giusto per il compito, fine-tuning sui tuoi dati, ottimizzazione per l'hardware disponibile, integrazione nei flussi esistenti e monitoraggio della qualità nel tempo. È lo stesso approccio ingegneristico con cui costruiamo i nostri sistemi multi-agente: scegliere lo strumento più semplice che risolve il problema, non il più appariscente.

Articoli correlati

← Tutti gli articoli