La domanda che mi fanno più spesso studi professionali, ambulatori e piccole aziende non è «l’AI funziona?». È: «se le do i miei documenti, dove finiscono?». È la domanda giusta, e ha una risposta tecnica precisa che dipende da come costruisci il sistema, non da quale servizio scegli.
Il problema non è che «l’AI è insicura»
Un modello linguistico non è un archivio: non «tiene» i tuoi documenti come farebbe un database. Il rischio reale è più banale e più concreto: per rispondere, il testo del documento deve arrivare fisicamente al modello. Se il modello gira sui server di un fornitore, quel testo esce dalla tua rete, attraversa Internet e viene elaborato altrove.
Per una bozza di email non cambia nulla. Per una cartella clinica, un fascicolo processuale o il bilancio di un cliente, quel passaggio è esattamente ciò che il segreto professionale e il GDPR ti chiedono di governare. Non è una questione di fiducia nel fornitore: è che devi poter dimostrare dove passano quei dati, e «ho letto l’informativa» non è una dimostrazione.
Le tre configurazioni possibili, in ordine di rischio
API di un fornitore
Il testo esce dalla tua rete. Più potente, più economico, immediato. Accettabile per contenuti non riservati o già pubblici.
Modello in cloud dedicato
Istanza isolata su infrastruttura tua o affittata. I dati restano sotto un contratto che controlli, ma escono comunque dalla sede.
Modello on-premise
Il modello gira su una macchina tua. I prompt non lasciano la rete locale. Nessun terzo coinvolto, nessun contratto da fidarsi.
La terza opzione è quella di cui si parla meno, ed è quella che risolve il problema alla radice: se il documento non lascia mai il tuo server, non devi negoziare con nessuno cosa ci fa qualcun altro.
Cosa serve per far girare un modello in casa
Qui casca la maggior parte delle discussioni, perché si immagina un data center. La realtà è più prosaica: si parla di un computer con una buona scheda video, non di una sala server. I modelli a pesi aperti — quelli che chiunque può scaricare e installare, invece di poterli solo usare a distanza sui server di chi li produce — girano su una singola macchina, e nelle versioni compresse abbassano parecchio i requisiti a fronte di una perdita di qualità contenuta.
Le variabili che contano sono tre, e per valutarle non serve essere tecnici:
- Quanta memoria ha la scheda videoSi chiama VRAM ed è il vincolo dominante: decide quanto può essere grande il modello e quanto testo riesce a leggere tutto insieme. È anche la voce che determina il prezzo dell’hardware.
- Quante persone lo useranno insiemeUn modello che risponde a una persona alla volta è una cosa. Uno che serve venti dipendenti in contemporanea è un dimensionamento diverso, e un costo diverso.
- Che compito deve svolgereEstrarre campi da un modulo, classificare una pratica o riassumere un referto sono compiti alla portata di modelli piccoli. Ragionare su un contratto complesso no.
Quest’ultimo punto è il più importante e il più ignorato. Il confronto sensato non è «modello locale contro modello di frontiera in astratto», ma «questo modello locale è abbastanza buono per questo compito». Per estrazione dati, classificazione e ricerca sui documenti la risposta è molto spesso sì.
Cosa ci perdi
Sarebbe disonesto raccontare che l’on-premise è gratis. Quello che paghi è:
- Qualità sui compiti difficili. Su ragionamento complesso e scrittura lunga i modelli di frontiera restano avanti. Su compiti ristretti e ben definiti il divario si assottiglia fino a sparire.
- Un investimento iniziale in hardware, invece di un costo a consumo (come si stima il costo di un’automazione). Si ammortizza in fretta se il volume è costante, molto meno se usi il sistema tre volte al mese.
- Manutenzione. Aggiornamenti, backup, monitoraggio. È un server, e come ogni server va tenuto in vita da qualcuno.
In cambio ottieni una cosa che non si compra con un contratto: la certezza che quei documenti non sono usciti, e la possibilità di dimostrarlo con un log e uno schema di rete invece che con una clausola.
Come si decide, in pratica
Non parto mai dalla tecnologia. Parto da una tabella con due colonne: quali dati toccherà il sistema, e cosa succede se quel dato finisce nel posto sbagliato. Se la seconda colonna contiene «sanzione», «segreto professionale» o «perdo il cliente», la scelta è già fatta e il resto è dimensionamento.
Nella maggior parte dei casi reali la risposta è ibrida, e questa è la parte che raramente viene detta: si separa il flusso. I documenti riservati vengono elaborati in locale; i compiti che non toccano dati sensibili — riscrivere un testo pubblico, generare una bozza di comunicazione, tradurre — continuano ad andare su un servizio esterno, che costa meno e rende di più. Non è un compromesso al ribasso: è progettare il sistema attorno al rischio invece che attorno allo strumento.
Domande frequenti
Un modello locale è meno intelligente?
Su compiti generici e ragionamento complesso, sì. Su compiti specifici e ben delimitati — estrarre dati da un modulo, classificare una pratica, cercare dentro un archivio — la differenza spesso non si nota, perché il compito non richiede la potenza che stai confrontando.
Serve per forza una GPU costosa?
Dipende dal modello e dal volume. Per un uso a bassa frequenza esistono configurazioni molto più contenute di quanto si immagini, e anche la CPU è praticabile se puoi tollerare risposte più lente. Il dimensionamento va fatto sul carico reale, non sulla scheda tecnica.
I dati usati vengono impiegati per addestrare il modello?
In una configurazione on-premise no, semplicemente perché non escono. Con i servizi esterni dipende dal piano e dalle condizioni contrattuali: è una cosa da verificare per iscritto, non da dare per scontata.
Posso partire in cloud e spostarmi in locale dopo?
Sì, se il sistema viene progettato dall’inizio per non essere legato a un fornitore specifico. È una scelta architetturale che costa poco all’inizio e molto dopo, quando devi rifare tutto.
Hai documenti che non possono uscire?
Descrivimi che tipo di dati tratti e cosa vorresti automatizzare, o parti dalla pagina consulenza AI. Ti dico se il caso regge in locale e cosa serve, prima di qualunque preventivo.