RAG on-premise: quando una scuola mi ha insegnato che la sovranità dei dati vale più della velocità

Come una richiesta semplice — “i nostri documenti non devono uscire da qui” — mi ha portato a costruire un ecosistema AI che ora interessa anche il mondo dei brevetti industriali

Tutto è partito da una frase detta quasi sottovoce, durante una riunione con il dirigente scolastico.

“I nostri manuali, i regolamenti interni, le circolari — non vogliamo che escano dalla scuola. Non vogliamo cloud. Non vogliamo che finiscano su server di qualcun altro.”

Una richiesta semplice. Quasi ovvia, detta così.

Ma nel mondo dell’AI enterprise del 2026, dove quasi tutto passa per API esterne e modelli in cloud, quella frase escludeva di colpo il 90% delle soluzioni disponibili sul mercato.

Il vincolo che diventa progetto

La scuola aveva bisogno di qualcosa di preciso: un sistema che permettesse al personale e agli studenti di interrogare documenti interni — regolamenti, procedure, circolari, manuali — ottenendo risposte precise, basate esclusivamente su quei documenti, senza che un singolo byte uscisse dalla rete locale.

Zero cloud. Zero API esterne. Zero allucinazioni.

E soprattutto: il gestore della scuola doveva poter caricare autonomamente nuovi documenti, aggiornare quelli vecchi, senza chiamare un tecnico ogni volta.

👉 Non era una richiesta tecnica. Era una richiesta di sovranità.

Ho preso una workstation con chip GB10 e 128GB di memoria unificata — hardware che fino a poco prima veniva considerato “troppo” per un istituto scolastico — e l’ho trasformata in un ecosistema AI completamente autonomo.

Come funziona nella pratica

Il sistema vive interamente dentro la rete locale della scuola. Nessuna connessione internet necessaria — air-gapped by design.

Il personale accede tramite browser, dalla propria postazione, con un’interfaccia personalizzata per ogni ruolo. Il dirigente vede quello che deve vedere lui. Il docente vede quello che serve a lui. Lo studente accede alla sua sezione. Ogni accesso è separato, ogni profilo è privato.

In backend, i documenti vengono trasformati in vettori matematici e archiviati localmente in Qdrant. Quando arriva una domanda, il sistema recupera i passaggi pertinenti, cita la fonte esatta, risponde in italiano giuridico-amministrativo quando serve.

Il gestore della conoscenza — una figura interna alla scuola, non un tecnico — carica i PDF, elimina quelli obsoleti, lancia l’indicizzazione con un click da un pannello Streamlit dedicato. Zero codice. Zero dipendenza esterna.

La sorpresa: stessa architettura, mercato completamente diverso

Quello che non avevo previsto è arrivato dopo.

Mentre lavoravo al progetto scuola, un’azienda manifatturiera ha sentito parlare della soluzione. Avevano un problema diverso ma strutturalmente identico: procedure di brevetto interne, documentazione riservata su processi produttivi, know-how che non poteva — per ovvie ragioni legali e competitive — finire su nessun server esterno.

La stessa architettura, lo stesso hardware, lo stesso principio di sovranità dei dati.

Ho cambiato il system prompt, ho adattato l’interfaccia, ho riconfigurato le ontologie per il linguaggio tecnico-brevettuale. Il resto era già lì.

👉 Quello che avevo costruito per una scuola era diventato, senza modifiche strutturali, una piattaforma per la protezione della proprietà intellettuale industriale.

Quello che ho imparato

Il RAG on-premise non è una scorciatoia tecnica. Non è la soluzione per chi non può permettersi il cloud.

È una scelta precisa: decidere che i propri dati, la propria conoscenza, la propria intelligenza organizzativa rimangono sotto il proprio controllo.

La scuola non voleva che i suoi regolamenti finissero su server americani. L’azienda non voleva che i suoi brevetti fossero nei log di un’API. Entrambe avevano ragione.

L’analisi tecnica completa dell’architettura — Docker Compose, Qdrant, LlamaIndex, Ollama con GB10, la Control Room Streamlit — è nell’articolo su Medium se vuoi approfondire il lato implementativo.

👉 Leggi la versione tecnica completa su Medium →

Quante organizzazioni stanno ancora aspettando il permesso di fare lo stesso?