RAG As A Service

contattaci

Scenario

UUn’azienda manifatturiera disponeva di un ampio catalogo di manuali e documenti tecnici, con informazioni distribuite tra prodotti, varianti e revisioni. Per trovare una risposta, personale interno, partner commerciali e tecnici e operatori che assistevano gli utilizzatori delle apparecchiature dovevano individuare il documento corretto e consultarlo manualmente. La ricerca dipendeva dalla conoscenza del catalogo e le stesse richieste rischiavano di essere risolte ogni volta da capo.

Requisiti

La piattaforma doveva:

  • Rendere ricercabile per significato un corpus composto anche da PDF scansionati e documenti con tabelle, figure e diagrammi;
  • Generare risposte ancorate ai passaggi recuperati, con riferimenti verificabili al documento e alla pagina;
  • Servire più progetti e corpus tramite API, widget integrabile e applicazioni web di chat, senza richiedere modifiche infrastrutturali per ogni nuovo cliente;
  • Applicare isolamento per progetto e offrire controlli di consumo, quote e costi per tenant.

Soluzione

LFastweb ha realizzato RAG as a Service come piattaforma multi-tenant su AWS. In fase di ingestione, le pagine dei documenti sono interpretate con modelli multimodali su Amazon Bedrock: il contenuto viene strutturato preservando layout e tabelle, mentre figure e diagrammi sono descritti testualmente per renderli ricercabili. I contenuti elaborati sono suddivisi in segmenti, convertiti in embedding e indicizzati per la ricerca semantica.

Gli utenti possono interrogare il corpus con ricerche filtrabili oppure usare una chat RAG agentica che recupera i passaggi pertinenti e mostra citazioni a documento e pagina. La piattaforma espone la stessa capacità tramite API machine-to-machine, widget integrabile e chat web ospitata.

L’architettura impiega Amazon API Gateway e un VPC Link verso un Application Load Balancer interno, con servizi applicativi e worker di parsing su Amazon ECS con AWS Fargate. Amazon S3 conserva documenti e artefatti derivati; Amazon SQS gestisce l’elaborazione asincrona; Amazon DynamoDB contiene lo stato applicativo e Amazon Aurora PostgreSQL Serverless v2 con pgvector fornisce il backend vettoriale. Amazon Cognito, AWS Secrets Manager, AWS KMS e Amazon CloudWatch supportano rispettivamente identità, gestione dei segreti, protezione dei dati e osservabilità. Amazon Bedrock è usato per comprensione multimodale, chat e generazione degli embedding.

Progetto

La piattaforma è stata portata in produzione con la documentazione del cliente. Al 1° settembre 2026, dopo due soli mesi dal go-live in produzione, il corpus del cliente comprendeva approssimativamente 1.000 documenti distribuiti su circa 50 indici. I nuovi corpus vengono configurati come progetti sulla piattaforma e acquisiti tramite API, senza richiedere una modifica dello stack infrastrutturale.

Benefici osservati

Le misurazioni disponibili descrivono le prestazioni aggregate della piattaforma multi-tenant, non il solo progetto del cliente. Nel periodo dal 4 giugno al 1° settembre 2026 sono state misurate 1.615 operazioni su 12 progetti e 173 documenti distinti:

  • Il tempo mediano dall’avvio di un progetto vuoto alla prima risposta fondata sulle fonti è stato di **31,6 minuti**, sugli 11 progetti che hanno completato l’intero percorso;
  • La latenza mediana del recupero è stata di **354 ms**, con **1.846 ms al 95° percentile**, su 737 query misurate;
  • Il costo osservato è stato di circa **USD 0,45 per documento reso ricercabile** e **USD 0,064 per risposta generata**, secondo il consumo registrato nella finestra di misurazione.
Per informazioni
CONTATTACI!

La nostra esperienza è al tuo servizio

Vuoi ricevere maggiori informazioni su come integrare il tuo business con i prodotti e le soluzioni Fastweb?

Nome Azienda

Inserire una partita iva valida

Partita IVA
Sede Legale

Nome
Cognome

Inserire una email valida

Email aziendale
Numero telefono aziendale
Note Aggiuntive
Tutti i campi sono obbligatori

Grazie per averci contattato!


Abbiamo ricevuto i tuoi dati e il nostro team di esperti ti ricontatterà per darti maggiori informazioni e supporto su come integrare il tuo Business con le soluzioni di Connettività, Sicurezza, Cloud e Digital Transformation.

Costruiremo insieme l’azienda del futuro.

Attenzione


Attenzione


si è verificato un errore momentaneo.
Ci scusiamo per il disagio e ti invitiamo a riprovare più tardi