Il prompt caching permette di riutilizzare elaborazioni associate a porzioni ripetute del contesto, secondo le regole del servizio. Può ridurre lavoro, latenza o costo quando istruzioni e documenti comuni vengono inviati più volte. Non è necessariamente una cache della risposta finale.
Esempio pratico
Molte richieste condividono lo stesso manuale e le stesse istruzioni: il provider può evitare parte dell’elaborazione ripetuta.
Cosa tenere presente
Requisiti, durata e prezzi variano. La cache non sostituisce un archivio dei dati né garantisce risposte identiche; controllare gestione degli accessi e invalidazione dei contenuti aggiornati.
Termini correlati
Fonte di riferimento: documentazione o ricerca originale. Verificata il 16 ottobre 2026.