L’osservabilità degli LLM raccoglie segnali per capire il comportamento di un’applicazione AI: richieste, tempi, token, errori, strumenti chiamati e risultati. Le tracce aiutano a ricostruire il percorso fra input e output. Le convenzioni di telemetria non sostituiscono le valutazioni della qualità.
Esempio pratico
Un team identifica se una risposta lenta dipende dal recupero documenti, dal modello o da un servizio esterno.
Cosa tenere presente
Prompt e risposte possono contenere dati riservati. Definire redazione, accessi e conservazione dei log, evitando di registrare segreti per comodità diagnostica.
Termini correlati
Fonte di riferimento: documentazione o ricerca originale. Verificata il 16 ottobre 2026.