La distillazione trasferisce parte del comportamento di un modello, detto insegnante, a un altro modello, spesso più piccolo. Può utilizzare probabilità, risposte o altri segnali prodotti dall’insegnante durante l’addestramento. L’obiettivo frequente è ottenere un modello meno costoso per un perimetro definito.
Esempio pratico
Un modello compatto viene addestrato a rispondere a richieste ripetitive usando esempi revisionati ottenuti da un modello più capace.
Cosa tenere presente
Il modello studente può ereditare errori e perdere capacità. Verificare licenze, condizioni d’uso e risultati su dati indipendenti.
Termini correlati
Fonte di riferimento: documentazione o ricerca originale. Verificata il 16 ottobre 2026.