QLoRA combina adattamento LoRA e una rappresentazione quantizzata del modello di base per ridurre la memoria necessaria al fine-tuning. L’approccio originale usa una base congelata a precisione ridotta e aggiorna adattatori, con accorgimenti specifici per mantenere qualità e stabilità.
Esempio pratico
Un esperimento di adattamento può diventare praticabile su hardware con meno memoria rispetto al fine-tuning completo.
Cosa tenere presente
Non è sinonimo di qualsiasi modello a quattro bit. Risultati, compatibilità e fabbisogno di memoria variano con architettura, lunghezza del contesto e impostazioni di addestramento.
Termini correlati
Fonte di riferimento: documentazione o ricerca originale. Verificata il 16 ottobre 2026.