Il Transformer è un’architettura di rete neurale che usa meccanismi di attenzione per elaborare relazioni tra elementi di una sequenza. Ha favorito lo sviluppo di molti modelli linguistici moderni. Esistono configurazioni encoder, decoder ed encoder-decoder, adatte a compiti differenti; non tutti i Transformer sono chatbot.
Esempio pratico
In una frase, l’attenzione permette al modello di combinare informazioni provenienti da parole in posizioni diverse.
Cosa tenere presente
Attenzione è un’operazione matematica, non attenzione cosciente. Architettura, dati, obiettivo di addestramento e dimensione influenzano insieme il comportamento del modello.
Termini correlati
Fonte di riferimento: documentazione o ricerca originale. Verificata il 16 ottobre 2026.