Una model card documenta caratteristiche, usi previsti e limiti di un modello. Può riportare dati di addestramento, valutazioni, licenza, modalità d’uso e rischi noti. Aiuta a confrontare modelli e a capire se le prove disponibili sono pertinenti al proprio impiego.
Open-weight descrive un modello i cui pesi sono disponibili secondo una determinata licenza. Non significa automaticamente open source: disponibilità del codice, informazioni sui dati e diritti di uso, modifica e distribuzione possono essere differenti.
Un world model è un modello che rappresenta aspetti di un ambiente e ne prevede o simula l’evoluzione, anche in relazione alle azioni. Il termine viene usato in contesti diversi, dalla robotica agli ambienti interattivi generati. Non indica necessariamente una replica completa del mondo reale.
Un modello VLA collega percezione visiva, istruzioni linguistiche e azioni, spesso nel contesto della robotica. Elabora osservazioni e richieste per produrre comandi o rappresentazioni di azioni. Si distingue da un modello che si limita a descrivere un’immagine.
I modelli di diffusione sono modelli generativi che apprendono a ricostruire dati a partire da versioni progressivamente alterate dal rumore. Nella generazione, un processo iterativo produce contenuti coerenti a partire da una rappresentazione rumorosa, eventualmente condizionato da testo o altri segnali.
Un SLM è un modello linguistico relativamente compatto rispetto ai modelli più grandi del contesto di riferimento. Non esiste una soglia numerica universalmente condivisa. Può essere utile per compiti delimitati, esecuzione locale o riduzione di costi e latenza.
Un modello multimodale elabora o genera più tipi di dati, come testo, immagini, audio o video. Un vision-language model, o VLM, collega in particolare informazioni visive e linguistiche. Le modalità supportate in ingresso e in uscita dipendono dal sistema.
Una Mixture of Experts è un’architettura che usa più componenti specializzabili, chiamate esperti, e un meccanismo di instradamento. Nei modelli MoE sparsi, soltanto una parte degli esperti viene attivata per ogni token. Parametri totali e parametri attivi sono quindi misure differenti.
Gli output strutturati sono risposte vincolate a un formato e, quando supportato, a uno schema definito: per esempio JSON con campi e tipi prestabiliti. Facilitano l’integrazione del modello con software e database. Il rispetto dello schema è distinto dalla correttezza dei valori prodotti.
Il sampling è la scelta dei token durante la generazione. La temperatura modifica la distribuzione delle probabilità; top-p limita la selezione a un insieme con una determinata massa di probabilità cumulata. Sono parametri diversi e la loro disponibilità dipende dal modello e dall’API.
I modelli di ragionamento sono modelli progettati o addestrati per affrontare problemi che richiedono più passaggi, come pianificazione, matematica e codice. Possono dedicare elaborazione aggiuntiva prima di rispondere, verificare alternative o utilizzare strumenti. Il termine descrive capacità operative, non coscienza o ragionamento umano dimostrato.
Il test-time compute è la quantità di calcolo usata durante la generazione di una risposta, dopo l’addestramento. Può aumentare attraverso passaggi aggiuntivi, campionamento di più soluzioni, ricerca o verifiche. L’inference-time scaling studia come sfruttare questo calcolo per migliorare determinate prestazioni.
La chain of thought è una sequenza di passaggi intermedi associata alla soluzione di un problema. Nella ricerca sui modelli linguistici indica anche tecniche che favoriscono risposte articolate in passaggi anziché una sola conclusione. I sistemi moderni possono gestire elaborazioni interne non esposte integralmente all’utente.
L’in-context learning indica la capacità di adattare il comportamento usando istruzioni e informazioni presenti nella richiesta, senza modificare i pesi durante quell’interazione. Il modello sfrutta il contesto per riconoscere un compito o un pattern. Gli esempi few-shot sono una possibile applicazione.
Il few-shot prompting fornisce al modello alcuni esempi del comportamento desiderato all’interno del contesto. Gli esempi mostrano come collegare un input a un output e possono chiarire formato, stile o criteri di classificazione. Non comporta di per sé un aggiornamento dei pesi del modello.
Il system prompt è un insieme di istruzioni assegnate al modello dall’applicazione per orientarne ruolo, comportamento e vincoli. Nei sistemi di chat è distinto dal messaggio dell’utente; nomi dei ruoli e gerarchia delle istruzioni variano fra piattaforme.
Il prompt engineering consiste nel progettare e verificare istruzioni ed esempi per ottenere risposte utili da un modello. Un buon prompt chiarisce compito, dati disponibili, vincoli, destinatario e formato richiesto. Le varianti vanno confrontate su casi rappresentativi, non giudicate da una sola risposta riuscita.
Il context engineering è la progettazione delle informazioni disponibili a un sistema AI durante il lavoro: istruzioni, dati recuperati, stato, memoria e output degli strumenti. Comprende selezione, aggiornamento e organizzazione del contesto. Va oltre la sola formulazione di un prompt.
La finestra di contesto è il limite di informazioni che un modello può trattare in una singola elaborazione, normalmente espresso in token. Può comprendere istruzioni, conversazione, documenti e risultati degli strumenti; il rapporto con i token di uscita dipende dall’implementazione.
Un token è un’unità con cui un modello rappresenta il testo: può corrispondere a una parola, una parte di parola, un segno o una sequenza di caratteri. Il tokenizer stabilisce la suddivisione e gli identificatori numerici. Lo stesso testo può avere conteggi diversi con tokenizer differenti.
Il Transformer è un’architettura di rete neurale che usa meccanismi di attenzione per elaborare relazioni tra elementi di una sequenza. Ha favorito lo sviluppo di molti modelli linguistici moderni. Esistono configurazioni encoder, decoder ed encoder-decoder, adatte a compiti differenti; non tutti i Transformer sono chatbot.