Vibe coding è un’espressione informale per uno sviluppo guidato in larga parte da richieste in linguaggio naturale a un sistema AI, procedendo attraverso risultati e iterazioni. Non è uno standard tecnico né un sinonimo preciso di ogni utilizzo dell’AI nella programmazione.
GEO è un termine usato per attività volte a rendere contenuti trovabili, comprensibili e citabili nelle risposte dei sistemi di ricerca generativa. Comprende chiarezza, fonti, struttura e accessibilità tecnica. Non è una specifica universale condivisa da tutti i motori.
llms.txt è una proposta di file testuale in formato Markdown che presenta un sito e indica risorse utili ai sistemi basati su modelli linguistici. Può offrire una mappa editoriale più selettiva rispetto a un elenco completo di URL.
Una model card documenta caratteristiche, usi previsti e limiti di un modello. Può riportare dati di addestramento, valutazioni, licenza, modalità d’uso e rischi noti. Aiuta a confrontare modelli e a capire se le prove disponibili sono pertinenti al proprio impiego.
Open-weight descrive un modello i cui pesi sono disponibili secondo una determinata licenza. Non significa automaticamente open source: disponibilità del codice, informazioni sui dati e diritti di uso, modifica e distribuzione possono essere differenti.
L’osservabilità degli LLM raccoglie segnali per capire il comportamento di un’applicazione AI: richieste, tempi, token, errori, strumenti chiamati e risultati. Le tracce aiutano a ricostruire il percorso fra input e output. Le convenzioni di telemetria non sostituiscono le valutazioni della qualità.
Il data poisoning altera dati di addestramento o altre fonti per influenzare il comportamento di un sistema AI. Il model poisoning riguarda manipolazioni del modello o della sua catena di distribuzione. Possono introdurre errori mirati o comportamenti nascosti.
LLMOps indica le pratiche operative per sviluppare, distribuire e mantenere applicazioni basate su modelli linguistici. Comprende gestione delle versioni, prompt, dati, valutazioni, costi, monitoraggio e rilascio. Si sovrappone a MLOps e software engineering, con attenzione alle specificità degli LLM.
La sycophancy è la tendenza di un modello ad assecondare opinioni o aspettative dell’utente anche quando ciò riduce accuratezza e indipendenza della risposta. Può emergere come accordo eccessivo, conferma di premesse false o cambiamento di giudizio senza nuove prove.
RLAIF significa Reinforcement Learning from AI Feedback: apprendimento per rinforzo che usa feedback prodotto da sistemi AI. Può ridurre parte del lavoro di valutazione manuale, ma obiettivi e criteri restano progettati da persone. Nella Constitutional AI il feedback è guidato anche da principi espliciti.
Il red teaming AI è una valutazione avversaria autorizzata che cerca comportamenti pericolosi, errori e vulnerabilità di un sistema. Può esplorare input difficili, uso improprio degli strumenti, fuga di dati e aggiramento delle protezioni. Integra i test funzionali ordinari.
L’allineamento AI riguarda metodi e processi per rendere il comportamento di un sistema coerente con obiettivi, istruzioni e vincoli desiderati. Può coinvolgere dati, addestramento, valutazioni e regole applicative. Obiettivi e criteri devono essere espliciti, perché possono entrare in conflitto.
L’excessive agency è il rischio che un sistema AI disponga di strumenti, permessi o autonomia superiori a quanto necessario. Una decisione sbagliata o un input malevolo può così tradursi in azioni dannose. È un problema dell’applicazione e delle autorizzazioni, non soltanto della qualità del modello.
I guardrails AI sono controlli che limitano input, output e azioni di un sistema. Possono combinare regole deterministiche, validazione di schemi, filtri, modelli di controllo e approvazioni umane. La loro efficacia dipende dal punto in cui vengono applicati e dai rischi coperti.
Un jailbreak AI è un tentativo di aggirare le restrizioni di comportamento di un modello, inducendolo a produrre risposte che dovrebbe rifiutare. Può sovrapporsi alla prompt injection, ma il termine mette l’accento sull’elusione delle salvaguardie del modello.
La prompt injection tenta di deviare un sistema AI tramite istruzioni non affidabili presenti nell’input o nei contenuti che consulta. Può essere diretta, nel messaggio dell’utente, oppure indiretta, per esempio in una pagina web o in un documento recuperato.
LLM-as-a-judge indica l’uso di un modello linguistico per valutare risposte o comportamenti secondo criteri espliciti. Il giudice può assegnare punteggi, classificare errori o confrontare alternative. È uno strumento per le evals, non un arbitro infallibile.
Le allucinazioni AI sono contenuti generati che risultano falsi, non supportati o incoerenti con le fonti disponibili, pur essendo presentati in forma plausibile. Possono riguardare fatti, citazioni, numeri o dettagli di un documento. Non richiedono un’intenzione di ingannare.
Le evals sono valutazioni sistematiche di un modello o di un sistema AI su casi e criteri definiti. Possono misurare correttezza, qualità, uso degli strumenti, costi e rispetto dei vincoli. Per gli agenti conta anche il percorso seguito, non soltanto il testo finale.
Un world model è un modello che rappresenta aspetti di un ambiente e ne prevede o simula l’evoluzione, anche in relazione alle azioni. Il termine viene usato in contesti diversi, dalla robotica agli ambienti interattivi generati. Non indica necessariamente una replica completa del mondo reale.
Un modello VLA collega percezione visiva, istruzioni linguistiche e azioni, spesso nel contesto della robotica. Elabora osservazioni e richieste per produrre comandi o rappresentazioni di azioni. Si distingue da un modello che si limita a descrivere un’immagine.
