Il red teaming AI è una valutazione avversaria autorizzata che cerca comportamenti pericolosi, errori e vulnerabilità di un sistema. Può esplorare input difficili, uso improprio degli strumenti, fuga di dati e aggiramento delle protezioni. Integra i test funzionali ordinari.
Esempio pratico
Un team verifica in un ambiente di prova se documenti malevoli possono indurre l’assistente a superare i permessi previsti.
Cosa tenere presente
Un test senza problemi non dimostra sicurezza completa. Definire perimetro, dati consentiti, criteri di gravità e gestione delle evidenze, evitando effetti reali non autorizzati.
Termini correlati
Fonte di riferimento: documentazione o ricerca originale. Verificata il 16 ottobre 2026.