L’excessive agency è il rischio che un sistema AI disponga di strumenti, permessi o autonomia superiori a quanto necessario. Una decisione sbagliata o un input malevolo può così tradursi in azioni dannose. È un problema dell’applicazione e delle autorizzazioni, non soltanto della qualità del modello.
Esempio pratico
Un assistente incaricato di cercare documenti non dovrebbe poter cancellare archivi o inviare automaticamente dati a destinatari esterni.
Cosa tenere presente
Applicare privilegi minimi, strumenti circoscritti e conferme sulle operazioni importanti. Registrare azioni ed esiti per consentire verifiche e recupero.
Termini correlati
Fonte di riferimento: documentazione o ricerca originale. Verificata il 16 ottobre 2026.