La prompt injection tenta di deviare un sistema AI tramite istruzioni non affidabili presenti nell’input o nei contenuti che consulta. Può essere diretta, nel messaggio dell’utente, oppure indiretta, per esempio in una pagina web o in un documento recuperato.
Esempio pratico
Un documento contiene una frase che chiede all’assistente di ignorare il compito e divulgare informazioni riservate.
Cosa tenere presente
Filtrare alcune parole o aggiungere un divieto nel prompt non basta. Separare dati e istruzioni, limitare strumenti e permessi e controllare le operazioni con effetti esterni.
Termini correlati
Fonte di riferimento: documentazione o ricerca originale. Verificata il 16 ottobre 2026.