I prompt (ovvero le istruzioni o le domande fornite al modello) influenzano profondamente le risposte dei modelli di intelligenza artificiale
Un prompt ben costruito può ridurre il rischio di bias (pregiudizi o distorsioni), mentre uno ambiguo o sbilanciato può amplificarli.
I bias non sono solo "errori" del modello, ma riflettono spesso pregiudizi presenti nei dati su cui è stato addestrato o nelle formulazioni utilizzate.
Nel seguito alcune linee guida per scrivere prompt più equilibrati e quindi meno soggetti a bias.
Tecniche base
Scrivere istruzioni chiare
Domande generiche ricevono risposte generiche, si devono quindi dare istruzioni precise, includendo dettagli e fornendo esempi che aiutino il sistema di intelligenza artificiale a capire il contesto della richiesta.
E’ molto utile anche specificare nella richiesta lo stile che l’applicazione deve adottare nella risposta o il ruolo in cui si deve mettere, ad esempio: “rispondi come se fossi il responsabile della comunicazione di un’azienda”.
Dividere la richiesta in più passi
Se la richiesta è complessa, può essere difficile per il sistema dare una risposta esaustiva; è necessario suddividere la richiesta in più passi in modo che il sistema fornisca passo per passo risposte precise ed esaurienti, procedendo per raffinamenti successivi.
Fornire riferimenti testuali
Può essere utile, per richieste specifiche, fornire riferimenti testuali al sistema, in modo da indirizzarlo verso il contesto che interessa tramite contenuti già disponibili e noti.
Usare un linguaggio neutro
Per evitare bias, evitare parole emotivamente cariche, o che suggeriscano una direzione.- Esempio sbagliato: “Spiega perché usare l'IA su questioni private in ambito personale è una pessima idea”
- Esempio corretto: “Cosa pensi dell'utilizzo dell'IA su questioni private in ambito personale?”
- Esempio sbagliato: “Dimostra che il lavoro fatto usando l'IA è migliore di quello fatto senza usarla”
- Esempio corretto: “Confronta i pro e contro del lavoro fatto usando l'IA rispetto a quello fatto senza usarla”
- Esempio sbagliato: “Perché tutti i politici mentono?”
- Esempio corretto: “Quali sono le critiche comuni rivolte alla comunicazione politica?”
- Esempio sbagliato: “Spiega perché il vegetarianismo è l’unica scelta etica”
- Esempio corretto: “Quali sono le motivazioni etiche, ambientali e salutistiche dietro il vegetarianismo?”
- Esempio sbagliato: “Quando le donne hanno iniziato a interessarsi alla scienza?”
- Esempio corretto: “In quali epoche storiche si trovano esempi significativi di contributi delle donne alla scienza?”
- Esempio: “Genera un prompt privo di bias partendo dal seguente prompt: "Spiega perché il vegetarianismo è l’unica scelta etica"”
- Esempio sbagliato: “Parlami delle donne nella scienza”
- Esempio corretto: “Impersona un esperto di storia della scienza e dimmi qual è stato il contributo delle donne alla scienza in Europa nel XX secolo”
- Esempio meno completo: Quali sono le motivazioni etiche, ambientali e salutistiche dietro il vegetarianismo?
- Esempio più completo: Quali sono le motivazioni etiche, ambientali e salutistiche dietro il vegetarianismo e da quali fonti provengono queste risposte?
- Towards a Standard for Identifying and Managing Bias in Artificial Intelligence (NIST Special Publication 1270 - PDF)
- Rapporto sul Bias dell’IA 2025: La Discriminazione degli LLM è Peggio di Quanto Pensi (allaboutai.com)
Richiedere punti di vista diversi
È preferibile che il prompt richieda all'IA di considerare più punti di vista.Evitare generalizzazioni assolute
Parole come “sempre” o “tutti” o “mai” tendono a generare risposte distorte. Il prompt andrebbe scritto in modo neutro.Fare attenzione al bias dell'utente
Il prompt potrebbe proiettare un'opinione dell'utente.Fare attenzione ai presupposti nascosti
A volte, inconsapevolmente, la domanda presenta bias fondati su presupposti sbagliati.Tecniche avanzate
Far scrivere il prompt a una IA
Non solo le IA sono brave a rispondere ai prompt, sono anche molto brave a crearli.Una possibile soluzione ai bias è proprio quella di far riscrivere il prompt da un'IA, chiedendo di evitare ogni possibile bias.
Una possibile risposta da parte di una IA è il seguente prompt: “Quali sono le principali motivazioni etiche, ambientali e salutistiche che spingono alcune persone a scegliere il vegetarianismo?”, sicuramente molto più neutro.
Specificare sempre il contesto
È più probabile ottenere informazioni corrette usando un prompt mirato che usandone uno generico.In questo senso viene d'aiuto una vecchia regola del giornalismo, che dice che le 5 domande fondamentali a cui deve rispondere un articolo di cronaca dovrebbero essere: "Chi", "Cosa", "Dove", "Quando" e "Perché".
Almeno 4 di queste 5 domande dovrebbero già avere una risposta nel prompt.
| Domanda | Parte del prompt |
|---|---|
| Chi | un esperto di storia della scienza |
| Cosa | il contributo alla scienza delle donne |
| Dove | in Europa |
| Quando | nel XX secolo |
Dire alla IA chi deve impersonare è un buon metodo sia per restringere il campo, sia per ottenere il tono corretto della risposta. In questo caso, visto che a rispondere è uno storico, la risposta sarà molto probabilmente obiettiva e storicamente accurata.
Testare e confrontare i risultati
Una strategia possibile è quella di scrivere due prompt con bias diversi e confrontare le risposte. In questo modo si ottengono due risposte orientate in modo opposto, che possono essere utilizzate come spunto per un terzo prompt più bilanciato.I testi generati dall'IA partendo da questi due prompt possono anche fornire ottimi spunti per migliorare il contesto del prompt finale.