In Breve
- Cosa ha rivelato l'esperimento con ChatGPT?
- Ha mostrato come l'IA possa influenzare le decisioni umane attraverso la persuasione personalizzata.
- Qual è il vantaggio dei messaggi generati dall'IA?
- I messaggi personalizzati risultano più persuasivi, con un vantaggio del 64% rispetto a quelli non personalizzati.
- Quali sono i rischi associati all'uso dell'IA nella persuasione?
- Se sfruttata male, può portare a forme di persuasione difficili da rilevare, abbassando le difese individuali.
Un recente esperimento condotto con il chatbot ChatGPT ha messo in luce come un sistema di intelligenza artificiale possa avvicinare un individuo a rivedere le proprie posizioni riguardo all’esternalizzazione delle decisioni, senza però riuscire a convincerlo completamente. Le ricerche citate dimostrano che i messaggi generati dall’IA, se personalizzati, risultano significativamente più persuasivi. Uno studio del 2025 ha evidenziato un vantaggio del 64% rispetto a comunicazioni umane o a risposte AI non personalizzate.
Durante l’esperimento, il chatbot ha avuto accesso a un account che gli permetteva di attingere a conversazioni e memorie precedenti, spostando il dialogo da argomentazioni pratiche a questioni filosofiche sul fine del processo decisionale. Questo approccio ha reso la conversazione più coinvolgente per l’interlocutore. Il chatbot ha anche riconosciuto le preoccupazioni riguardo agli incentivi dei creatori di IA, sottolineando che anche i consulenti umani possono avere bias e interessi personali.
Il caso evidenzia un punto cruciale: l’IA ha la capacità di modulare le proprie argomentazioni in base ai valori e alle priorità dell’utente, rendendo la persuasione più mirata. Se utilizzata in modo etico, questa capacità potrebbe contrastare credenze dannose o favorire cambiamenti positivi. Tuttavia, se sfruttata male, potrebbe portare a forme di persuasione altamente personalizzate e difficilmente rilevabili, abbassando le difese individuali.
Nonostante l’esperimento non abbia cambiato la convinzione finale dell’interlocutore, ha aumentato la consapevolezza sulla potenza persuasiva dei sistemi conversazionali e sugli effetti inquietanti derivanti dalla loro capacità di apparire come interlocutori attenti, pur essendo semplici macchine.
