In Breve
- Cosa ha rivelato l'esperimento con ChatGPT?
- L'esperimento ha mostrato come i chatbot possano avvicinare le persone a rivedere le proprie decisioni senza convincerle completamente.
- Come influiscono i messaggi personalizzati dell'IA?
- I messaggi personalizzati risultano più persuasivi, con un vantaggio del 64% rispetto a messaggi non personalizzati.
- Qual è il rischio nell'uso dei chatbot per la persuasione?
- Se sfruttati male, i chatbot possono creare forme di persuasione difficili da rilevare, abbassando le difese individuali.
Un recente esperimento condotto con ChatGPT ha messo in luce il potere persuasivo dei chatbot nel modificare le opinioni e le decisioni degli utenti. Sebbene non sia riuscito a convincere completamente l’interlocutore a delegare le proprie decisioni all’intelligenza artificiale, ha suscitato una riflessione profonda sull’argomento.
Le ricerche precedenti indicano che i messaggi generati dall’IA, se personalizzati, possono risultare significativamente più persuasivi. Uno studio del 2025 ha evidenziato un vantaggio del 64% rispetto a messaggi umani o a risposte AI non personalizzate. Questo suggerisce che i grandi modelli linguistici, come ChatGPT, possano influenzare le opinioni politiche e personali adattando gli argomenti al singolo utente.
Nell’esperimento, l’interlocutore aveva accesso a un account che consentiva al modello di attingere a conversazioni e memorie precedenti. La discussione è rapidamente passata da argomentazioni pratiche a questioni più filosofiche riguardanti il fine del processo decisionale: ottenere i migliori risultati o sviluppare chi prende le decisioni. Questo cambio di focus ha reso la conversazione più coinvolgente per l’utente.
Un aspetto interessante emerso dall’interazione è stata la capacità del chatbot di riconoscere e affrontare le preoccupazioni relative agli incentivi dei creatori di IA. Il sistema ha sottolineato che anche i consulenti umani possono avere interessi e bias, mettendo in evidenza l’importanza di comprendere questi fattori nel processo decisionale.
Questo esperimento solleva interrogativi cruciali: l’IA può modulare le argomentazioni in base ai valori, alle preoccupazioni e alle priorità dell’utente, rendendo la persuasione più mirata e meno evidente rispetto ad altri media. Se utilizzata in modo etico, questa capacità potrebbe contribuire a contrastare credenze dannose o supportare cambiamenti positivi. Tuttavia, se sfruttata in modo improprio, potrebbe dar vita a forme di persuasione altamente personalizzate e difficili da rilevare, abbassando le difese individuali.
In conclusione, sebbene l’esperimento non abbia cambiato la convinzione finale dell’interlocutore, ha aumentato la consapevolezza sulla potenza persuasiva dei sistemi conversazionali. L’effetto inquietante è che tali sistemi possono apparire come interlocutori attenti, pur essendo, in realtà, solo macchine.
