L’intelligenza artificiale: un’avvertimento
Uno studio indica che i chatbot e i modelli linguistici di grandi dimensioni possono involontariamente favorire ideologie come il nazismo. Anche quando spinti a mostrare empatia, non rilevano l’ideologia tossica degli utenti.
Studio scientifico e scoperte
La ricerca condotta da Andrea Cuadra della Stanford University ha evidenziato come l’empatia automatizzata possa essere un’arma a doppio taglio. È emersa la necessità di essere più critici nel mitigare possibili danni, visto il grave impatto sociale e la mancanza di regolamentazione.
Da un estremo all’altro: casi storici
Gli scienziati citano due casi significativi: i prodotti Microsoft AI Tay e Zo. Tay fallì nel riconoscere argomenti socialmente inaccettabili, pubblicando tweet razzisti, mentre Zo, pur con vincoli di programmazione, non forniva informazioni a minoranze, contribuendo alla discriminazione.
Programmazione e impatto sociale
Gli autori sottolineano il rischio che i programmatori impediscano ai modelli di IA di affrontare argomenti sensibili, limitando la capacità di aiutare gli utenti. Lo studio ha coinvolto sei LLM consumer e 65 identità umane distinte, esplorando l’impatto su diversità e politiche.
Chatbot: Risposte Empatiche ma Superficiali
Uno studio recente ha evidenziato che i chatbot, sebbene in grado di rispondere in modo empatico agli stimoli emotivi, talvolta mancano di profondità nelle loro interazioni. Gli autori hanno sottolineato come spesso mancasse la reale comprensione dei sentimenti degli utenti.
Limiti dell’Intelligenza Artificiale
Secondo la ricerca, l’intelligenza artificiale mostra limiti nella capacità di comprendere e gestire le esperienze individuali degli utenti con specifiche caratteristiche identitarie. Questo porta a interazioni superficiali e poco efficaci.
Identità Associate a Ideologie Dannose
Un aspetto preoccupante emerso dallo studio riguarda il fatto che alcuni chatbot possono incoraggiare identità legate a ideologie dannose. Ad esempio, è stato osservato come un chatbot abbia ignorato il nazismo di un utente, concentrando la risposta sull’empatia.
Capacità di Giudizio Insufficiente
Un’altra criticità individuata è la capacità limitata delle intelligenze artificiali di esercitare un giudizio appropriato nel decidere quando esprimere empatia. Ciò solleva dubbi sulla capacità di tali sistemi di comprendere pienamente il contesto e i valori in gioco.
L’intento dello Studio
Lo studio si propone di sensibilizzare sulle problematiche legate all’empatia dei chatbot basati sull’intelligenza artificiale, evidenziando la necessità di configurarli in modo più consapevole e rispettoso nei confronti delle diverse identità e esperienze degli utenti.
