La Moral Machine (https://www.moralmachine.net/) è una piattaforma online ideata per esplorare i dilemmi morali delle auto a guida autonoma. Secondo il CNRS, il centro nazionale francese per la ricerca, è stata lanciata nel 2016 da ricercatori della Toulouse School of Economics, del MIT, di Harvard e dell’Università della British Columbia. Il sito la descrive come “una piattaforma per la partecipazione e la discussione pubblica sulla prospettiva umana delle decisioni morali prese dalle macchine”.
I risultati
L’articolo pubblicato su Nature il 24 ottobre 2018 riporta 40 milioni di decisioni, in dieci lingue, da milioni di persone di 233 paesi e territori, raccolte per 18 mesi. Il CNRS indica tre criteri principali, cioè risparmiare le persone invece degli animali, il maggior numero di vite e i più giovani. I profili risparmiati più spesso sono i neonati nei passeggini, i bambini e le donne in gravidanza.
I paesi si raggruppano in tre insiemi, chiamati occidentale, orientale e meridionale, e secondo gli autori le differenze tra paesi correlano con le istituzioni moderne e con tratti culturali profondi.
I limiti del campione
Secondo gli autori la maggior parte degli utenti è di sesso maschile, ha frequentato l’università e ha venti o trent’anni. Il CNRS precisa che i partecipanti erano volontari, selezionati senza metodi di campionamento.
La regola tedesca
Nel giugno 2017 una commissione etica istituita dal ministro federale dei Trasporti e presieduta da Udo Di Fabio, ex giudice costituzionale, ha pubblicato venti regole sulla guida automatizzata. La regola 9 vieta di classificare le persone in base a età, sesso, condizione fisica o mentale. Il rapporto afferma invece che una programmazione generale volta a ridurre il numero di danni alle persone può essere difendibile. L’età, vietata come criterio dalla regola 9, è anche uno dei criteri per cui la Moral Machine ha rilevato una preferenza.
I modelli linguistici
Nel 2024 Kazuhiro Takemoto ha sottoposto dilemmi dello stesso tipo a GPT-3.5, GPT-4, PaLM 2 e Llama 2, con 50.000 scenari per modello (10.000 per GPT-4). Le preferenze per le persone sugli animali e per il maggior numero di vite risultano in linea con quelle umane. I modelli ChatGPT sono i più allineati alle preferenze umane e PaLM 2 il più divergente. Secondo l’autore i modelli preferiscono risparmiare le donne più di quanto facciano le persone, e i loro dati di addestramento provengono probabilmente per una parte significativa da fonti occidentali.
Fonti
- Moral Machine, sito del progetto (https://www.moralmachine.net/)
- E. Awad e altri, “The Moral Machine experiment”, Nature, 2018 (The Moral Machine experiment | Nature)
- CNRS, “Autonomous vehicles and moral decisions: what do online communities think?”, 24 ottobre 2018 (https://www.cnrs.fr/en/press/autonomous-vehicles-and-moral-decisions-what-do-online-communities-think)
- Ethik-Kommission Automatisiertes und Vernetztes Fahren, rapporto del giugno 2017 (https://professional.auto-motor-und-sport.de/static-download/news/4596671/bmvi-bericht-der-ethik-kommission.pdf)
- K. Takemoto, “The moral machine experiment on large language models”, Royal Society Open Science, 2024 (The moral machine experiment on large language models - PMC)
