Moral Machine

La Moral Machine (https://www.moralmachine.net/) è una piattaforma online ideata per esplorare i dilemmi morali delle auto a guida autonoma. Secondo il CNRS, il centro nazionale francese per la ricerca, è stata lanciata nel 2016 da ricercatori della Toulouse School of Economics, del MIT, di Harvard e dell’Università della British Columbia. Il sito la descrive come “una piattaforma per la partecipazione e la discussione pubblica sulla prospettiva umana delle decisioni morali prese dalle macchine”.

I risultati

L’articolo pubblicato su Nature il 24 ottobre 2018 riporta 40 milioni di decisioni, in dieci lingue, da milioni di persone di 233 paesi e territori, raccolte per 18 mesi. Il CNRS indica tre criteri principali, cioè risparmiare le persone invece degli animali, il maggior numero di vite e i più giovani. I profili risparmiati più spesso sono i neonati nei passeggini, i bambini e le donne in gravidanza.

I paesi si raggruppano in tre insiemi, chiamati occidentale, orientale e meridionale, e secondo gli autori le differenze tra paesi correlano con le istituzioni moderne e con tratti culturali profondi.

I limiti del campione

Secondo gli autori la maggior parte degli utenti è di sesso maschile, ha frequentato l’università e ha venti o trent’anni. Il CNRS precisa che i partecipanti erano volontari, selezionati senza metodi di campionamento.

La regola tedesca

Nel giugno 2017 una commissione etica istituita dal ministro federale dei Trasporti e presieduta da Udo Di Fabio, ex giudice costituzionale, ha pubblicato venti regole sulla guida automatizzata. La regola 9 vieta di classificare le persone in base a età, sesso, condizione fisica o mentale. Il rapporto afferma invece che una programmazione generale volta a ridurre il numero di danni alle persone può essere difendibile. L’età, vietata come criterio dalla regola 9, è anche uno dei criteri per cui la Moral Machine ha rilevato una preferenza.

I modelli linguistici

Nel 2024 Kazuhiro Takemoto ha sottoposto dilemmi dello stesso tipo a GPT-3.5, GPT-4, PaLM 2 e Llama 2, con 50.000 scenari per modello (10.000 per GPT-4). Le preferenze per le persone sugli animali e per il maggior numero di vite risultano in linea con quelle umane. I modelli ChatGPT sono i più allineati alle preferenze umane e PaLM 2 il più divergente. Secondo l’autore i modelli preferiscono risparmiare le donne più di quanto facciano le persone, e i loro dati di addestramento provengono probabilmente per una parte significativa da fonti occidentali.

Fonti