Pilota automatico e il dilemma: uccidere il guidatore o i pedoni?

Le auto autonome stanno già smettendo di essere fantascienza: sulle strade compaiono vetture con modalità autopilota, capaci di viaggiare senza l’intervento umano. Gli appassionati, per ora, sono più interessati ai parametri tradizionali – velocità, potenza, comfort. Con entusiasmo confrontano, per esempio, le superberline tedesche BMW M5 F90 e Mercedes-AMG E63 S in base alle loro caratteristiche. Tuttavia, con l’arrivo dell’autopilota passa in primo piano tutt’altro tema: etica e sicurezza. Cosa deve fare l’auto quando l’incidente è inevitabile?

Non è più una domanda teorica da manuale, ma un problema reale su strada. Immaginiamo la situazione: un’auto senza conducente sfreccia e all’improvviso davanti, sulle strisce, compare un gruppo di persone. Frenare è ormai troppo tardi. Ci sono due sviluppi possibili: sterzare e schiantarsi contro un muro (sacrificando il conducente) oppure proseguire e investire i pedoni. L’algoritmo di intelligenza artificiale è programmato per una determinata scelta – e da quella scelta dipendono vite.

I filosofi chiamano questa scelta tragica «il problema del carrello». Un tempo era un esperimento puramente immaginario: deviare un tram fuori controllo su un altro binario per salvare cinque persone al prezzo della vita di una sola? Oggi una dilemmatica simile si presenta all’intelligenza artificiale sulla strada – e le sue decisioni avranno conseguenze reali.

• Salvare il passeggero. Proseguire, proteggendo chi è a bordo, nonostante il rischio per il gruppo di pedoni.
• Salvare i pedoni. Dirigere l’auto contro un ostacolo o verso la banchina, sacrificando la vita di chi è all’interno del veicolo.
• Non scegliere consapevolmente. Evitare un algoritmo di scelta specifico – cioè impostare la minimizzazione del danno senza “targeting”, lasciando di fatto che gli eventi si sviluppino in modo spontaneo.

Qualcuno potrebbe obiettare che l’intelligenza artificiale sarà così evoluta da trovare sempre una terza via sicura. Ma è più un mito che altro. In realtà, anche i sensori e i software più moderni non possono annullare le leggi della fisica ed eliminare tutti i rischi. Le situazioni critiche continueranno comunque a verificarsi. Dunque, prima o poi, l’auto potrebbe trovarsi davanti alla scelta di chi salvare al prezzo della vita di qualcun altro.

L’umanità non ha ancora trovato un’unica risposta giusta a questo dilemma. Tuttavia, le ricerche sociologiche offrono uno sguardo interessante sul problema. I sondaggi mostrano che la maggioranza degli intervistati concorda sul fatto che, in una situazione estrema, un’auto autonoma debba sacrificare il passeggero per salvare un gruppo di persone. Però le stesse persone ammettono che non vorrebbero viaggiare in un’auto che, in caso di pericolo, si sacrifichi consapevolmente per salvare vite altrui. Questo paradosso può diventare un ostacolo all’introduzione dei veicoli senza conducente sulle strade.

Riportiamo un risultato indicativo di una delle ricerche sull’opinione pubblica riguardo al «dilemma dell’autopilota»:

Come vediamo, la società desidera allo stesso tempo che i “robot al volante” salvino quante più persone possibile e, al contempo, non vuole rischiare in prima persona. Questo divario tra interessi morali e personali crea un dilemma per produttori e regolatori. Perché, comunque si programmi l’algoritmo, la decisione sarà controversa e potrebbe suscitare indignazione.

Chi andrà in prigione se un’auto senza conducente causa un incidente?

Se però un’auto in modalità autopilota provoca un incidente con esiti fatali – chi va punito? È una domanda non meno complessa della scelta morale. I primi campanelli d’allarme sono già suonati. Per esempio, nel 2018 un veicolo autonomo in test di Uber ha investito mortalmente un pedone; sono noti anche altri incidenti mortali che coinvolgono Tesla in autopilota. Casi simili, in cui a guidare è un computer, mettono in discussione il principio tradizionale secondo cui tutta la colpa ricade sul conducente.

Nella situazione con un «robo-driver» sono possibili diversi approcci per stabilire il responsabile. Vediamo gli scenari principali:

1. Il proprietario (passeggero) del veicolo. Logica: era lui nell’abitacolo e ha attivato la modalità autopilota. Forse la persona avrebbe dovuto controllare la marcia e intervenire – quindi porta una parte di colpa per omissione.
2. Lo sviluppatore del software (algoritmo). Perché sono i programmatori ad aver definito quel modello di comportamento che ha portato alla tragedia. Gli ingegneri devono rispondere penalmente delle conseguenze delle decisioni del loro codice?
3. L’azienda costruttrice dell’auto. L’impresa che ha prodotto il veicolo senza conducente potrebbe non aver previsto tutti i rischi o aver risparmiato sui sensori. A rispondere può essere il produttore (nella persona del management) come soggetto giuridico – per esempio tramite cause e sanzioni.

Per ora non esiste una norma di legge chiara in merito. Nella maggior parte dei Paesi in cui si testano auto autonome, la responsabilità ricade sulla persona al volante. Dopotutto, gli attuali sistemi di autopilota (livello 2–3) richiedono che il conducente resti vigile. Così, nei casi che coinvolgono Tesla, i tribunali nella maggior parte delle situazioni ritengono responsabile il conducente che ha sopravvalutato le capacità dell’autopilota e non è intervenuto quando necessario.

Tuttavia, con l’arrivo di veicoli completamente autonomi (livello 4–5) è logico che emerga l’esigenza di spostare la colpa sui creatori della tecnologia. In Germania, la Commissione Etica nazionale sulla guida automatizzata già nel 2017 ha stabilito: se la persona non controlla più l’auto, allora la responsabilità delle sue azioni non ricade sul passeggero, ma sul produttore o sull’operatore del sistema. Alcuni costruttori sono pronti ad assumersi direttamente tale responsabilità – per esempio, Volvo ha promesso pubblicamente di prendersi tutta la colpa quando le sue auto viaggeranno in modalità autonoma.

Trasferire la responsabilità all’azienda ha pro e contro. Da un lato, i proprietari si fideranno più volentieri dell’autopilota se sapranno che non verranno resi «capri espiatori» in caso di incidente. Dall’altro, i produttori temono di prendersi tutta la colpa, perché questo espone a cause milionarie e persino a responsabilità penale per i loro dirigenti. È possibile che vengano introdotte polizze assicurative speciali o limitazioni giuridiche per bilanciare questi rischi.

Nonostante tutte queste incertezze, le tecnologie di guida autonoma continuano a evolversi. I nuovi modelli ricevono “cervelli” sempre più intelligenti. Per esempio, il crossover elettrico Volkswagen ID.4 è dotato del sistema Travel Assist per la guida semi-autonoma, e i proprietari di questo modello possono aumentare comfort e praticità installando diversi accessori per Volkswagen ID.4. La guida completamente autonoma (livello 5) resta, per ora, una questione del futuro. E quindi, le discussioni sugli algoritmi morali e sulla responsabilità legale continueranno – la società ha bisogno di tempo per raggiungere un consenso.

In conclusione, il dilemma morale dell’autopilota non ha ancora una soluzione chiara. Programmare le auto per salvare la maggioranza a costo del passeggero o per proteggere il proprio conducente a qualsiasi condizione? Chi punire per gli errori dell’intelligenza artificiale – ingegneri, proprietari o, in generale, nessuno? Su questi interrogativi riflettono filosofi, giuristi e gli stessi produttori. Forse presto sarà necessario rivedere i principi consolidati di etica e responsabilità sulla strada. Perché quando al volante c’è un computer, sia le decisioni sia la colpa assumono un significato del tutto nuovo – uno con cui l’umanità deve ancora imparare a convivere.