Quando l'IA fallisce e le auto robotiche si schiantano
Le auto a guida autonoma di Google hanno il doppio degli incidenti rispetto ai conducenti umani.
Auto robotiche: più o meno incidenti?
Le auto a guida autonoma di Google sono apparse coinvolte in 2x più incidenti rispetto ai conducenti umani. Se pensi che questo sia solo tecnologia difettosa, troppo complessa fin dall’inizio, beh, hai parzialmente ragione. Un dettaglio importante da condividere: a dicembre 2015, virtualmente tutti gli incidenti non erano colpa dei robot.
Gli incidenti sono causati da conducenti umani non abituati ai conducenti robotici. Inoltre, Google ha programmato le auto per rispettare la legge in modo assoluto: mai superare i limiti di velocità, difficoltà a fondere in traffico intenso o veloce. Questo apre un mucchio di domande legali ed etiche (questo è noto come il problema del tram) -
- È mai accettabile:
- evitare un tamponamento andando oltre la strada pedonale con il rosso assumendo che il percorso sia libero?
- guidare sul marciapiede per evitare una bicicletta che taglia le corsie? - è accettabile per l’IA accettare questa violazione delle “regole della strada”
Capisco l’approccio di Google, soprattutto quando cerca di minimizzare la responsabilità: seguire sempre le regole - logicamente, se sempre rispetti la legge, non puoi essere ritenuto responsabile.
Ci sarebbe una responsabilità massiccia se un incidente dovesse accadere a causa di una “flessibilità” intenzionalmente progettata attorno alle leggi.
Non lasciare che il futuro ci sfugga
Il futuro arriverà comunque, anche se i robot guidano come ottuagenari.
Forse un semplice rimedio per ora sarebbe l’uso di luci LED rosse lampeggianti (pensate alle scuolabus) per avvisare i conducenti umani che stanno per tamponare un robot innocente.
Mi sentirei più a mio agio con un’auto che avesse livelli di osservanza e aderenza alle regole. A mio parere, questo sarebbe molto più simile a come guidano gli esseri umani.
Immaginate un sistema di percezione a tre livelli come segue (omesso per semplicità gli strati decisionali e altri):
- base: segue le leggi con precisione fastidiosa
- locale: aggiustamenti flessibili in base al traffico corrente – ad esempio, permettere il sorpasso in autostrada se necessario a una velocità di almeno 10MPH. Al contrario, se il traffico procede semplicemente troppo velocemente, l’auto dovrebbe essere abbastanza intelligente da fermarsi al bordo della strada per non diventare un fastidio per gli altri conducenti.
- 360: calcolare qualsiasi potenziale rischio di collisione estrema/misure di evitamento – guidare sulle spalle della strada o…
Questo richiederebbe probabilmente un equilibrio intelligente - ad esempio, se il livello 1 rileva un incidente imminente che non può essere evitato seguendo le leggi, sposterebbe tutta la potenza del processore al livello 3 - sperando di trovare un modo creativo per evitare danni.
Le auto robotiche sono sull’orlo di essere tecnicamente più intelligenti e veloci di qualsiasi conducente umano. Accettalo. Benvenuto.