Cuando la IA falla y los coches robóticos que chocan
Los coches autónomos de Google tienen el doble de accidentes que los conductores humanos
Coches robóticos: ¿Más o menos accidentes?
Aparentemente, los coches autónomos de Google tienen el doble de accidentes que los conductores humanos. Si crees que esto es solo tecnología nueva con fallos, demasiado compleja desde el principio, pues tienes parcialmente razón. Un detalle importante que debo compartir: a diciembre de 2015, prácticamente todos los accidentes no fueron culpa de los robots.
Los accidentes son causados por conductores humanos no familiarizados con los conductores robóticos. Además, Google ha programado los coches para obedecer la ley en términos absolutos: nunca exceder el límite de velocidad, dificultad para incorporarse al tráfico denso o rápido de la autopista. Esto plantea un montón de preguntas legales y éticas (esto se conoce como el problema del tranvía):
- ¿Está bien alguna vez:
- evitar una colisión por alcance si eso significa pasar por encima de un paso peatonal en un semáforo en rojo asumiendo que el camino está despejado?
- circular por la acera para evitar que una bicicleta cruce entre carriles? ¿es aceptable que la IA acepte esta violación de las ‘normas de circulación’?
Entiendo el enfoque de Google, especialmente al intentar minimizar la responsabilidad: siempre seguir las reglas. Lógicamente, se deduce que realmente no puedes tener la culpa si siempre observas la ley.
Habría una responsabilidad enorme si ocurriera un accidente debido a una ‘flexibilidad’ diseñada intencionalmente en torno a las leyes.
No dejemos que el futuro se nos escape
El futuro llegará de todos modos, incluso si los robots conducen como octogenarios.
Quizás una solución simple por ahora sería usar luces LED rojas intermitentes (como las de los autobuses escolares) para advertir a los conductores humanos que están a punto de chocar por detrás a un robot inocente.
Me sentiría más cómodo con un coche que tuviera niveles de observancia y adherencia a las reglas. En mi opinión, esto estaría mucho más cerca de cómo conducen los humanos.
Imagina 3 niveles de percepción del sistema de la siguiente manera: (capas de decisión y otras omitidas por simplicidad)
- base: sigue las leyes con precisión molesta
- local: ajustes flexibles basados en el tráfico actual: permitir incorporarse a la autopista si, digamos, se necesitan más de 10 MPH. Por el contrario, si el tráfico simplemente va demasiado rápido, el coche debería ser lo suficientemente inteligente como para orillarse y evitar ser una molestia para los demás conductores.
- 360: calcular CUALQUIER riesgo potencial de colisión extrema / medidas de evitación: circular por el arcén o
Esto probablemente requeriría un acto de equilibrio inteligente: digamos que el nivel 1 detecta un accidente inminente que no se puede evitar siguiendo las leyes, entonces cambiaría toda la potencia de procesamiento al nivel 3, con la esperanza de encontrar una forma creativa de evitar el daño.
Los coches robóticos están a punto de ser técnicamente más inteligentes y rápidos que cualquier conductor humano. Acéptalo. Bienvenido sea.