Когда ИИ ошибается и роботизированные автомобили попадают в аварии
Самоходные автомобили Google попадают в 2 раза больше аварий, чем человеческие водители.
Роботизированные автомобили: больше или меньше аварий?
Самоуправляемые автомобили Google, похоже, участвуют в в два раза больше аварий, чем водители-люди. Если вы думаете, что это просто баги новой технологии, слишком сложной с самого начала, вы частично правы. Важный факт, который я должен поделиться: по состоянию на декабрь 2015 года практически все аварии не были виной роботов.
Аварии вызваны действиями водителей, непривыкших к роботизированным водителям. Более того, Google запрограммировала автомобили на строгое соблюдение закона — никогда не превышать скорость, трудности при въезде на плотные или быстрые полосы автомагистрали.
Это открывает множество юридических и этических вопросов (это известно как проблема трамвая):
- Может ли быть допустимо:
- избежать столкновения сзади, если это означает проехать через пешеходную зону на красный свет при условии, что путь свободен?
- проехать по тротуару, чтобы избежать велосипеда, пересекающего полосы? — допустимо ли для ИИ принять такое нарушение «правил дорожного движения»?
Я понимаю подход Google, особенно при попытке минимизировать ответственность: всегда соблюдать правила — логично, что вы не можете быть виноваты, если всегда соблюдаете закон.
Была бы огромная ответственность, если бы авария произошла из-за специально спроектированной гибкости в рамках законов.
Не позволим будущему уйти от нас
Будущее всё равно наступит, даже если роботы будут ездить как восьмидесятилетние.
Возможно, простое решение на данный момент — использовать ярко-красные мигающие светодиоды (как у школьных автобусов), чтобы предупреждать пассажиров, что они собираются врезаться в невиновного робота.
Мне было бы спокойнее с автомобилем, у которого есть уровни соблюдения правил. По моему мнению, это гораздо ближе к тому, как водят люди.
Представьте три уровня восприятия системы следующим образом (пропущены другие слои для упрощения):
- Базовый: следует законам с раздражающей точностью
- Локальный: гибкие корректировки на основе текущего движения — например, разрешение на въезд на трассу, если скорость выше 10 миль/ч. Наоборот, если движение слишком быстрое, автомобиль должен быть достаточно умным, чтобы остановиться и не мешать другим водителям.
- 360: рассчитывать любые потенциальные экстремальные риски столкновения/меры избежания — ездить по обочине или…
Это, вероятно, потребует умного баланса — например, уровень 1 обнаруживает неминуемую аварию, которую нельзя избежать, соблюдая законы, он перенаправит всю вычислительную мощность в уровень 3 — надеюсь, найдет творческий способ избежать вреда.
Роботизированные автомобили находятся на грани того, чтобы быть технически умнее и быстрее любого водителя. Примите это. Приветствуйте это.