Когда ИИ подводит & разбивающиеся роботизированные автомобили
Самоуправляемые автомобили Google попадают в аварии в 2 раза чаще, чем водители‑люди.
Роботизированные автомобили: больше или меньше аварий?
Самоуправляемые автомобили Google, по‑видимому, попадают в аварии вдвое чаще, чем автомобили с человеческим водителем — если вы думаете, что это просто баги новой технологии, слишком сложные с самого начала — вы отчасти правы. Важный момент, которым я должен поделиться: к декабрю 2015 практически все аварии не были виной роботов.
Аварии вызваны людьми‑водителями, которые не привыкли к роботизированным водителям. При этом Google запрограммировал машины строго соблюдать закон — никогда не превышать скорость, трудно сливается в плотный или быстрый поток на шоссе.
Это порождает целый ряд юридических и этических вопросов (это известная проблема трамвайного переключателя) —
- Можно ли когда‑нибудь:
- избежать столкновения сзади, если для этого нужно проехать мимо пешеходного перехода на красный свет при условии, что путь свободен?
- съехать на тротуар, чтобы избежать велосипедиста, пересекающего полосу? — допустимо ли, чтобы ИИ нарушал «правила дорожного движения» в таком случае?
Я понимаю подход Google, особенно когда речь идёт о минимизации ответственности: всегда следовать правилам — логично, что вы не сможете быть виновным, если всегда соблюдаете закон.
Возникнет масштабная ответственность, если авария произойдёт из‑за намеренно спроектированной «гибкости» в отношении законов.
Не позволяйте будущему ускользнуть
Будущее всё равно наступит, даже если роботы будут ехать как восьмидесятилетние.
Возможно, простое решение на данный момент — использовать ярко‑красные мигающие светодиоды (как у школьных автобусов), чтобы предупредить водителей‑людей, что они собираются врезаться в безвиновного робота.
Мне было бы комфортнее, если бы автомобиль имел уровни соблюдения правил. На мой взгляд, это гораздо ближе к тому, как управляются людьми.
Представьте три уровня восприятия системы (слои принятия решений и прочие опущены для простоты):
- базовый: следует законам с раздражающей точностью
- локальный: гибкие корректировки в зависимости от текущего трафика — например, позволить влиться в поток на шоссе, если требуется ускорение на 10 миль/ч. И наоборот, если поток движется слишком быстро, автомобиль должен быть достаточно умным, чтобы съехать с дороги и не мешать другим водителям.
- 360: рассчитывать любой потенциальный экстремальный риск столкновения/меры избежания — ехать по обочине или …
Это, скорее всего, потребует умелого балансирования — например, если уровень 1 обнаруживает неминуемую аварию, которую нельзя избежать, соблюдая законы, он переключит всю вычислительную мощность на уровень 3, надеясь найти креативный способ избежать вреда.
Роботизированные автомобили находятся на грани того, чтобы стать технически умнее и быстрее любого человеческого водителя. Примите это. Приветствуйте это.