Автомобили-убийцы: 3 закона роботехники

Мрачное будущее самоуправляемых автомобилей

То, о чем еще недавно задумывались только писатели-фантасты, скоро станет реальностью: нам придется установить новые правовые и моральные нормы в отношении искусственного интеллекта. Попробуем разобраться, чем грозят человечеству автомобили, которые смогут водить себя сами.

Три закона роботехники:

1. Робот не может причинить вред человеку или своим бездействием допустить,
чтобы человеку был причинен вред.

2. Робот должен повиноваться всем приказам, которые дает человек, кроме тех случаев,
когда эти приказы противоречат Первому Закону.

3. Робот должен заботиться о своей безопасности в той мере,
в которой это не противоречит Первому и Второму Законам.

Айзек Азимов

К сожалению, помимо очевидных плюсов подобные технологии влекут за собой целую гроздь проблем морально-этического и юридического характера. Кто несет ответственность за ДТП в случае, если его причиной стал автомобиль на автопилоте? Автоконцерны не хотят брать ответственность на себя, а владелец вроде как ни при чем. Пока что этот вопрос решается требованием держать хотя бы одну руку на руле для того, чтобы система работала. Мне это кажется ужасным лицемерием: водитель знает, что не ведет машину, но держит руку на руле, чтобы отвечать за ее действия с правовой точки зрения.

Что думают шишки
из автоконцерна?

«Уверен, через 10 лет я бы сел в мерседес и позволил ему отвезти меня из точки А в точку Б. Но, вероятно, мы все еще будем испытывать трудности с правовой стороной вопроса».

«Ключевой момент — безопасность. Мы должны сохранить удовольствие от управления машиной для водителя, но мы также хотим позаботиться о его безопасности. У нас есть технологии, чтобы сделать машину с автопилотом, но проблема в том, чтобы сделать ее доступной. И юридическая ответственность — это серьезный вопрос. Это не игра. Вы не играете на PlayStation, где у вас есть еще одна или две жизни».

Дитер Цетше, президент «Даймлер АГ»,
родительской компании Mercedes-Benz

Любой нормальный водитель знает, что не все ситуации на дороге могут быть подвержены алгоритмизации. Электронные системы могут филигранно вычислять оптимальную скорость движения в потоке и дистанцию до впереди идущей машины, но не в состоянии определить, ждет ли пешеход на тротуаре автобуса или собирается перебежать дорогу, или, например, оценить опасность помехи, которую создают дети, играющие около дороги в мяч, как и свою опасность для них.

Дидье Леруа,
президент европейского отделения Toyota

Что думает визионер из силиконовой долины?

«Я не могу обещать, что самоуправляемая машина от «Гугла» будет стоять у вас в гараже через год. Мы надеемся выпустить эту технологию в течение нескольких следующих лет, и нам еще предстоит определить, в какой форме она будет выпущена».

Энтони Левандовски, менеджер проекта самоуправляемой машины в «Гугле»

Нам предстоит разработать, усвоить и принять целый набор новых этических норм; вопрос, однако, в том, готовы ли мы к ним. Что будет, если у двухтонного S-класса лопнет шина и электронной системе придется выбирать: убрать ли в отбойник следующую параллельным курсом «оку», водитель и пассажиры которой, скорее всего, этого не переживут, или вместе с владельцем, нежащимся в кресле, которое умеет имитировать массаж горячими камнями, пойти на лобовое столкновение с фурой на встречке? А если в «оке» едут дети? А если в S-классе?

Что думает шишка
из ассоциации автопроизводителей?

«Будут случаи, когда водитель помог избежать аварии, и случаи, когда аварии смог избежать автопилот. Но будут и аварии, которых невозможно избежать в независимости от предпринятых мер. И такие, которых должен был избежать автопилот, но не смог. В любом случае, я уверен, что суды скорее будут становиться на сторону людей, чем на сторону автопроизводителей».

Ульрих Эйхорн, генеральный менеджер немецкой ассоциации автопроизводителей VDA

Ответов на такие вопросы пока нет ни у кого, но о них пора задуматься, потому что спрос на автомобильные автопилоты есть, а у автоконцернов есть деньги на лоббистов. И мы оглянуться не успеем, как зрелище передвигающейся по городу тачки с пустыми передними сидениями станет для нас привычной. Хорошо бы определиться с тем, что мы по этом поводу думаем, до того, как у какой-нибудь из них на трассе лопнет колесо.