Первый закон робототехники не нарушен? Полиция Аризоны говорит о невиновности робота‐такси Uber в смерти женщины

На днях беспилотное такси Uber впервые с момента запуска экспериментальной программы убило человека – 49‐летнюю жительницу города Темпе, штат Аризона, США. Компания приостановила все подобные проекты в США и Канаде, но, возможно, рано винить во всем технический прогресс и зловещих роботов‐убийц. Шеф полиции города заявил, что, скорее всего, не программа виновата в гибели человека.

Wikipedia Commons

Сама виновата?

49-летняя Элейн Герцберг нагрузила велосипед несколькими продуктовыми пакетами, и ехала на нем посреди улицы, по разделительной полосе. В один момент внезапно съехала в сторону в самую гущу оживленного движения и врезалась в автомобиль, оказавшийся Uber-автопилотом (в котором при этом находился водитель, хоть машина и ехала по алгоритму).

По предварительны данным, автомобиль Uber не был виновником ДТП

— Сильвия Моир, шеф полиции Темпе.

Посмотрев видео с регистратора Uber, Мойр пришла к выводу, что избежать трагедии невозможно было в любом случае, управляй машиной человек или программа — слишком резко велосипедистка съехала из ниоткуда прямо на проезжую часть. Глава полиции отметила, что передвигаться по проезжей части на велосипеде в час пик крайне опасно, и нужно пользоваться велодорожками.

Нарушения алгоритм все же допустил — он передвигался со скоростью 61 км/ч на дороге, где движение ограничено меньшей скоростью, к тому же, как заявил на вчерашней пресс-конференции сержант полиции Рональд Элкок, машина-робот не проявила каких-либо признаков того, что хочет остановиться, уже после того, как влетела в велосипедистку.

Но в целом сегодняшее заключение шефа полиции — скорее обнадеживающий знак для Uber и в целом для проектов беспилотных такси по всему свету. Но финальное слово в этой истории останется не за местной полицией, а за Национальным советом по безопасности на транспорте США, проводящим свое расследование со своими следователями, сбором улик и отдельным заключением.

Даже если у Uber получится выйти сухими из воды с юридической точки зрения, остается этическая критика — мог ли этот алгоритм сделать большее в этой ситуации для спасения жизни женщины, мог ли учитывать то, что она в любой момент съедет со своей траектории и направится в его сторону, мог ли он принять какие-то дополнительные меры? Например, резко остановиться или сменить полосу?

Система несовершенна

Эта трагедия повлечет за собой пересмотр стратегии использования беспилотных транспортных средств, убежден Ярослав Федосеев, представитель российской Обновленной рабочей группы AutoNet («Автонет») Национальной технологической инициативы, которая должна стимулировать появление подобных проектов у нас.

Мы понимаем, что технология несовершенна, и если человек переходит дорогу в неположенном месте, нарушая правила дорожного движения, система не застрахована от ошибок. Машина не успела отреагировать на спонтанное действие девушки, как она не может реагировать и на другое резкое, импульсивное и нелогичное поведение

— Ярослав Федосеев.

Совсем недавно компания Uber запатентовала для беспилотных автомобилей метод взаимодействия с участниками дорожного движения с помощью сигнальных табло и дополнительных индикаторов, которые помогут машине проинформировать пешехода о том, что такая машина подождет и он может перейти дорогу. Но тестирование данной технологии еще не началось, что показала история в Аризоне, отмечает Федосеев.

Еще одна сложность в появлении беспилотных автомобилей на дорогах — они не имеют альтернативных способов общения с участниками дорожного движения. Люди кивают друг другу, показывают что-то жестами, пользуются клаксоном и поворотниками как средствами общения, дальним светом, и другие водители и пешеходы их легко понимают. Одно из решений этой проблемы — установка дополнительных индикаторов, которые будут рассказывать другим водителям и пешеходам о намерениях беспилотного автомобиля.

В России до внедрения беспилотных такси еще далеко, в ближайшие 5–10 лет в массовом виде мы этого не увидим, хотя «Яндекс» не так давно представлял какие-то наработки по этому поводу. Тем не менее, рабочая группа AutoNet уже прорабатывает проекты по созданию необходимой инфраструктуры. Сперва, по словам Федосеева, технология будет опробована на беспилотной технике по уборке снега и другой ЖКХ-технике, и на перевозке грузов.