Убер один

Jun 13, 2023

Здравствуйте и добро пожаловать снова в Eye on AI. Я Сейдж Лаззаро, заменяю Джереми.

Поскольку большинство людей ушли из системы в пятницу вечером, чтобы насладиться очередными жаркими летними выходными, знаковое судебное дело о том, кто несет ответственность, когда ИИ напрямую вовлечен в физический вред в реальном мире, наконец, спустя пять лет подошло к концу.

Рафаэла Васкес, водитель беспилотного испытательного автомобиля Uber, который сбил и убил пешехода в Темпе, штат Аризона, в 2018 году, признала себя виновной по одному пункту обвинения в создании угрозы. Судья Верховного суда округа Марикопа Дэвид Гарбарино принял сделку о признании вины и приговорил ее к трем годам испытательного срока под надзором, окончательно закрыв дело. Первоначально Васкесу было предъявлено обвинение в убийстве по неосторожности, уголовном преступлении, за которое предусмотрено наказание в виде лишения свободы на срок до восьми лет.

Авария 2018 года, в которой погибла женщина по имени Элейн Херцберг, когда она переходила дорогу на велосипеде, стала первым столкновением со смертельным исходом с участием полностью автономного транспортного средства. Дело захватило наблюдателей, поскольку Убер и Васкес пытались снять с себя вину за ситуацию, которая не только не имела прецедента, но и вызывала несколько вопросов об ответственности в мире, где люди все чаще контролируют машины ИИ, подчиняясь указаниям алгоритмов и находясь на передовой. несовершенных систем искусственного интеллекта, созданных корпоративными инженерами.

Когда впервые произошла авария, Васкес думала, что Uber поддержит ее, согласно подробному интервью Wired, опубликованному в прошлом году. Она была искренне воодушевлена ​​растущей индустрией и считала себя гордым руководителем компании, выполняющим свою работу по контролю за беспилотными транспортными средствами компании, пока они набирают тренировочные мили. Аризона, которая ослабляла ограничения, чтобы привлечь больше бизнеса от компаний Кремниевой долины, недавно стала убежищем для программы дорожных испытаний Uber после того, как Калифорния отозвала регистрацию автомобилей Uber. Судмедэксперт официально назвал смерть Герцберга несчастным случаем, и Uber первоначально предоставил Васкес адвоката, но общение с ее начальником быстро превратилось из «утешительного в нервирующее», как сообщает Wired.

Ситуация для Веласкес действительно изменилась, когда расследование показало, что во время крушения на ее личном телефоне транслировалось телешоу «Голос». Видеорегистратор также показал, что за несколько мгновений до столкновения она смотрела вниз, а полицейский анализ позже установил, что Васкес мог вовремя завладеть автомобилем, и счел инцидент «полностью предотвратимым».

Хотя дело не дошло до суда, защита Васкес изобиловала аргументами, указывающими на вину ее работодателя. В судебных документах Васкес утверждала, что она не смотрела, а только слушала «Голос», что разрешено правилами Uber. И когда она смотрела вниз, это была проверка сообщений Slack на ее рабочем устройстве, которое, по ее словам, необходимо отслеживать в режиме реального времени. Исторически этим занимался второй оператор, но Uber недавно отменил требование о наличии двух операторов-испытателей в каждом автомобиле, и теперь у него есть резервные водители, такие как Васкес, работающие в одиночку. Это изменило динамику работы, в том числе то, как операторы вводят свои отзывы о системе вождения, и привело к одиноким и долгим сменам на одних и тех же дорогах, обычно без происшествий или необходимости вмешательства.

В другой ключевой части своей досудебной защиты адвокаты Васкес процитировали постановление Национального совета по безопасности на транспорте, согласно которому автомобиль не смог опознать Герцберга как пешехода, что привело к невозможности затормозить. Совет также обнаружил, что у Uber «недостаточная культура безопасности» и он не смог предотвратить «самоуспокоенность в отношении автоматизации» среди операторов-испытателей — хорошо задокументированный феномен, когда работники, которым поручено контролировать автоматизированные системы, начинают верить, что машины держат все под контролем, и останавливаются. Уделение внимания. Кроме того, всего за несколько дней до катастрофы бывший операционный менеджер компании подал жалобу на плохую практику безопасности в подразделении беспилотных автомобилей.