Камеры Amazon с искусственным интеллектом наказывают водителей за ошибки, которых они не совершали

В феврале 2021 года Amazon установила на своих автомобилях доставки камеры искусственного интеллекта Netradyne. Предполагалось, что они сделают водителей дисциплинированнее, отслеживая аккуратность их езды. Однако камеры считают за нарушение даже поворот головы в сторону боковых зеркал — по мнению искусственного интеллекта, так водитель отвлекается от дороги. Нарвавшиеся на штрафы шофёры считают действия компании нечестными — так они лишаются доплат и бонусов.

Как сообщает Vice, на сентябрь 2021 года Amazon оснастила технологией более половины своего парка доставки по всем США. Камера фиксирует несоблюдение дистанции, нарушение правил остановки и отвлечённое вождение. Затем данные передаются в Amazon. По результатам недели водители получают бонусы или доплаты в зависимости от показателей безопасного движения.

Водители, опрошенные изданием, считают данную систему нечестной, и утверждают, что камеры с искусственным интеллектом в фургонах несправедливо наказывают их за взгляд, направленный в зеркала заднего вида, регулировку радио и даже за то, что кто-то подрезал их в пробке.

«Это особенно обидно, когда я ничего не делал. Каждый раз, когда мне нужно повернуть направо, это неизбежно происходит — машина подрезает меня, чтобы выехать на мою полосу, и камера мрачным, роботизированным голосом кричит на меня», — пожаловался Дерек, водитель службы доставки из Лос-Анджелеса.

Водители Amazon считают, что камеры наблюдения на базе искусственного интеллекта позволили компании сэкономить средства. Водители службы доставки Amazon и компании по доставке, известные как «партнеры службы доставки», которые заключают договор с Amazon и нанимают водителей, сообщают о потере дохода из-за ошибочных нарушений, зарегистрированных Netradyne.

Голосовое информирование системы отвлекает на дороге, отмечают водители. Нарекание также вызывает то, что камеры фиксируют знаки остановки даже на грунтовой дороге, где их быть не может. Иногда это вынуждает водителей совершать по две остановки местах с подобными уведомлениями.

Представитель Amazon Александра Миллер заявила, что после установки оборудования Netradyne число дорожно-транспортных происшествий сократилось на 48 %, нарушение знаков остановки — на 77 %, вождение непристегнутым — на 60 %, отвлеченное вождение — на 75 %.

Некоторые водители заклеивают камеры и надевают солнцезащитные очки, чтобы избежать нарушений. Для получения максимального балла за доставки компании-партнеры Amazon должны совершать нарушения не более 5 раз из 100.