Сенаторы требуют расследования инцидентов на железнодорожных переездах с участием автомобилей Tesla с функцией «полностью автономного вождения»

Два сенатора США в понедельник призвали органы безопасности провести официальное расследование в отношении программного обеспечения Tesla «Full Self-Driving» после того, как в начале этого месяца NBC News сообщила о жалобах водителей Tesla, которые утверждали, что программное обеспечение иногда не обнаруживает приближающиеся поезда на железнодорожных переездах. Сенаторы Эдвард Марки (Edward Markey) из Массачусетса и Ричард Блюменталь (Richard Blumenthal) из Коннектикута направили соответствующий запрос в письмо Национальному управлению безопасности дорожного движения (NHTSA), которое контролирует безопасность транспортных средств. Они раскритиковали полуавтономное программное обеспечение, которое Tesla продает под названием Full Self-Driving (Supervised). «Поскольку столкновения между поездами и автомобилями часто приводят к значительным человеческим жертвам и травмам, неспособность FSD безопасно пересекать железнодорожные переезды создает серьезный риск катастрофической аварии», — написали сенаторы. «Мы настоятельно призываем NHTSA немедленно начать официальное расследование этого тревожного риска для безопасности и принять все необходимые меры для защиты населения», — написали они. NHTSA не сразу ответила на запрос о комментарии по поводу этого письма. В начале этого месяца агентство заявило, что ему известно об этих инцидентах и что оно подняло этот вопрос перед Tesla. Tesla не ответила сразу на запрос о комментарии. В своем руководстве компания указывает, что FSD требует постоянного активного контроля со стороны человека. Генеральный директор Tesla Илон Маск заявил на прошлой неделе, что планирует выпустить новую версию программного обеспечения FSD на этой неделе. Неясно, чем будет отличаться новая версия и решит ли она проблемы, с которыми сталкиваются водители на железнодорожных переездах. В интервью NBC News шесть водителей Tesla, использующих FSD, рассказали о проблемах с этой технологией на железнодорожных переездах, а четверо из них предоставили видеозаписи. NBC News также нашла в Интернете семь других видеороликов с участием автомобилей Tesla, на которых запечатлены аналогичные происшествия, а также 40 письменных жалоб на интернет-форумах Tesla и в социальных сетях. Водители Tesla, в том числе некоторые в остальном довольные клиенты, заявили, что они разочарованы тем, что по-прежнему сталкиваются с ошибками, несмотря на то, что аналогичные жалобы появляются в Интернете по крайней мере с 2023 года. В одном из примеров, приведенных сенаторами, видео 2024 года показало, как Tesla в режиме полного автопилота не смогла обнаружить движущийся поезд и самостоятельно остановиться, врезалась в шлагбаум и вылетела с дороги в Огайо. Эксперты в области автономных технологий заявили, что программное обеспечение FSD Tesla представляет собой модель искусственного интеллекта типа «черный ящик», в которой ошибки не могут быть легко объяснены даже ее создателями, и что инженеры Tesla, скорее всего, не включили достаточно примеров железнодорожных переездов в видео, которые они использовали для обучения программного обеспечения FSD. Ссылаясь на отчет, сенаторы написали: «Эти ужасающие инциденты демонстрируют как ограничения технологии Tesla, так и путаницу вокруг брендинга FSD». Они добавили, что не считают достаточным ответом NHTSA переговоры с производителем.