Некоторые владельцы автомобилей Tesla предупреждают, что программное обеспечение «автономного вождения» Tesla не работает на железнодорожных переездах.

Однажды вечером в июне Итало Фриголи тестировал программное обеспечение Full Self-Driving (полностью автономное вождение) своего Tesla, когда он подошел к железнодорожному переезду. Шлагбаумы опускались, мигали огни, а поезд мчался к перекрестку. Для большинства водителей-людей шлагбаумы и огни являются явными сигналами к остановке, но для Tesla Фриголи, который ехал в полуавтономном режиме, потенциально смертельная ситуация, похоже, не была зарегистрирована. «Было такое ощущение, что она собирается проехать под шлагбаумом», — сказал он. «Поэтому я, конечно же, резко затормозил». Он остановился всего в нескольких метрах от переезда недалеко от своего дома в Северном Техасе, едва избежав катастрофы. Видео с камер автомобиля, просмотренное NBC News, подтверждает его слова. И в этом месяце, когда NBC News сопровождала его к тому же железнодорожному переезду, программное обеспечение его Tesla имело ту же проблему. Во время съемки камеры программное обеспечение его Tesla не обнаружило приближающийся поезд, вынудив Фриголи вручную затормозить. Фриголи избежал потенциальной аварии, но его опыт подчеркивает повторяющуюся жалобу некоторых водителей Tesla на технологию автономного вождения компании: программное обеспечение иногда неправильно обрабатывает железнодорожные переезды, в том числе не останавливаясь перед ними. Программное обеспечение Tesla Full Self-Driving (FSD) представляет собой дополнительный пакет функций помощи водителю, который компания рекламирует как «будущее транспорта», способное навигировать «практически в любом месте при вашем активном контроле». В интервью шесть водителей Tesla, использующих FSD, заявили, что сталкивались с проблемами при использовании этой технологии на железнодорожных переездах, и четверо из них предоставили видеозаписи. NBC News также нашла семь других видеороликов о вождении Tesla, опубликованных в Интернете, на которых показаны аналогичные происшествия, произошедшие в период с июня 2023 года по август. Эти водители отказались давать интервью. Жалобы еще более распространены на интернет-форумах Tesla, где водители описывают аналогичные происшествия, как правило, не публикуя видео. NBC News нашла 40 примеров на Reddit, X и YouTube с 2023 года, включая сообщения, опубликованные в августе. Регулирующие органы Национальной администрации безопасности дорожного движения (NHTSA) заявили NBC News, что подняли этот вопрос с Tesla. «Мы знаем об этих инцидентах и поддерживаем связь с производителем», — заявило агентство. «NHTSA часто обсуждает проблемы с производителями и уделяет приоритетное внимание безопасности всех участников дорожного движения», — говорится в заявлении. «Агентство постоянно анализирует жалобы потребителей, чтобы определить, существует ли потенциальная тенденция к дефектам безопасности транспортных средств. Мы будем продолжать обеспечивать соблюдение закона всеми производителями автомобилей и оборудования в соответствии с Законом о безопасности транспортных средств и нашим процессом расследования, основанным на данных и оценке рисков». Маск заявил, что автономные технологии имеют решающее значение для будущего Tesla, и он поставил будущее компании на успех самоуправляемых автомобилей и роботов на базе искусственного интеллекта. Роботакси Tesla уже курсируют по улицам Остина, штат Техас, и планируется их внедрение в других городах. В июле Маск заявил, что версия FSD без контроля — не требующая мониторинга со стороны водителя-человека — может быть доступна в этом году «в определенных регионах» и что его цель — сделать роботакси Tesla доступными для половины населения США к концу года. Однако остаются вопросы о технологии, которую компания использует для управления своими автомобилями. Эксперты заявили, что программное обеспечение FSD Tesla представляет собой модель искусственного интеллекта типа «черный ящик», в которой ошибки не могут быть легко объяснены даже ее создателями, и что инженеры Tesla, скорее всего, не включили достаточно примеров железнодорожных переездов в видео, которые они использовали для обучения программного обеспечения FSD. Tesla и Маск не ответили на запросы о комментарии по поводу жалоб на железнодорожные переезды. Маск, по-видимому, не высказывался по поводу жалоб, но он сказал, что Tesla планирует крупное обновление программного обеспечения FSD уже в конце сентября. Водители описали ряд неисправностей. Фриголи и другие водители сказали, что их автомобили не распознавали мигающие огни или опускающиеся шлагбаумы. Некоторые заявили, что их Tesla не замедляют ход даже при наличии поездов впереди. Другие водители рассказали, что их автомобили останавливаются на железнодорожных путях при красном сигнале светофора, что может представлять опасность, если шлагбаум опустится до того, как загорится зеленый сигнал. В одном из видео, опубликованном в Интернете, Tesla сначала останавливается на переезде, но затем, после того как шлагбаумы начинают опускаться, светофоры дальше по дороге включаются на зеленый свет, и автомобиль пытается проехать через шлагбаумы за секунды до прибытия поезда. Еще другие водители сообщили, что их автомобили сами поворачивали на рельсы. Эксперты предупреждают, что Tesla и Маск рискуют столкнуться с катастрофой. «Если у автомобиля возникают проблемы с остановкой на железнодорожных переездах, это чревато аварией», — сказал Фил Купман, почетный доцент кафедры инженерии Университета Карнеги-Меллона. «Это только вопрос того, какой водитель попадет в неприятную ситуацию в неподходящий момент», — сказал он. Tesla FSD не всегда неправильно реагирует на железнодорожные переезды, и некоторые водители публикуют в Интернете видео, чтобы отпраздновать успешные случаи. Но одна ошибка может привести к катастрофическим последствиям. Один из шести водителей, которые пообщались с NBC News, сказал, что в августе его автомобиль правильно прошел железнодорожный переезд, хотя ранее в этом году он не смог этого сделать; он сказал, что недавний опыт заставил его подумать, что Tesla, возможно, решила проблему, но эксперты заявили, что нет никакой возможности быть в этом уверенным. В июне автомобиль Tesla в режиме FSD въехал на железнодорожные пути в восточной Пенсильвании и через несколько минут был сбит грузовым поездом Norfolk Southern, по словам местных властей, которые беседовали с водителем. Водителю повезло: поезд лишь слегка задел бок автомобиля, а водитель и его пассажиры успели выйти из машины до столкновения. «Они сказали, что когда доехали до путей, автомобиль просто повернул налево», — сказал комиссар пожарной службы Западного Беркса Джаред Реншоу, который опросил водителя. «Автомобиль был в режиме автопилота и просто повернул налево». В то время об этом инциденте сообщали некоторые СМИ, но Tesla не прокомментировала его, а личность водителя не была обнародована. Фриголи сказал, что если какой-либо Tesla и должен хорошо справляться с железнодорожными переездами, то это должен был быть его. Он водит Model Y 2025 года с новейшим оборудованием Tesla для автономного вождения, известным как HW4, и самой последней версией программного обеспечения, FSD 13.2.9. Кроме того, в июне, когда его автомобиль приближался к железнодорожным путям, условия для вождения были хорошими: небо было в основном ясным, и на дороге перед ним никого не было. «Я думаю, что при мигающих красных огнях автомобиль должен останавливаться самостоятельно», — сказал он. «Надеюсь, в будущих версиях FSD они запрограммируют его так, чтобы он правильно работал и распознавал железнодорожные переезды». Инциденты с поездами подвергли испытанию веру некоторых водителей Tesla, которые в остальном были довольны автомобилями. «Это просто безумие, что эта проблема до сих пор не решена», — сказал Джаред Кливер, владелец Tesla из Окленда, Калифорния. Кливер, проектный менеджер в строительной отрасли, рассказал, что осенью прошлого года он ехал на своей Tesla Model 3 2021 года выпуска, когда приблизился к железнодорожному переезду недалеко от центра Окленда. Он сказал, что включил FSD и внимательно следил за автомобилем. «Автомобиль полностью остановился, и я подумал: «Хорошо, все в порядке». А потом машина просто рванулась вперед, как будто собиралась ехать», — сказал он. Он сказал, что резко нажал на тормоз. «Я не знаю, рванулась бы она и остановилась, но я не собирался ждать, чтобы это выяснить», — сказал он. Он сказал, что то же самое произошло снова в этом месяце, и что на этот раз он смог запечатлеть происшествие на видео, которое он поделился с NBC News. Кливер сказал, что любит свою машину и часто использует FSD. Он сказал, что иногда она его удивляет, но также допускает глупые ошибки. «Я думаю, что она работает не так хорошо, как утверждают Илон и Tesla, но я считаю, что она хороша», — сказал он. «Они, кажется, привыкли делать эти действительно громкие заявления, а потом не оправдывать их. Меня это беспокоит». «Это похоже на граничащую с ложной рекламой», — сказал он. Tesla ранее обвинялась в преувеличении возможностей своего программного обеспечения, в том числе в судебном процессе по делу о неправомерной смерти, который проходил этим летом в связи с другим программным обеспечением Tesla, известным как Autopilot. Жюри в этом деле в Майами присудило истцу 243 миллиона долл., признав Tesla ответственной за аварию на 33%. Autopilot — это более узкий набор функций помощи водителю, который включает в себя контроль полосы движения и мониторинг слепых зон. Tesla обратилась к судье с просьбой отменить вердикт присяжных или назначить новое судебное разбирательство. Full Self-Driving — это пакет функций помощи водителю, который владельцы и арендаторы автомобилей Tesla могут приобрести за 99 долл. в месяц или за единовременную плату в размере 8000 долл. Программный пакет работает с предустановленным оборудованием, в том числе с камерами, которые фиксируют все, что происходит вокруг автомобиля. Несмотря на название, программное обеспечение не делает Tesla автономным и требует постоянного контроля со стороны человека. FSD имеет ограниченную привлекательность. Маск заявил в июле, что «половина владельцев Tesla, которые могли бы его использовать, ни разу не пробовали его», а опрос американских потребителей, проведенный в августе, показал, что только 14% респондентов считают, что FSD повысит вероятность покупки Tesla. (Маск не дал определения выражению «владельцы, которые могли бы его использовать»). Согласно рейтинговой системе, разработанной SAE International, профессиональной ассоциацией инженеров, существует шесть уровней автоматизации вождения. Уровень 0 означает отсутствие автоматизации, а уровень 5 — полное самоуправление в любых условиях без вмешательства человека. Tesla классифицирует FSD как систему «уровня 2» и сообщает водителям в своем онлайн-руководстве, что FSD требует постоянного активного контроля со стороны человека. В октябре NHTSA заявила, что расследует способность Tesla FSD безопасно двигаться в тумане, при ярком солнце или других «условиях ограниченной видимости на дороге». Tesla не предоставила обновленной информации по этому расследованию, и NHTSA заявляет, что оно все еще продолжается. Однако Маск продолжает делать заявления, выходящие за рамки того, что утверждает его компания. Недавно он заявил, что с FSD автомобили Tesla «могут ездить самостоятельно», однако эксперты считают, что это утверждение не подтверждается фактами. Железнодорожная отрасль уже много лет предупреждает о потенциальной опасности автономных транспортных средств. В 2018 году Ассоциация американских железных дорог, торговая группа, в письме федеральным регуляторам заявила, что это сложная проблема, требующая от самоуправляемых автомобилей распознавания «фары, гудков и звонков локомотивов», поскольку не все железнодорожные переезды имеют шлагбаумы и мигающие огни. (Некоторые железнодорожные переезды имеют только белые знаки в форме буквы X, известные как «кресты»). «Так же как поведение автоматизированных транспортных средств должно регулироваться при приближении к оживленным перекресткам дорог, так и их поведение должно регулироваться при приближении к железнодорожным переездам. Железнодорожные коридоры должны уважаться», — заявила ассоциация. Представитель ассоциации сказал, что позиция железнодорожной отрасли не изменилась, но не прокомментировал конкретные инциденты. Norfolk Southern отказалась комментировать аварию Tesla в Пенсильвании. По данным Федерального управления железнодорожного транспорта, которое контролирует безопасность железнодорожных переездов по всей стране, в прошлом году на железнодорожных переездах погибли 267 человек. Оно не отслеживает марки или модели автомобилей, участвовавших в авариях, а также то, использовалось ли в них автономное программное обеспечение. FRA заявило, что ему известно о некоторых инцидентах с Tesla, но отказалось от комментариев. Проблема с Tesla FSD остается нерешенной, несмотря на два примера, которые привлекли широкое внимание: вирусный видеоролик мая 2024 года, в котором Tesla в Огайо едва не столкнулась с поездом, и видеоролик июля этого года, в котором тестовый водитель роботакси Tesla сказал, что его автомобиль не заметил железнодорожный переезд в Остине. Джо Тегтмейер, пассажир роботакси и поклонник Tesla, сказал в видео на X, что его автомобиль остановился в зоне светофора и железнодорожного переезда. Затем, по его словам, он начал двигаться в самый неподходящий момент. «Загорелся сигнал, предупреждающий о приближении поезда, и начали опускаться шлагбаумы, но роботакси этого не заметило», — сказал он. Он рассказал, что сотрудник Tesla, сидевший на переднем пассажирском сиденье и контролировавший работу роботакси, был вынужден остановить автомобиль до тех пор, пока поезд не проехал. Тегтмейер отказался дать интервью. Отвечая на вопрос NBC News, он написал в посте на X, что совершил 122 успешных поездки на роботакси Tesla и считает, что эта услуга, запущенная в июне в Остине, в целом работает хорошо. По словам Маска, роботакси Tesla используют новую версию программного обеспечения FSD, отличную от потребительской версии. Один из водителей Tesla сказал, что его автомобиль не повторил ту же ошибку дважды. Нейтан Брассард из Брансуика, штат Мэн, сказал, что его Tesla Cybertruck в режиме FSD правильно справился с недавним пересечением железнодорожного переезда, затормозив перед белой стоп-линией на дороге — по его словам, это улучшение по сравнению с предыдущим опытом, когда автомобиль остановился на путях на красный свет, и ему пришлось взять управление на себя. «Мне интересно наблюдать, как он становится лучше, — сказал он. — Я не против, когда мне приходится вмешиваться. Это гораздо проще, чем водить, особенно в дальних поездках». Но эксперты в области автономных технологий говорят, что нет возможности убедиться, действительно ли программное обеспечение FSD Tesla улучшается, поскольку для посторонних практически нет прозрачности в том, как оно работает. По словам Маска, последние версии FSD даже не имеют написанного людьми компьютерного кода, а представляют собой сквозные нейронные сети, основанные исключительно на обучающих данных, а не на конкретных правилах. Маск сравнил его с ChatGPT. Купман из Карнеги-Меллона сказал, что выбор Tesla в отношении обучающих данных — часы видеозаписей вождения, которые она загружает в программное обеспечение, чтобы помочь ему учиться — вероятно, является причиной проблемы с железнодорожными переездами. Он сказал, что инженеры Tesla должны выбирать, какие видеозаписи включать в обучающие данные, и что неизвестно, сколько примеров с поездами они включили. «Единственное возможное объяснение — это то, что программа недостаточно обучена для такого сценария», — сказал он. Он также повторил сложный фактор, отдельно поднятый железнодорожной отраслью: не все железнодорожные переезды одинаковы. На некоторых есть белые стоп-линии на дороге, а на других — нет. Некоторые из них оснащены мигающими огнями и шлагбаумами, но многие — нет. Кроме того, огни и шлагбаумы могут выходить из строя. Waymo, лидер рынка роботакси и конкурент Tesla, возможно, подошел к железнодорожным переездам по-другому, более осторожно. Waymo начала автономные поездки «только для пассажиров» в 2019 году, и в течение нескольких лет после этого некоторые клиенты Waymo в своих постах в социальных сетях высказывали предположение, что автомобили будут объезжать железнодорожные пути из-за возможного риска. Представитель Waymo заявила, что программное обеспечение компании учитывает множество факторов при прокладке маршрута, и подтвердила, что железнодорожные переезды являются одним из таких факторов. Она добавила, что с 2023 года автомобили Waymo регулярно пересекают не только линии легкорельсового транспорта, но и линии тяжелого рельсового транспорта. По ее словам, Waymo использует аудиоприемники для обнаружения звуков поездов, а компания заявила, что у нее есть модель железнодорожного переезда на учебной базе в Калифорнии. NBC News не нашла примеров жалоб клиентов на то, что автомобили Waymo почти врезались в шлагбаумы или игнорировали мигающие огни. «Команда Waymo вложила значительные средства в разработку модели безопасности и формирование культуры безопасности, которая, похоже, хорошо работает», — сказал Брайан Реймер, научный сотрудник Центра транспорта и логистики Массачусетского технологического института. Tesla заявила в прошлом году, что планирует начать использовать аудиовходы для более эффективного реагирования на ситуации с участием аварийных транспортных средств, но неясно, делает ли она это для поездов или железнодорожных переездов. Компания не ответила на вопросы по этому поводу. Реймер сказал, что он ожидает, что программное обеспечение FSD от Tesla сможет справляться с железнодорожными переездами без надзора, если Маск серьезно настроен на то, что автомобили могут ездить самостоятельно, в том числе в качестве роботакси. «Можно было бы подумать, что они смогут надежно обнаруживать такие вещи», — сказал он.