Израильтяне нашли критическую уязвимость автопилота Tesla

Израильтяне нашли критическую уязвимость автопилота Tesla

Команда инженеров из Израиля нашла критическую уязвимость в работе алгоритмов искусственного интеллекта, используемого электрокарами компании Tesla, потенциально способную привести к ДТП.

За активацию соответствующий функции Tesla просит $7000, а основатель компании Илон Маск считает ИИ полноценным, отмечая, что он готов к активной эксплуатации на дорогах общего назначения

Как выяснилось, обмануть систему можно при помощи портативного проектора, который выводил на проезжую часть изображения пешехода и измененной разметки.

В ходе эксперимента израильских исследователей из Университета Бен-Гуриона автопилот Tesla не справился со своей задачей и сбил виртуального пешехода, распознав в нем человека тогда, когда тормозить было уже поздно.



Еще хуже обстоят дела с разметкой. Обнаружив поддельные линии, автомобиль выехал на встречную полосу, поставив под угрозу сразу несколько транспортных средств.

Для того чтобы в будущем избежать подобных проблем, исследователи предложили обучать нейросети всем возможным вариантам развития событий, которые могут встретиться на дороге, вплоть до анализа изображений на основе освещения, размера объектов и их положения. Инженеры отправили результаты тестов компании Tesla, однако её сотрудники отказались от комментариев, заявив о модификации аппаратной части электрокара Model X.

ПОДЕЛИТЬСЯ
ВСЕ ПО ТЕМЕ
КОММЕНТАРИИ

НОВОСТИ ПАРТНЕРОВ
ЗНАКОМСТВА
МЫ НА FACEBOOK