Автопилот Tesla можно обмануть с помощью маленьких стикеров

Появился еще один повод быть внимательным при использовании Tesla Autopilot. Исследователи из Tencent Keen Security Lab нашли навероятно простой способ заставить Tesla Model S изменить полосу движения. Ранее мы уже наблюдали как Autopilot может работать нестабильно при плохо видимой разметке, однако сейчас оказалось что трех цветных стикеров на дороге достаточно чтобы обмануть Autopilot, заставив машину выехать на встречку.

Большая часть исследования была проведена касательно нейросетей Autopilot и того, как они видят окружающий мир. Так как нейросети видят мир не так как люди, исследователям также удалось обмануть Telsa и заставить ее думать будто идет дождь. 

Несмотря на то, что Tencent Keen Security Lab’s использовала белые стикеры, подобных результатов удалось достичь также с помощью красных:

Команде также удалось обойти несколько уровней безопасности и взять управление рулем Model S используя приложение, которе позволило управлять рулем с помощью джойстика.

Полный отчет об исследовании доступен по ссылке.