Ученые выяснили, как можно запутать автопилот

Ученые Вашингтонского университета попытались запутать систему автоматического пилотирования автомобиля с помощью искаженных дорожных знаков и это им удалось.

Используя несколько цветных стикеров и дорожных знаков они смогли вызвать неадекватную реакцию беспилотника, запутав его системы. Это позволило исследователям определить, как автопилот воспринимает слегка видоизмененные картинки в значительной мере определяющие его поведение. Практически во всех случаях они спровоцировали неожиданные реакции системы.

Например, знак «Stop» с несколькими небольшими прямоугольными стикерами, не перекрывающими основное изображение, автопилот воспринял, как ограничение скоростного режима. Тот же знак «Stop» с двумя небольшими надписями над и под словом «Stop» и просто несколько затемненную картинку того же знака автопилот воспринял как сигнал для ограничения скорости.

Измененный с помощью серых стикеров знак «Движение только на право», автопилот воспринят как «Stop». Проводили ученые и другие эксперименты, которые продемонстрировали насколько легко можно повлиять на поведение автопилота с помощью самых простых вещей. В опытах не использовался автопилот какого-то конкретного производителя. Речь идет о алгоритмах, использующихся в системах автономного управления.

Источник: Motor