Уязвимостью автопилотов оказалось яркое разноцветное пятно, при виде которого поведение электроники становится непредсказуемым.
Проблему обнаружила группа исследователей Института интеллектуальных систем имени Макса Планка. Они выяснили, что «беспилотник» перестает корректно определять объекты на дороге, если в кадр камеры попадает особый рисунок. Такое разноцветное пятно, напечатанное на футболке, в виде наклейки на бампер или на сумке с продуктами, может стать проблемой для безопасности автономных автомобилей — они могут резко изменить направление движения или остановиться.
Ученые опасаются, что в будущем, когда самоуправляемый транспорт станет массовым, подобной «картинкой» могут воспользоваться злоумышленники. Особо беспокоит ученых, что системы самообучения на основе нейронных сетей, которые являются составной частью «автопилотов», начинают ошибаться даже от маленьких изображений-обманок.
Исследователи работают над решением этой проблемы и призывают обратить внимание на угрозу компании, которые разрабатывают системы автономного вождения.
Источник: Max Planck Research Group for Autonomous Vision
