Причина в фундаментальном недостатке нейросетей

N+1Hi-Tech

«Кислотные» стикеры сделали самолеты невидимыми для нейросетей

Григорий Копиев

Ajaya Adhikari et al. arXiv.org, 2020

Исследователи из Нидерландов и Бельгии предложили заменять традиционный камуфляж для самолетов на аэродромах на небольшие относительно самолета тенты с нанесенными на них состязательными примерами — типом изображений, которые выглядят для человека как абстрактный набор фигур разных цветов, но для нейросети похож на объект определенного класса. Статья опубликована на arXiv.org.

У нейросетей есть фундаментальный недостаток, который потенциально можно использовать для умышленной атаки на них. Наиболее часто его наблюдают на примере алгоритмов распознавания и классификации. При работе с обычными изображениями, например, фотографиями животных, нейросеть адекватно распознает объекты на них. Однако для этой конкретной нейросетевой модели изображение с привычными для нее данными, к примеру, фотографию кота, можно немного изменить, после чего для человека она останется неотличимой от оригинала невооруженным взглядом, но для нейросети будет казаться совсем иной, например, фотографией слона. Учитывая, что нейросетевые алгоритмы применяются во все большем количестве областей, в том числе в беспилотных автомобилях, системах распознавания подозреваемых и даже в военной технике, исследователи считают состязательные примеры серьезной угрозой безопасности.

Состязательные примеры можно условно разделить на два основных класса: изображения с попиксельной заменой, годящиеся для атак в цифровом виде, и «стикеры» — небольшие самостоятельные изображения, в которых человек не может распознать никакой конкретный объект. Второй тип интересен тем, что его можно применять и вне цифровых устройств. К примеру, есть эксперименты, в которых авторы «скрывались» от систем распознавания лиц или обнаружения людей с помощью очков или плаката.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Немедикаментозное снижение массы обрекло канадца на хроническую боль Немедикаментозное снижение массы обрекло канадца на хроническую боль

Почему может развиться хроническая боль на фоне снижения массы тела

N+1
Почему мы любим поговорить о бывших (особенно с нынешним) Почему мы любим поговорить о бывших (особенно с нынешним)

Признавайся, у тебя тоже бывает такое, что хочется рассказать о своем бывшем?

Cosmopolitan
Как сделать удаленный рабочий стол и какой софт для этого использовать Как сделать удаленный рабочий стол и какой софт для этого использовать

Как сделать подключение к удаленному рабочему столу под управлением Windows

CHIP
Отчеты, пожары, сервисы: как не пожалеть о покупке битой машины Отчеты, пожары, сервисы: как не пожалеть о покупке битой машины

Что надо знать об автомобиле, побывавшем в ДТП, и как не ошибиться при покупке

РБК
Тишина в голове: может ли человек какое-то время вообще ни о чем не думать? Тишина в голове: может ли человек какое-то время вообще ни о чем не думать?

Можем ли мы добиться абсолютной ментальной тишины в голове?

ТехИнсайдер
Константин Ивлев: «Мы с моим организмом начали уважать друг друга» Константин Ивлев: «Мы с моим организмом начали уважать друг друга»

Константин Ивлев рассказал о том, как ему удалось сбросить 26 кг

Худеем правильно
5 закрученных фактов об усах 5 закрученных фактов об усах

Из истории усов: во время Первой мировой усы могли стоить солдату жизни

Maxim
Торт от стресса: почему ты заедаешь свои проблемы и как от этого избавиться Торт от стресса: почему ты заедаешь свои проблемы и как от этого избавиться

Что делать, если думаешь о еде как о способе снятия стресса

Cosmopolitan
Деликатный вопрос: как избавиться от урчания в животе Деликатный вопрос: как избавиться от урчания в животе

Желудок громко заявляет о себе в самый неподходящий момент?

Cosmopolitan
Море спокойствия Море спокойствия

Эмбер Валлетта: путь чувств может привести к грусти, а мысли требуют действия

Vogue
Как приготовить идеальное мясо на открытом огне. Инструкция Как приготовить идеальное мясо на открытом огне. Инструкция

Что делать, чтобы приготовленные на огне блюда получились выше всех похвал

РБК
Похитители галош Похитители галош

Как старые вещи возвращаются к нам под новыми именами и с новыми ценами

Maxim
ЦА ЦА

Как найти свою целевую аудиторию и стать для нее магнитом

kiozk originals
Люблю — не могу Люблю — не могу

Как вырваться из болезненных отношений?

Лиза
Как съехать от партнера и не расстаться Как съехать от партнера и не расстаться

Что делать, если совместное проживание с партнером не идет на пользу

GQ
Парадокс дней рождения и его наглядное объяснение Парадокс дней рождения и его наглядное объяснение

Как у сотрудников в одном офисе могут совпадать дни рождения?

Maxim
Как заснуть, если мешают мысли о работе Как заснуть, если мешают мысли о работе

Как уснуть, если работа не уходит из головы, а подсчета овец уже недостаточно

Inc.
Холланд против Паттинсона: чей южный акцент в фильме «Дьявол всегда здесь» лучше? Холланд против Паттинсона: чей южный акцент в фильме «Дьявол всегда здесь» лучше?

Кто лучше справился со своей ролью в триллере «Дьявол всегда здесь»?

GQ
Неделя в Москве: как увидеть знаковые места столицы. Часть вторая Неделя в Москве: как увидеть знаковые места столицы. Часть вторая

Маршруты для идеального путешествия по Москве. Продолжение

Культура.РФ
Царское ложе Царское ложе

Как правильно выбрать матрас

Лиза
Зеркало для героя Зеркало для героя

«Американский жиголо» — фильм, ознаменовавший смену гендерных ролей

GQ
Мудборд: студенческий стиль в фильмах про учебу Мудборд: студенческий стиль в фильмах про учебу

Несколько фильмов про учебу

Esquire
Дарья Жук: «Когда начались протесты в Беларуси, у меня случился разрыв мозга и сердца» Дарья Жук: «Когда начались протесты в Беларуси, у меня случился разрыв мозга и сердца»

Интервью с режиссеркой Дарьей Жук о ситуации в Беларуси и фильме FEMEN

GQ
Почему Баба — яга, Змей — Тугарин, а Лиса — Патрикеевна? Почему Баба — яга, Змей — Тугарин, а Лиса — Патрикеевна?

Неожиданное происхождение имен персонажей русских сказок

Maxim
«Гнездо» перевернутых ролей: фильм, где Джуд Лоу живет на содержании у жены, притворяясь миллионером «Гнездо» перевернутых ролей: фильм, где Джуд Лоу живет на содержании у жены, притворяясь миллионером

«Гнездо» — индидрама про смену традиционных гендерных ролей

Forbes
Стоп многозадачность: включаем «зеленый» настоящему моменту Стоп многозадачность: включаем «зеленый» настоящему моменту

Почему мы отвлекаемся и не можем сконцентрироваться на чем-то одном?

РБК
9 сумасшедших фактов о фильме «Пролетая над гнездом кукушки» 9 сумасшедших фактов о фильме «Пролетая над гнездом кукушки»

Поговорим о фильме про гнездо кукушки

Maxim
Голод 1230 года: самый страшный голод на Руси Голод 1230 года: самый страшный голод на Руси

В ночь на 14 сентября от заморозков погиб урожай, это стало началом трагедии

Maxim
Пес с тобой Пес с тобой

Лучший друг человека может быть и лучшим фитнес-тренером

GQ
Между жизнью и смертью: 10 фактов о подушке безопасности Между жизнью и смертью: 10 фактов о подушке безопасности

Подушки безопасности: разбираемся в теории, практике и статистике

Популярная механика
Открыть в приложении