Securing deep classification models against OOD inputs and evasion attacs

Cover Page

Cite item

Full Text

Open Access Open Access
Restricted Access Access granted
Restricted Access Subscription Access

Abstract

About the authors

Kirill Sergeevich Lukianov

Ivannikov Institute for System Programming of the Russian Academy of Sciences; Moscow Institute of Physics and Technology (National Research University); Research Center of the Trusted Artificial Intelligence ISP RAS

Email: lukianov@ispras.ru

Pavel Andreevich Yaskov

Steklov Mathematical Institute of Russian Academy of Sciences; National University of Science and Technology "MISIS"

Email: yaskov@mi-ras.ru
Scopus Author ID: 36635347000
ResearcherId: S-2745-2016
Candidate of physico-mathematical sciences, no status

References

  1. Shiyu Liang, Yixuan Li, R. Srikant, Enhancing the reliability of out-of-distribution image detection in neural networks, 2020 (v1 – 2017), 15 pp.
  2. Zhilin Zhao, Longbing Cao, Kun-Yu Lin, IEEE Trans. Neural Netw. Learn. Syst., 35:10 (2024), 13777–13788
  3. Jiefeng Chen, Yixuan Li, Xi Wu, Yingyu Liang, Somesh Jha, Machine learning and knowledge discovery in databases. Research track (ECML PKDD 2021) (Bilbao, 2021), Lecture Notes in Comput. Sci., 12977, Springer, Cham, 2021, 430–445
  4. Sangwoong Yoon, Jinwon Choi, Yonghyeon Lee, Yung-Kyun Noh, Frank Chongwoo Park, Evaluating out-of-distribution detectors through adversarial generation of outliers, 2022, 17 pp.
  5. WonJun Moon, Junho Park, Hyun Seok Seong, Cheol-Ho Cho, Jae-Pil Heo, Computer vision – ECCV 2022 (Tel Aviv, 2022), Lecture Notes in Comput. Sci., 13685, Springer, Cham, 2022, 365–381
  6. A. Madry, A. Makelov, L. Schmidt, D. Tsipras, A. Vladu, Towards deep learning models resistant to adversarial attacks, 2019 (v1 – 2017), 28 pp.
  7. C. Finlay, A. M. Oberman, Mach. Learn. Appl., 3 (2021), 100017, 8 pp.
  8. A. Sinha, Zhao Chen, V. Badrinarayanan, A. Rabinovich, Gradient adversarial training of neural networks, 2018, 13 pp.
  9. D. Jakubovitz, R. Giryes, Computer vision – ECCV 2018 (Munich, 2018), Lecture Notes in Comput. Sci., 11216, Springer, Cham, 2018, 525–541
  10. Zhihui Zhu, Tianyu Ding, Jinxin Zhou, Xiao Li, Chong You, J. Sulam, Qing Qu, NIPS' 21: Proceedings of the 35th international conference on neural information processing systems, Adv. Neural Inf. Process. Syst., 34, Curran Associates Inc., Red Hook, NY, 2021, 29820–29834
  11. V. Papyan, X. Y. Han, D. L. Donoho, Proc. Natl. Acad. Sci. USA, 117:40 (2020), 24652–24663

Supplementary files

Supplementary Files
Action
1. JATS XML
Download

Copyright (c) 2025 Lukianov K.S., Yaskov P.A.

Согласие на обработку персональных данных с помощью сервиса «Яндекс.Метрика»

1. Я (далее – «Пользователь» или «Субъект персональных данных»), осуществляя использование сайта https://journals.rcsi.science/ (далее – «Сайт»), подтверждая свою полную дееспособность даю согласие на обработку персональных данных с использованием средств автоматизации Оператору - федеральному государственному бюджетному учреждению «Российский центр научной информации» (РЦНИ), далее – «Оператор», расположенному по адресу: 119991, г. Москва, Ленинский просп., д.32А, со следующими условиями.

2. Категории обрабатываемых данных: файлы «cookies» (куки-файлы). Файлы «cookie» – это небольшой текстовый файл, который веб-сервер может хранить в браузере Пользователя. Данные файлы веб-сервер загружает на устройство Пользователя при посещении им Сайта. При каждом следующем посещении Пользователем Сайта «cookie» файлы отправляются на Сайт Оператора. Данные файлы позволяют Сайту распознавать устройство Пользователя. Содержимое такого файла может как относиться, так и не относиться к персональным данным, в зависимости от того, содержит ли такой файл персональные данные или содержит обезличенные технические данные.

3. Цель обработки персональных данных: анализ пользовательской активности с помощью сервиса «Яндекс.Метрика».

4. Категории субъектов персональных данных: все Пользователи Сайта, которые дали согласие на обработку файлов «cookie».

5. Способы обработки: сбор, запись, систематизация, накопление, хранение, уточнение (обновление, изменение), извлечение, использование, передача (доступ, предоставление), блокирование, удаление, уничтожение персональных данных.

6. Срок обработки и хранения: до получения от Субъекта персональных данных требования о прекращении обработки/отзыва согласия.

7. Способ отзыва: заявление об отзыве в письменном виде путём его направления на адрес электронной почты Оператора: info@rcsi.science или путем письменного обращения по юридическому адресу: 119991, г. Москва, Ленинский просп., д.32А

8. Субъект персональных данных вправе запретить своему оборудованию прием этих данных или ограничить прием этих данных. При отказе от получения таких данных или при ограничении приема данных некоторые функции Сайта могут работать некорректно. Субъект персональных данных обязуется сам настроить свое оборудование таким способом, чтобы оно обеспечивало адекватный его желаниям режим работы и уровень защиты данных файлов «cookie», Оператор не предоставляет технологических и правовых консультаций на темы подобного характера.

9. Порядок уничтожения персональных данных при достижении цели их обработки или при наступлении иных законных оснований определяется Оператором в соответствии с законодательством Российской Федерации.

10. Я согласен/согласна квалифицировать в качестве своей простой электронной подписи под настоящим Согласием и под Политикой обработки персональных данных выполнение мною следующего действия на сайте: https://journals.rcsi.science/ нажатие мною на интерфейсе с текстом: «Сайт использует сервис «Яндекс.Метрика» (который использует файлы «cookie») на элемент с текстом «Принять и продолжить».