A prototype of the system for searching and detecting extremist messages on the VKontakte social network

Abstract

The object of research is neural networks, the VKontakte platform, the Telegram messenger, the Python programming language and its libraries, and a block diagram of a computer system model. The subject of the study is a computer technology for detecting extremist content in text form and specific groups containing it on the VKontakte social network. The authors consider in detail the structural scheme of the computer system model, the functional modules included in it, and illustrate their interaction. The paper uses a pre-trained model designed for processing the Russian language, and provides conditions for ensuring high accuracy of recognition of illegal content without signs of retraining. The paper presents the results of checking the test data confirming the operability of the computer system. The proposed prototype of the computer system ensures its integration with the Telegram messenger, which increases usability and facilitates the process of generating queries and reports. The novelty of the research lies in the creation of a prototype of a computer system for searching and detecting extremist messages on the VKontakte social network using the Python programming language and the VKontakte API programming interface (VK API). The basis of the prototype computer system is a neural network that works with the Тгаnsformers and Тоrch. A special feature of the computer system is the ability to analyze messages on a social network and subject them to binary classification for the content or non-content of illegal information in messages. The main conclusions of the study show the efficiency of the system, the simplicity and convenience of its use, the possibility of detecting illegal text content. A distinctive feature of the prototype is the ability to detect illegal content presented using slang expressions.

References

  1. Салахутдинов А. А. Социальные сети как информационный канал экстремистского материала // Молодой ученый. 2014. № 17 (76). С. 561-564.
  2. Мартышкин А. И., Маркин Е. И., Зупарова В. В. Исследование и разработка прототипа модуля автоматического отслеживания контента социальных сетей // XXI век: итоги прошлого и проблемы настоящего. 2021. Т. 10. №. 2. С. 96–100.
  3. Титов Н. Г. и др. Методы мониторинга социальных сетей, их развитие и применение в контексте обеспечения их информационной безопасности // Информация и безопасность. 2019. Т. 22. №. 3. С. 305–324.
  4. Голосной К. С., Янаева М. В. Анализ потенциально опасного контента в социальной сети «ВКонтакте» // Наука, общество, личность: проблемы и перспективы взаимодействия в современном мире. Петрозаводск: МЦНП «Новая наука», 2022. С. 103–107.
  5. Остапенко А. Г. и др. Организация мониторинга постов социальной сети ВКонтакте с помощью интерфейса vkapi // Информация и безопасность. 2018. Т. 21. № 3. С. 408–415.
  6. Вихляев Д. Р., Глаголев В. А. Парсинг данных сообщества «ВКонтакте» с помощью VK API // Постулат. 2021. № 10.
  7. Жданов А. В., Тютякин А. А. Поиск общих групп и сообществ пользователей социальных сетей с использованием веб-сервисов на примере ВКонтакте // Информация и образование: границы коммуникаций. 2017. № 9. С. 74–76.
  8. Лехов К. А., Сперанский Д. Д., Митрохин М. А., Карамышева Н. С. Система извлечения и анализа текстовых данных из социальных сетей для образовательного учреждения // Модели, системы, сети в экономике, технике, природе и обществе. 2021. № 1. С. 128–136. doi: 10.21685/2227-8486-2021-1-11
  9. Сердечный А. Л. и др. Картографический подход исследования процессов распространения деструктивного контента в сообществах единой тематики социальной сети «Вконтакте» // Информация и безопасность. 2020. Т. 23. №. 2. С. 203–214.
  10. Биков Д. И. Способы обработки запросов для чат-бота при помощи инструментов VK API // Приоритетные направления инновационной деятельности в промышленности. Часть 2. Казань: ООО «Конверт», 2020. С. 35–36.
  11. Козлов А. А., Батищев А. В. Телеграм-бот как простой и удобный способ получения информации //Территория науки. 2017. №. 5. С. 55–64.
  12. Шведов Н. Д. Создание простого Telegram бота: пошаговая инструкция //Академическая публицистика, 2023. №. 3-1. С. 7–14.
  13. Рабчевский А. Н. Обзор методов и систем генерации синтетических обучающих данных // Прикладная математика и вопросы управления, 2023. №4. С. 6–45.
  14. Абдуллах А. Л. И., Cоловьева Е. Б. Бинарная классификация текстов с помощью сепарабельной сверточной нейронной сети (BTC_SCNN). Программа для ЭВМ. Свидетельство № 2022613069 от 01.03.2022.
  15. Гальченко Ю. В., Нестеров С. А. Классификация текстов по тональности методами машинного обучения // Системный анализ в проектировании и управлении. 2023. Т. 26. №. 3. С. 369–378.
  16. Хайкин С. Нейронные сети: полный курс, 2-е изд./ Пер с англ. – М.: ООО «И.Д. Вильямс», 2016.
  17. Журавлёв Д.В., Смолин В.С. Нейросетевая революция искусственного интеллекта и варианты её развития// Проектирование будущего. Проблемы цифровой реальности. М.: ИПМ им. М.В. Келдыша, 2023. С. 223-244
  18. Куликов А. А., Маилян Э. К. Сравнение архитектур рекуррентных нейронных сетей в задаче бинарной классификации текстов // Инновационное развитие техники и технологий в промышленности (ИНТЕКС-2021). М: РГУ им. А. Н. Косыгина, 2021. Часть 3. С. 223–226.
  19. Леготин Д. Л., Зрыбная Е.А. Реализация рекуррентной искусственной нейронной сети для классификации текстов // Актуальные проблемы преподавания информационных и естественно-научных дисциплин. Кострома. КГУ, 2019. С. 197–202.
  20. Батура Т. В. Методы автоматической классификации текстов // Программные продукты и системы. 2017. Т. 30. №. 1. С. 85–89.
  21. Алексеева В. А. Использование методов интеллектуального анализа в задачах бинарной классификации // Известия Самарского научного центра Российской академии наук. 2014. Т. 16. №. 6-2. С. 354–356.

Supplementary files

Supplementary Files
Action
1. JATS XML

Согласие на обработку персональных данных с помощью сервиса «Яндекс.Метрика»

1. Я (далее – «Пользователь» или «Субъект персональных данных»), осуществляя использование сайта https://journals.rcsi.science/ (далее – «Сайт»), подтверждая свою полную дееспособность даю согласие на обработку персональных данных с использованием средств автоматизации Оператору - федеральному государственному бюджетному учреждению «Российский центр научной информации» (РЦНИ), далее – «Оператор», расположенному по адресу: 119991, г. Москва, Ленинский просп., д.32А, со следующими условиями.

2. Категории обрабатываемых данных: файлы «cookies» (куки-файлы). Файлы «cookie» – это небольшой текстовый файл, который веб-сервер может хранить в браузере Пользователя. Данные файлы веб-сервер загружает на устройство Пользователя при посещении им Сайта. При каждом следующем посещении Пользователем Сайта «cookie» файлы отправляются на Сайт Оператора. Данные файлы позволяют Сайту распознавать устройство Пользователя. Содержимое такого файла может как относиться, так и не относиться к персональным данным, в зависимости от того, содержит ли такой файл персональные данные или содержит обезличенные технические данные.

3. Цель обработки персональных данных: анализ пользовательской активности с помощью сервиса «Яндекс.Метрика».

4. Категории субъектов персональных данных: все Пользователи Сайта, которые дали согласие на обработку файлов «cookie».

5. Способы обработки: сбор, запись, систематизация, накопление, хранение, уточнение (обновление, изменение), извлечение, использование, передача (доступ, предоставление), блокирование, удаление, уничтожение персональных данных.

6. Срок обработки и хранения: до получения от Субъекта персональных данных требования о прекращении обработки/отзыва согласия.

7. Способ отзыва: заявление об отзыве в письменном виде путём его направления на адрес электронной почты Оператора: info@rcsi.science или путем письменного обращения по юридическому адресу: 119991, г. Москва, Ленинский просп., д.32А

8. Субъект персональных данных вправе запретить своему оборудованию прием этих данных или ограничить прием этих данных. При отказе от получения таких данных или при ограничении приема данных некоторые функции Сайта могут работать некорректно. Субъект персональных данных обязуется сам настроить свое оборудование таким способом, чтобы оно обеспечивало адекватный его желаниям режим работы и уровень защиты данных файлов «cookie», Оператор не предоставляет технологических и правовых консультаций на темы подобного характера.

9. Порядок уничтожения персональных данных при достижении цели их обработки или при наступлении иных законных оснований определяется Оператором в соответствии с законодательством Российской Федерации.

10. Я согласен/согласна квалифицировать в качестве своей простой электронной подписи под настоящим Согласием и под Политикой обработки персональных данных выполнение мною следующего действия на сайте: https://journals.rcsi.science/ нажатие мною на интерфейсе с текстом: «Сайт использует сервис «Яндекс.Метрика» (который использует файлы «cookie») на элемент с текстом «Принять и продолжить».