Practical network topology in the study of online radicalisation of youth: opportunities and limitations

封面

如何引用文章

全文:

详细

The paper presents key approaches to understanding and researching radicalisation, as well as the opportunities and limitations of applying some research methods to model network topology and assess content similarity of online communities. Today, Web Mining and AI methods and technologies are often applied in research on social networks and youth participation in them. However, the question how these approaches can be effectively used to study online radicalisation remains open. The answer to this question should increase the explanatory and predictive power of computational models for detecting and predicting radicalisation in the online space. In much of the Russian research on online radicalisation, a common approach has been to reduce the task of identifying the interconnectedness of individual online communities or clusters of them to assessing the degree of similarity in terms of subscribers or linguistic markers. This approach is limited in predicting new connections between communities and justifying radicalisation pathways, but is relevant in modelling information diffusion. In this paper, the authors aim to demonstrate the possibilities and limitations of applying the tf-idf, doc2vec methods to assess the content similarity of online communities without signs of radicalisation and online communities with signs of radicalisation. This approach allowed the authors to identify communities with a significant tendency to unite (to establish direct links). The paper presents the results of the comparative study in the form of social graphs formed according to the principles of subscriber commonality, similarity of significant words, and contextual similarity based on the doc2vec model. The social graph based on doc2vec method performed better in terms of clustering of online communities as well as interpretability of the results. This is crucial for detecting and predicting radicalisation online, as it opens the prospect of exploring the nature of assortativity in the observed network.

作者简介

Yulia Zubok

FCTAS RAS

Email: uzubok@mail.ru
ORCID iD: 0000-0002-3108-2614
SPIN 代码: 2160-6341
Researcher ID: H-7357-2016
Doctor of Sociology Sciences, Professor, Deputy Director for Research, Institute of Sociology of FCTAS RAS Moscow, Russia; Head of the Center for Sociology of Youth, Institute of Socio-Political Research of FCTAS RAS of FCTAS RAS, Moscow, Russia Moscow, Russia

Anna Karpova

National Research Tomsk Polytechnic University

Email: belts@tpu.ru
ORCID iD: 0000-0001-7854-1438
Doctor of Sociology Sciences, Professor, School of Social Sciences Tomsk, Russia

Aleksei Savelev

National Research Tomsk Polytechnic University

Email: sava@tpu.ru
ORCID iD: 0000-0002-7466-6142
Candidate of Engineering Sciences, Docent, Division for Information Technology Tomsk, Russia

参考

  1. Ахременко А. С., Стукал Д. К., Петров А. П. Сеть или текст? Факторы распространения протеста в социальных медиа: теория и анализ данных // Полис. Политические исследования. 2020. № 2. С. 73–91. doi: 10.17976/jpps/2020.02.06; EDN: APZWMB.
  2. Карпова А. Ю., Кузнецов С. А. и др. Метод поиска изображений с признаками ультраправой радикализации в социальных медиа на основе нейросетевой классификации // Системы управления и информационные технологии. 2023. № 1(91). С. 59–64. doi: 10.36622/VSTU.2023.91.1.012; EDN: KGWMLC.
  3. Карпова А. Ю., Савельев А. О. Возможности и границы применения технологий Big Data для изучения онлайн-радикализации // Третьи декабрьские социально-политические чтения «Как живешь, Россия?». Вызовы пандемии, парламентские выборы и стратегическая повестка дня для общества и государства: Матер. науч.-практич. конф. М.: ФНИСЦ РАН, 2022. С. 67–78. EDN: ZXFWGV.
  4. Карпова А. Ю., Савельев А. О. и др. Ультраправая радикализация: методика автоматизированного выявления угроз методами web mining // Вестник РФФИ. Гуманитарные и общественные науки. 2020. № 5(102). С. 30–43. doi: 10.22204/2587-8956-2020-102-05-30-43; EDN: BEZTTC.
  5. Карпова А. Ю., Савельев А. О. и др. Изучение процесса онлайн-радикализации молодежи в социальных медиа (междисциплинарный подход) // Мониторинг общественного мнения: экономические и социальные перемены. 2020. № 3(157). С. 159–181. doi: 10.14515/monitoring.2020.3.1585; EDN: CXJJUW.
  6. Карпова А. Ю., Савельев А. О., Кузнецов С. А. Трансформация социальных практик ответственного отцовства в девиантные формы социальной активности // Векторы благополучия: экономика и социум. 2021. № 4(43). С. 107–118. doi: 10.18799/26584956/2021/4(43)/1130; EDN: DDROPU.
  7. Карпова А. Ю., Ширыкалов А. М. Разработка метода оценки схожести коллекций текстов с использованием их векторных представлений, полученных методом doc2vec // Молодежь и современные информационные технологии: Сб. тр. XVIII Междунар. науч.-практ. конф. Томск: ТПУ, 2021. С. 75–76. EDN SWSZVQ.
  8. Кузнецов С. А., Карпова А. Ю., Савельев А. О. Методы и технологии интеллектуализации поиска деструктивного и радикального контента в социальных медиа: анализ современного состояния // Вестник компьютерных и информационных технологий. 2023. Т. 20. № 4(226). С. 39–48. doi: 10.14489/vkit.2023.04.pp.039-048; EDN: EVCQQC.
  9. Савельев А. О., Карпова А. Ю., Кузнецов С. А. Подход к оценке взаимосвязей сообществ социальных медиа на базе тематического сходства текстового контента (на примере сообществ социально активных отцов и сообществ с признаками радикализации) // Казанский экономический вестник. 2022. № 1(57). С. 96–103. EDN: DNZYVS.
  10. Соколова Т. В., Чеповский А. М. Задача анализа профилей пользователей социальных сетей // Ситуационные центры и информационно-аналитические системы класса 4i для задач мониторинга и безопасности (SCVRT2017): Тр. Междунар. науч. конф. Москва–Протвино: ИФТИ, 2017. С. 198–201. EDN: YSHYDJ.
  11. Стукал Д. К., Ахременко А. С., Петров А. П. Аффективная политическая поляризация и язык ненависти: созданы друг для друга? // Вестник РУДН. Сер.: Политология. 2022. Т. 24. № 3. C. 480–498. doi: 10.22363/2313-1438-2022-24-3-480-498; EDN: VLTQRN.
  12. Чупров В. И., Зубок Ю. А. Молодежный экстремизм: сущность, формы проявления, тенденции. М.: Academia, 2009. 320 с. EDN: SUFKBZ.
  13. Akram M., Nasar A. Systematic Review of Radicalization through Social Media // Ege Academic Review. 2023. Vol. 23(2). P. 279–296. doi: 10.21121/eab.1166627; EDN: JFWLSR.
  14. Alvari H., Sarkar S., Shakarian P. Detection of Violent Extremists in Social Media // 2nd International Conference on Data Intelligence and Security (ICDIS). South Padre Island, TX, USA, 2019. P. 43–47. doi: 10.1109/ICDIS.2019.00014.
  15. Araque O., Iglesias C. A. An Approach for Radicalization Detection Based on Emotion Signals and Semantic Similarity // IEEE Access. 2020. Vol. 8. P. 17877–17891. doi: 10.1109/access.2020.2967219.
  16. Binder J. F., Kenyon J. Terrorism and the internet: How dangerous is online radicalization? // Frontiers in Psychology. 2022. Vol. 13. doi: 10.3389/fpsyg.2022.997390; EDN: RGSMYY.
  17. Borum R. Radicalization into Violent Extremism I: A Review of Social Science Theories // Journal of Strategic Security. 2012. Vol. 4(4). P. 7–36. doi: 10.5038/1944-0472.4.4.1.
  18. Borum R. Radicalization into Violent Extremism II: A Review of Conceptual Models and Empirical Research // Journal of Strategic Security. 2012. Vol. 4(4). P. 37–62. doi: 10.5038/1944-0472.4.4.
  19. Borum R. Rethinking radicalization // Journal of Strategic Security. 2012. Vol. 4(4). P. 1–6. URL: https://digitalcommons.usf.edu/jss/vol4/iss4/1 (дата обращения: 15.12.2023).
  20. Borum R. Understanding the terrorist mind-set // FBI Law Enforcement Bulletin. 2003. Vol. 72(7). P. 7–10.
  21. Clancy T., Addison B., Pavlov O., Saeed Kh. Contingencies of Violent Radicalization: The Terror Contagion Simulation // Systems. 2021. Vol. 9(4). Article 90. doi: 10.3390/systems9040090.
  22. Das S., Biswas A. The Ties that matter: From the perspective of Similarity Measure in Online Social Networks // ArXiv. 2022. doi: 10.48550/arXiv.2212.10960.
  23. de la Roche R. S. Why is collective violence collective? // Sociological Theory. 2001. Vol. 19(2). P. 126–144. doi: 10.1111/0735-2751.00133.
  24. Deem A. The Digital Traces of #whitegenocide and Alt-Right Affective Economies of Transgression // International Journal of Communication. 2019. Vol. 13. P. 3183–3202.
  25. Derbas N., Dusserre E. et al. Eventfully Safapp: hybrid approach to event detection for social media mining // Journal of Ambient Intelligence and Humanized Computing. 2020. Vol. 11(1). P. 87–95. doi: 10.1007/s12652-018-1078-7; EDN: VCUFZA.
  26. Ducol B. A Radical sociability: in defense of an online/offline multidimensional approach to radicalization // Social Networks, Terrorism and Counter-Terrorism: Radical and Connected / Ed by M. Bouchard. N. Y.: Routledge, 2015. P. 82–104.
  27. Expressions of Radicalization: Global Politics, Processes and Practices / Ed. by K. Steiner, A. Onnerfors. Cambridge: Palgrave Macmillan, 2018. 526 p. doi: 10.1007/978-3-319-65566-6.
  28. Ferrara E. Contagion dynamics of extremist propaganda in social networks // Information Sciences. 2017. Vol. 418–419. P. 1–12. doi: 10.1016/j.ins.2017.07.030.
  29. Floridi L. Hyperhistory and the philosophies of information policies // The Onlife Manifesto / Ed. by L. Floridi. L.: Springer, 2015. P. 51–63. doi: 10.1007/978-3-319-04093-6_12.
  30. Francisco M., Castro J. L. A fuzzy model to enhance user profiles in microblogging sites using deep relations // Fuzzy Sets and Systems. 2020. Vol. 401. P. 133–149. doi: 10.1016/j.fss.2020.05.006.
  31. Garcet S. Understanding the psychological aspects of the radicalization process: a sociocognitive approach // Forensic Sciences Research. 2021. Vol. 6(2). P. 115–123. doi: 10.1080/20961790.2020.1869883.
  32. Gezha V. N., Kozitsin I. V. The Effects of Individuals’ Opinion and Non-Opinion Characteristics on the Organization of Influence Networks in the Online Domain // Computers. 2023. Vol. 12(6). Article 116. doi: 10.3390/computers12060116.
  33. Greenberg K. J. Counter-radicalization via the internet // The Annals of the American Academy of Political and Social Science. 2016. Vol. 668(1). P. 165–179. doi: 10.1177/0002716216672635.
  34. Grover T., Mark G. Detecting Potential Warning Behaviors of Ideological Radicalization in an Alt-Right Subreddit // Proceedings of the International AAAI Conference on Web and Social Media. 2019. Vol. 13. P. 193–204. doi: 10.1609/icwsm.v13i01.3221.
  35. Hall M., Logan M. et al. Do Machines Replicate Humans? Toward a Unified Understanding of Radicalizing Content on the Open Social Web // Policy & Internet. 2020. Vol. 12. P. 109–138. doi: 10.1002/poi3.223.
  36. Hamm M., Spaaj R. Lone Wolf Terrorism in America: Using Knowledge of Radicalization Pathways to Forge Prevention Strategies. Washington DC: US Department of Justice, 2015. URL: https://www.ojp.gov/pdffiles1/nij/grants/248691.pdf (дата обращения: 15.12.2023).
  37. Horgan J. From Profiles to Pathways and Roots to Routes: Perspectives from Psychology on Radicalization into Terrorism // The Annals of the American Academy of Political and Social Science. 2008. Vol. 618(1). P. 80–94. doi: 10.1177/0002716208317539; EDN: JLEUBT.
  38. Ishfaq U., Khan H. U., Iqbal S. Identifying the influential nodes in complex social networks using centrality-based approach // Journal of King Saud University. Computer and Information Sciences. 2022. Vol. 34(10). P. 9376–9392. doi: 10.1016/j.jksuci.2022.09.016; EDN: DKHGZY.
  39. Karpova A. Yu., Kuznetsov S. A. et al. An online scan of extreme-right radicalization in social networks (the case of the Russian social network VKontakte) // Journal of Siberian Federal University. Humanities and Social Sciences. 2022. Vol. 15. № 12. P. 1738–1750. doi: 10.17516/1997-1370-0948; EDN: IGVUQA.
  40. Karpova A., Savelev A. et al. Method for detecting far-right extremist communities on social media // Social Sciences. 2022. Vol. 11. № 5. Article 200. doi: 10.3390/socsci11050200; EDN: EFNFLP.
  41. Kozitsin I. V. A general framework to link theory and empirics in opinion formation models // Scientific Reports. 2022. Vol. 12(1). Article 5543. doi: 10.1038/s41598-022-09468-3; EDN: VVQEUT.
  42. Kozitsin I. V. Opinion dynamics of online social network users: a micro-level analysis // The Journal of Mathematical Sociology. 2023. Vol. 47(1). P. 1–41. doi: 10.1080/0022250X.2021.1956917; EDN: BHVFFM.
  43. LaFree G. Lone-Offender Terrorists // Criminology and Public Policy. 2013. Vol. 12(1). P. 59–62. doi: 10.1111/1745-9133.12018.
  44. Lara-Cabrera R., Pardo A. G. et al. Measuring the Radicalisation Risk in Social Networks // IEEE Access. 2017. Vol. 5. P. 10892–10900. doi: 10.1109/access.2017.2706018; EDN: GFVFJT.
  45. Lee D.-H., Kim Y.-R. et al. Fake News Detection Using Deep Learning // Journal of Information Processing Systems. 2019. Vol. 15(5). P. 1119–1130. doi: 10.3745/JIPS.04.0142.
  46. McCauley C., Moskalenko S. Mechanisms of Political Radicalization: Pathways Toward Terrorism // Terrorism and Political Violence. 2008. Vol. 20(3). P. 415–433. doi: 10.1080/09546550802073367.
  47. Moghaddam F. M. The staircase to terrorism: A psychological exploration // American Psychologist. 2005. Vol. 60(2). P. 161–169. doi: 10.1037/0003-066X.60.2.161.
  48. Mussiraliyeva S., Bolatbek M. et al. On detecting online radicalization and extremism using natural language processing // 21st International Arab Conference on Information Technology. Giza, 2020. P. 9300086. doi: 10.1109/ACIT50332.2020.9300086; EDN JNULVZ.
  49. Neumann P. R. The trouble with radicalization // International Affairs. 2013. Vol. 89(4). P. 873–893. doi: 10.1111/1468-2346.12049.
  50. Petrov A. Countering Fake News with Contagious Inoculation and Debunking: A Mathematical Model // 2022 15th International Conference Management of large-scale system development (MLSD). Moscow, 2022. P. 1–4. doi: 10.1109/MLSD55143.2022.9933991.
  51. Petrov A., Akhremenko A., Zheglov S. Dual Identity in Repressive Contexts: An Agent-Based Model of Protest Dynamics // Social Science Computer Review. 2023. Vol. 41(6). P. 2249–2273. doi: 10.1177/08944393231159953; EDN: LPVEKT.
  52. Petrov A., Proncheva O. Modeling propaganda battle: Decision-making, homophily, and echo chambers // Communications in Computer and Information Science. 2018. Vol. 930. P. 197–209. doi: 10.1007/978-3-030-01204-5_19; EDN: WTYCBE.
  53. Radicalization and Variations of Violence. New Theoretical Approaches and Original Case Studies / Ed. by D. Beck, J. Renner-Mugono. Springer, 2023. 212 p. doi: 10.1007/978-3-031-27011-6.
  54. Renström E. A., Bäck H., Knapton H. M. Exploring a pathway to radicalization: The effects of social exclusion and rejection sensitivity // Group Processes & Intergroup Relations. 2020. Vol. 23(8). P. 1204–1229. doi: 10.1177/1368430220917215.
  55. Rowe M., Saif H. Mining Pro-ISIS Radicalisation Signals from Social Media Users // Proceedings of the Tenth International AAAI Conference on Web and Social Media (ICWSM 2016). 2016. Vol. 10(1). P. 329–338. doi: 10.1609/icwsm.v10i1.14716.
  56. Sharif W., Mumtaz S. et al. An empirical approach for extreme behavior identification through tweets using machine learning // Applied Sciences. 2019. Vol. 9(18). Article 3723. doi: 10.3390/app9183723; EDN: VKLQVT.
  57. Siebl T. Digital transformation: survive and thrive in an era of mass extinction. N. Y.: Rosetta Books, 2019. 256 p.
  58. Smith L. G., Wakeford L. et al. Detecting psychological change through mobilizing interactions and changes in extremist linguistic style // Computers in Human Behavior. 2020. Vol. 108. Article 106298. doi: 10.1016/j.chb.2020.106298.
  59. Tang L., Liu H. Community Detection and Mining in Social Media. Morgan & Claypool Publishers, 2010. 138 p. doi: 10.1007/978-3-031-01900-5.
  60. Tausch N., Bode S., Halperin E. Emotions in Violent Extremism // Handbook of the Psychology of Violent Extremism / Ed by M. Obaidi, J. Kunst. Cambridge University Press, 2024.
  61. The Routledge handbook of terrorism research / Ed. by A. Schmid. L.: Routledge, 2011. 736 p.
  62. Thompson R. Radicalization and the Use of Social Media // Journal of Strategic Security. 2011. Vol. 4. P. 167–190. doi: 10.5038/1944-0472.4.4.8.
  63. Tsapatsoulis N., Djouvas C. Opinion Mining From Social Media Short Texts: Does Collective Intelligence Beat Deep Learning? // Frontiers in Robotics and AI. 2019. Vol. 5. P. 138. doi: 10.3389/frobt.2018.00138.
  64. Valentini D., Lorusso A. M., Stephan A. Onlife Extremism: Dynamic Integration of Digital and Physical Spaces in Radicalization // Frontiers in Psychology. 2020. Vol. 11. P. 524. doi: 10.3389/fpsyg.2020.00524.
  65. Wadhwa P., Bhatia M. P. S. An approach for dynamic identification of online radicalization in social networks // Cybernetics and Systems. 2015. Vol. 46(8). P. 641–665. doi: 10.1080/01969722.2015.1058665.
  66. Whittaker J. Rethinking Online Radicalization // Perspectives on Terrorism. 2022. Vol. 16(4). P. 27–40. URL: https://www.jstor.org/stable/27158150 (дата обращения: 15.12.2023).
  67. Winter Ch., Neumann P. et al. Online extremism: research trends in internet activism, radicalization, and counter-strategies // International Journal of Conflict and Violence. 2020. Vol. 14. P. 1–20. doi: 10.4119/ijcv-3809.
  68. Wojcieszak M. Carrying online participation offline: mobilization by radical online groups and politically dissimilar offline ties // Journal of Communication. 2009. Vol. 59(3). P. 564–586. doi: 10.1111/j.1460-2466.2009.01436.x.
  69. Xu G., Meng Y. et al. Sentiment Analysis of Comment Texts Based on BiLSTM // IEEE Access. 2019. Vol. 7. P. 51522–51532. doi: 10.1109/ACCESS.2019.2909919.
  70. Zafarani R., Abbasi M. A., Liu H. Social Media Mining: An Introduction. Cambridge University Press, 2014. 332 p. doi: 10.1017/CBO9781139088510.
  71. Zareie A., Sheikhahmadi A. et al. Finding influential nodes in social networks based on neighborhood correlation coefficient // Knowledge-Based Systems. 2020. Vol. 194. Article 105580. doi: 10.1016/j.knosys.2020.105580.

补充文件

附件文件
动作
1. JATS XML
下载


Creative Commons License
此作品已接受知识共享署名 4.0国际许可协议的许可

Согласие на обработку персональных данных с помощью сервиса «Яндекс.Метрика»

1. Я (далее – «Пользователь» или «Субъект персональных данных»), осуществляя использование сайта https://journals.rcsi.science/ (далее – «Сайт»), подтверждая свою полную дееспособность даю согласие на обработку персональных данных с использованием средств автоматизации Оператору - федеральному государственному бюджетному учреждению «Российский центр научной информации» (РЦНИ), далее – «Оператор», расположенному по адресу: 119991, г. Москва, Ленинский просп., д.32А, со следующими условиями.

2. Категории обрабатываемых данных: файлы «cookies» (куки-файлы). Файлы «cookie» – это небольшой текстовый файл, который веб-сервер может хранить в браузере Пользователя. Данные файлы веб-сервер загружает на устройство Пользователя при посещении им Сайта. При каждом следующем посещении Пользователем Сайта «cookie» файлы отправляются на Сайт Оператора. Данные файлы позволяют Сайту распознавать устройство Пользователя. Содержимое такого файла может как относиться, так и не относиться к персональным данным, в зависимости от того, содержит ли такой файл персональные данные или содержит обезличенные технические данные.

3. Цель обработки персональных данных: анализ пользовательской активности с помощью сервиса «Яндекс.Метрика».

4. Категории субъектов персональных данных: все Пользователи Сайта, которые дали согласие на обработку файлов «cookie».

5. Способы обработки: сбор, запись, систематизация, накопление, хранение, уточнение (обновление, изменение), извлечение, использование, передача (доступ, предоставление), блокирование, удаление, уничтожение персональных данных.

6. Срок обработки и хранения: до получения от Субъекта персональных данных требования о прекращении обработки/отзыва согласия.

7. Способ отзыва: заявление об отзыве в письменном виде путём его направления на адрес электронной почты Оператора: info@rcsi.science или путем письменного обращения по юридическому адресу: 119991, г. Москва, Ленинский просп., д.32А

8. Субъект персональных данных вправе запретить своему оборудованию прием этих данных или ограничить прием этих данных. При отказе от получения таких данных или при ограничении приема данных некоторые функции Сайта могут работать некорректно. Субъект персональных данных обязуется сам настроить свое оборудование таким способом, чтобы оно обеспечивало адекватный его желаниям режим работы и уровень защиты данных файлов «cookie», Оператор не предоставляет технологических и правовых консультаций на темы подобного характера.

9. Порядок уничтожения персональных данных при достижении цели их обработки или при наступлении иных законных оснований определяется Оператором в соответствии с законодательством Российской Федерации.

10. Я согласен/согласна квалифицировать в качестве своей простой электронной подписи под настоящим Согласием и под Политикой обработки персональных данных выполнение мною следующего действия на сайте: https://journals.rcsi.science/ нажатие мною на интерфейсе с текстом: «Сайт использует сервис «Яндекс.Метрика» (который использует файлы «cookie») на элемент с текстом «Принять и продолжить».