Comparative Evaluation of Clustering Methods in Working With Big Data

Мұқаба

Дәйексөз келтіру

Толық мәтін

Аннотация

The paper considers the problems of using cluster analysis methods in the tasks of processing, analyzing and storing structured and unstructured large-volume data and evaluates the feasibility of their use in various aspects of working with Big Data. The aim of the work is to identify the most preferred of the common data clustering algorithms. To do this, the task was set to conduct a comparative evaluation of the following popular algorithms: hierarchical clustering, k-means, DBSCAN, OPTICS and CURE. The algorithmic complexity of the methods is considered, the stability of algorithms to noise and emissions is analyzed, as well as the potential possibilities of visualizing their results and the scope of economic application are indicated. Conclusions are drawn about the advantages and disadvantages of each presented algorithm when used in the field of Big Data and about the most preferred methods of cluster analysis in various aspects of working with big data.

Авторлар туралы

E. Panferova

Tula State Lev Tolstoy Pedagogical University, Institute of Advanced Information Technologies

Хат алмасуға жауапты Автор.
Email: gamma15@inbox.ru
Candidate of Technical Sciences, Associate Professor 125, Lenin Ave., Tula, Russia, 300026

R. Matushin

Tula State Lev Tolstoy Pedagogical University, Institute of Advanced Information Technologies

Email: roman.matyuschin2017@yandex.ru
Master’s Student 125, Lenin Ave., Tula, Russia, 300026

Әдебиет тізімі

  1. Goodfellow, I., Bengio, Y. and Courville, A. (2016). Deep Learning, Adaptive Computa-tion and Machine Learning series, the MIT Press.
  2. Danilenko, A.N. (2018), Struktury dannykh i analiz slozhnosti algoritmov [Data structures and algorithm complexity analysis], № 1272, Samara University Press, Samara, Russia.
  3. Jain, A. K., Murty, M. N. and Flynn, P. J. (1999), "Data clustering: a review", ACM Computing Surveys, vol. 31, no. 3, pp. 264-323.
  4. ScikitLearn (2024), "K-means", available at: https://scikit-learn.org/stable/modules/clustering.
  5. html#k-means (Accessed 03 April 2024).
  6. Ester M., Kriegel Hans H.-P., Sander J. and Xu X. (1996), "A density-based algorithm for discovering clusters in large spatial databases with noise", Proceedings KDD'96, vol. 34, pp. 226-231.
  7. Feng L., Liu K., Tang F. and Meng Q. (2017), "GO-DBSCAN: Improvements of DBSCAN Algorithm Based on Grid", vol. 9, no. 3, pp. 151.
  8. Ankerst M., Breunig M. M., Kröger P. and Sander J. (1999), "OPTICS: ordering points to identify the clustering structure", Proceedings SIGMOD '99, vol. 2, pp. 49-60.
  9. Han J., Kamber M. and Pei J., (2012), "Data mining: Concepts and Techniques", Morgan Kaufmann Series, Waltham, USA.
  10. Geeksforgeeks (2021), "Basic Understanding of CURE Algorithm", available at: https: //www.geeksforgeeks.org/basicunder-standing -of-cure-algorithm/ (Accessed 03 April 2024).
  11. Guha, S., Rastogi, R. and Kyuseok, S., (1998), "CURE: An Efficient Clustering Algorithm for Large Databases", ACM SIGMOD Conference, vol. 27, no. 2, pp. 73-84.
  12. Сartetika (2023), "Clustering of spatial data – density algorithms and DBCSAN", available at: https://cartetika.ru/tpost/k05o2ndpf1-klasteri-zatsiya-prostranstvennih-dannih (Accessed 11 April 2024).
  13. Deepgram (2024), "CURE Algorithm", avai-lable at: https://deepgram.com/ai-glossary /cure-algorithm (Accessed 11 April 2024).

Қосымша файлдар

Қосымша файлдар
Әрекет
1. JATS XML


Creative Commons License
Бұл мақала лицензия бойынша қолжетімді Creative Commons Attribution 4.0 International License.

Согласие на обработку персональных данных с помощью сервиса «Яндекс.Метрика»

1. Я (далее – «Пользователь» или «Субъект персональных данных»), осуществляя использование сайта https://journals.rcsi.science/ (далее – «Сайт»), подтверждая свою полную дееспособность даю согласие на обработку персональных данных с использованием средств автоматизации Оператору - федеральному государственному бюджетному учреждению «Российский центр научной информации» (РЦНИ), далее – «Оператор», расположенному по адресу: 119991, г. Москва, Ленинский просп., д.32А, со следующими условиями.

2. Категории обрабатываемых данных: файлы «cookies» (куки-файлы). Файлы «cookie» – это небольшой текстовый файл, который веб-сервер может хранить в браузере Пользователя. Данные файлы веб-сервер загружает на устройство Пользователя при посещении им Сайта. При каждом следующем посещении Пользователем Сайта «cookie» файлы отправляются на Сайт Оператора. Данные файлы позволяют Сайту распознавать устройство Пользователя. Содержимое такого файла может как относиться, так и не относиться к персональным данным, в зависимости от того, содержит ли такой файл персональные данные или содержит обезличенные технические данные.

3. Цель обработки персональных данных: анализ пользовательской активности с помощью сервиса «Яндекс.Метрика».

4. Категории субъектов персональных данных: все Пользователи Сайта, которые дали согласие на обработку файлов «cookie».

5. Способы обработки: сбор, запись, систематизация, накопление, хранение, уточнение (обновление, изменение), извлечение, использование, передача (доступ, предоставление), блокирование, удаление, уничтожение персональных данных.

6. Срок обработки и хранения: до получения от Субъекта персональных данных требования о прекращении обработки/отзыва согласия.

7. Способ отзыва: заявление об отзыве в письменном виде путём его направления на адрес электронной почты Оператора: info@rcsi.science или путем письменного обращения по юридическому адресу: 119991, г. Москва, Ленинский просп., д.32А

8. Субъект персональных данных вправе запретить своему оборудованию прием этих данных или ограничить прием этих данных. При отказе от получения таких данных или при ограничении приема данных некоторые функции Сайта могут работать некорректно. Субъект персональных данных обязуется сам настроить свое оборудование таким способом, чтобы оно обеспечивало адекватный его желаниям режим работы и уровень защиты данных файлов «cookie», Оператор не предоставляет технологических и правовых консультаций на темы подобного характера.

9. Порядок уничтожения персональных данных при достижении цели их обработки или при наступлении иных законных оснований определяется Оператором в соответствии с законодательством Российской Федерации.

10. Я согласен/согласна квалифицировать в качестве своей простой электронной подписи под настоящим Согласием и под Политикой обработки персональных данных выполнение мною следующего действия на сайте: https://journals.rcsi.science/ нажатие мною на интерфейсе с текстом: «Сайт использует сервис «Яндекс.Метрика» (который использует файлы «cookie») на элемент с текстом «Принять и продолжить».