Accurate Multiclass Fire Segmentation: Approaches, Neural Networks, and Segmentation Schemes

Cover Page

Cite item

Full Text

Abstract

The paper presents a solution to the problem of multiclass flame segmentation with separation by combustion color. The mathematical problems of partial (without separation of the background class into a separate component of the search vector) and full (with separation) segmentation are formulated. A comparison of convolutional neural network methods of UNet, Deeplab and their modern variations, including the wUUNet method developed specifically for the problem under consideration, is carried out. The paper emphasizes the influence of the size of the computation matrix of segmentation computations with the original frame. Both lossy (compressing the frame to the size of the computation matrix and then decompressing it into the original frame) and lossless (applying a single-window frame sizing scheme or multi-window schemes for partitioning the frame into a grid of sub-areas) segmentation schemes are proposed. The best segmentation methods and schemes in terms of quality are selected.

About the authors

Vladimir S. Bochkov

R. E. Alekseev Nizhny Novgorod State Technical University

Author for correspondence.
Email: vladimir2612@bk.ru

Postgraduate Student

Russian Federation, Nizhny Novgorod

Lilia Yu. Kataeva

R. E. Alekseev Nizhny Novgorod State Technical University

Email: kataeval2010@mail.ru

Doctor of Physical and Mathematical Sciences, Professor

Russian Federation, Nizhny Novgorod

Dmitry A. Maslennikov

R. E. Alekseev Nizhny Novgorod State Technical University

Email: dmitrymaslennikov@mail.ru

Candidate of Physical and Mathematical Sciences, Associate Professor

Russian Federation, Nizhny Novgorod

References

  1. Ronneberger O., Fischer P., Brox T. U-net: Convolutional networks for biomedical image segmentation // 18th international conference. Medical image computing and computer-assisted intervention–MICCAI 2015. Proceedings, part III 18. Munich, Germany: Springer International Publishing, 2015. P. 234-241.
  2. Chen L. C. et al. Encoder-decoder with atrous separable convolution for semantic image segmentation // Proceedings of the European conference on computer vision (ECCV), 2018. P. 801-818.
  3. Bochkov V. S., Kataeva L. Y. WUUNET: Advanced fully convolutional neural network for multiclass fire segmentation // Symmetry. 2021. V. 13. No 1. P. 98.
  4. Saponara S., Elhanashi A., Gagliardi A. Real-time video fire/smoke detection based on CNN in antifire surveillance systems // Journal of Real-Time Image Processing. 2021. V. 18. P. 889-900.
  5. Chen X. et al. Wildland fire detection and monitoring using a drone-collected RGB/IR image dataset // IEEE Access. 2022. V. 10. P. 121301-121317.
  6. Dogan S. et al. Automated accurate fire detection system using ensemble pretrained residual network // Expert Systems with Applications. 2022. V. 203. P. 117407.
  7. Xue Z., Lin H., Wang F. A small target forest fire detection model based on YOLOv5 improvement // Forests. 2022. V. 13. No 8. P. 1332.
  8. Wang Z. et al. A novel fire detection approach based on CNN-SVM using tensorflow // 13th International Conference “Intelligent Computing Methodologies”, ICIC 2017. Proceedings, Part III 13. Liverpool, UK: Springer International Publishing, 2017. P. 682-693.
  9. Wang Z., Peng T., Lu Z. Comparative research on forest fire image segmentation algorithms based on fully convolutional neural networks // Forests. 2022. V. 13. No 7. P. 1133.
  10. Perrolas G. et al. Scalable fire and smoke segmentation from aerial images using convolutional neural networks and quad-tree search // Sensors. 2022. V. 22. No 5. P. 1701.
  11. Zhou Z. et al. Unet++: A nested u-net architecture for medical image segmentation // 4th International Workshop “Deep Learning in Medical Image Analysis and Multimodal Learning for Clinical Decision Support”, DLMIA 2018 and 8th International Workshop, ML-CDS 2018, Held in Conjunction with MICCAI 2018, Granada, Spain, Proceedings 4. Springer International Publishing, 2018. P. 3-11.
  12. Lin T. Y. et al. Feature pyramid networks for object detection // Proceedings of the IEEE conference on computer vision and pattern recognition, 2017. P. 2117-2125.
  13. Harkat H., Nascimento J., Bernardino A. Fire segmentation using a DeepLabv3+ architecture // Image and signal processing for remote sensing XXVI. SPIE, 2020. V. 11533. P. 134-145.
  14. Kingma D. P., Ba J. Adam: A method for stochastic optimization // arXiv preprint arXiv:1412.6980. 2014.
  15. Loshchilov I., Hutter F. Sgdr: Stochastic gradient descent with warm restarts // arXiv preprint arXiv:1608.03983. 2016.
  16. Ioffe S., Szegedy C. Batch normalization: Accelerating deep network training by reducing internal covariate shift // International conference on machine learning. pmlr, 2015. P. 448-456.
  17. Jaccard P. Étude comparative de la distribution florale dans une portion des Alpes et des Jura // Bulletin de la Société Vaudoise des Sciences Naturelles. 1901. V. 37. P. 547-579.
  18. Zhu Y. et al. An efficient bicubic interpolation implementation for real-time image processing using hybrid computing // Journal of Real-Time Image Processing. 2022. V. 19. No 6. P. 1211-1223.

Supplementary files

Supplementary Files
Action
1. JATS XML

Согласие на обработку персональных данных с помощью сервиса «Яндекс.Метрика»

1. Я (далее – «Пользователь» или «Субъект персональных данных»), осуществляя использование сайта https://journals.rcsi.science/ (далее – «Сайт»), подтверждая свою полную дееспособность даю согласие на обработку персональных данных с использованием средств автоматизации Оператору - федеральному государственному бюджетному учреждению «Российский центр научной информации» (РЦНИ), далее – «Оператор», расположенному по адресу: 119991, г. Москва, Ленинский просп., д.32А, со следующими условиями.

2. Категории обрабатываемых данных: файлы «cookies» (куки-файлы). Файлы «cookie» – это небольшой текстовый файл, который веб-сервер может хранить в браузере Пользователя. Данные файлы веб-сервер загружает на устройство Пользователя при посещении им Сайта. При каждом следующем посещении Пользователем Сайта «cookie» файлы отправляются на Сайт Оператора. Данные файлы позволяют Сайту распознавать устройство Пользователя. Содержимое такого файла может как относиться, так и не относиться к персональным данным, в зависимости от того, содержит ли такой файл персональные данные или содержит обезличенные технические данные.

3. Цель обработки персональных данных: анализ пользовательской активности с помощью сервиса «Яндекс.Метрика».

4. Категории субъектов персональных данных: все Пользователи Сайта, которые дали согласие на обработку файлов «cookie».

5. Способы обработки: сбор, запись, систематизация, накопление, хранение, уточнение (обновление, изменение), извлечение, использование, передача (доступ, предоставление), блокирование, удаление, уничтожение персональных данных.

6. Срок обработки и хранения: до получения от Субъекта персональных данных требования о прекращении обработки/отзыва согласия.

7. Способ отзыва: заявление об отзыве в письменном виде путём его направления на адрес электронной почты Оператора: info@rcsi.science или путем письменного обращения по юридическому адресу: 119991, г. Москва, Ленинский просп., д.32А

8. Субъект персональных данных вправе запретить своему оборудованию прием этих данных или ограничить прием этих данных. При отказе от получения таких данных или при ограничении приема данных некоторые функции Сайта могут работать некорректно. Субъект персональных данных обязуется сам настроить свое оборудование таким способом, чтобы оно обеспечивало адекватный его желаниям режим работы и уровень защиты данных файлов «cookie», Оператор не предоставляет технологических и правовых консультаций на темы подобного характера.

9. Порядок уничтожения персональных данных при достижении цели их обработки или при наступлении иных законных оснований определяется Оператором в соответствии с законодательством Российской Федерации.

10. Я согласен/согласна квалифицировать в качестве своей простой электронной подписи под настоящим Согласием и под Политикой обработки персональных данных выполнение мною следующего действия на сайте: https://journals.rcsi.science/ нажатие мною на интерфейсе с текстом: «Сайт использует сервис «Яндекс.Метрика» (который использует файлы «cookie») на элемент с текстом «Принять и продолжить».