Построение самоорганизующейся карты Кохонена (SOM) для прогнозирования типов селевых потоков

Полный текст

Введение

Селевые потоки представляют собой опасное природное явление, вызывающее разрушение инфраструктуры, экологические катастрофы и угрожающее жизни людей. В связи с увеличением частоты экстремальных погодных условий и изменением климата прогнозирование и своевременное предупреждение о селевых потоках становится важной задачей для ученых и инженеров [1]. Одним из перспективных подходов к решению этой задачи является использование методов машинного обучения, в частности самоорганизующихся карт Кохонена (Self-Organizing Maps, SOM).

Предобработка данных для определения типа селевых потоков

Изучением селевых явлений на Кавказе занимались и занимаются многие советские и российские ученые, что привело к значительному количеству научных трудов по этой тематике. Однако существующая ведомственная разрозненность издающихся научных публикаций и отсутствие единого методического центра в стране по изучению селепроявлений создают серьезные препятствия для ознакомления и использования результатов исследований в практических целях, а также при проведении новых научно-исследовательских работ.

Кадастр, из которого берутся данные для обучения и тестирования данной модели, является справочным изданием, в котором в систематизированном виде представлена обобщенная информация о пространственном распределении основных параметров и режиме селевых процессов на территории Юга европейской части России [2].

Предобработка данных является важным шагом перед построением самоорганизующихся карт Кохонена. Она помогает улучшить качество модели, обеспечивая точность и надежность кластеризации и прогнозирования. Внимание к деталям на этапе предобработки данных способно существенно повысить эффективность применения SOM для анализа и прогнозирования.

Предобработка данных играет ключевую роль в построении самоорганизующихся карт Кохонена, так как качество исходных данных напрямую влияет на результаты модели. Основные цели предобработки данных включают:

• устранение шума и выбросов;
• приведение данных к единому масштабу;
• устранение пропущенных значений;
• выделение наиболее значимых признаков (фичей).

Перед началом построения карты Кохонена важно убедиться, что данные очищены от аномалий и выбросов. Выбросы могут негативно повлиять на процесс обучения карты, приводя к неправильным результатам кластеризации.

Самоорганизующиеся карты Кохонена чувствительны к масштабу данных, так как они используют евклидовое расстояние для оценки сходства между объектами. Если признаки данных имеют разные масштабы, более крупные значения могут доминировать над другими признаками, что приведет к неверной кластеризации. Для повышения эффективности обучения карты Кохонена необходимо сосредоточиться на наиболее значимых признаках данных. Это позволит сократить время обучения и улучшить качество кластеризации.

Самоорганизующиеся карты Кохонена

Самоорганизующиеся карты Кохонена (СОМ, англ. Self-Organizing Maps, SOM) – это вид искусственных нейронных сетей, разработанных финским ученым Тейво Кохоненом в 1980-х годах. Эти карты предназначены для решения задач кластеризации и визуализации многомерных данных, что делает их полезными в различных областях, включая анализ данных, машинное обучение и биоинформатику [4]. В этой работе будут рассмотрены принципы работы самоорганизующихся карт Кохонена, их структура, алгоритмы обучения, а также примеры практического применения.

Самоорганизующиеся карты Кохонена относятся к нейросетям, использующим неконтролируемое обучение. Основная идея заключается в том, что карта преобразует входные данные многомерного пространства в выходное пространство с меньшей размерностью (обычно двумерное), сохраняя при этом топологические свойства данных, такие как близость и структура.

Карта Кохонена представляет собой двумерную сетку нейронов, каждый из которых ассоциирован с вектором весов, имеющим ту же размерность, что и входные данные. Входные данные подаются на карту, и каждый нейрон сравнивает свои веса с входным вектором. Нейрон, чьи веса наиболее близки к входному вектору, называется нейроном-победителем [5].

Процесс обучения карты Кохонена состоит из следующих этапов:

1. Инициализация. Веса каждого нейрона инициализируются случайными значениями или на основе какой-либо эвристики.
2. Выбор случайного примера. Один из входных векторов случайным образом выбирается из набора данных.
3. Определение нейрона-победителя. Для каждого нейрона вычисляется расстояние между его вектором весов и входным вектором. Нейрон, имеющий наименьшее расстояние, становится победителем.
4. Обновление весов. Веса нейрона-победителя и его соседей обновляются так, чтобы стать ближе к входному вектору. Это делается по формуле

 $W_i\left(t+1\right)=W_i\left(t\right)+\eta \left(t\right)*h_i\left(t\right)*\left(X\left(t\right)-W_i\left(t\right)\right),$

где $W_i\left(t\right)$ – вектор весов $i$-го нейрона на итерации $t$,

$\eta \left(t\right)$ – коэффициент обучения,

$h_i\left(t\right)$ – функция соседства, определяющая, насколько сильно должны обновляться веса соседних нейронов,

$X\left(t\right)$ – входной вектор на итерации $t$.

5. Повторение. Шаги 2–4 повторяются для заданного количества итераций или до тех пор, пока изменения в карте не станут минимальными.

Самоорганизующиеся карты Кохонена находят применение в различных областях, где требуются кластеризация и визуализация многомерных данных.

СОМ часто используются для задач кластеризации, так как они могут эффективно выявлять кластеры в данных без предварительных меток. В отличие от других методов кластеризации, таких как k-means, СОМ не требует заранее заданного числа кластеров.

Хотя СОМ в первую очередь используются для кластеризации и визуализации, они также могут быть применены для задач прогнозирования и обнаружения аномалий. Обученная карта может быть использована для прогнозирования поведения новых данных или для выявления данных, сильно отличающихся от обучающего набора.

К преимуществам SOM можно отнести:

• Ненадзорное обучение. СОМ не требуют меток на данных и могут самоорганизовываться на основе входных данных.
• Топологическая сохранность. Карта сохраняет пространственную структуру данных, что упрощает визуализацию и интерпретацию.
• Гибкость. СОМ могут работать с данными высокой размерности и эффективно выявлять скрытые паттерны.

Но карты Кохонена также имеют свои недостатки:

• Чувствительность к параметрам. Результаты СОМ сильно зависят от параметров, таких как размер карты, скорость обучения и функция соседства.
• Трудности в интерпретации. Хотя карта Кохонена сохраняет топологию данных, интерпретация результатов может быть сложной, особенно для неквалифицированных пользователей.
• Масштабируемость. СОМ могут быть вычислительно затратными при работе с большими наборами данных, особенно если требуется высокая разрешающая способность карты.

Самоорганизующиеся карты Кохонена представляют собой мощный инструмент для анализа, кластеризации и визуализации многомерных данных. Благодаря своей способности сохранять топологическую структуру данных они находят широкое применение в различных областях – от маркетинга до биоинформатики. Однако для достижения оптимальных результатов важно учитывать ограничения этого метода и тщательно настраивать параметры модели. В будущем, с развитием вычислительных технологий и методик обработки данных, применение СОМ будет только расширяться, что откроет новые возможности для анализа данных и машинного обучения.

Интеллектуальные методы прогнозирования селевых потоков

Селевые потоки, или оползни, представляют собой одно из самых опасных природных явлений, которое может привести к значительным разрушениям и человеческим жертвам. Прогнозирование селевых потоков является важной задачей для защиты населения и инфраструктуры, особенно в горных районах. В последние годы большое внимание уделяется разработке и применению интеллектуальных методов для прогнозирования селевых потоков. Эти методы включают машинное обучение, нейронные сети, анализ больших данных и другие современные подходы, которые позволяют эффективно оценивать риск возникновения оползней и предупреждать о возможных катастрофах [6].

Прогнозирование селевых потоков – задача сложная, так как зависит от множества факторов, среди которых:

• Геологические: тип грунта, наличие трещин и разломов.
• Геоморфологические: крутизна и структура склонов, эрозионные процессы.
• Гидрометеорологические: интенсивность и продолжительность осадков, таяние снега.
• Антропогенные: строительная деятельность, вырубка лесов.

Эти факторы взаимодействуют друг с другом, и их совокупное воздействие может приводить к возникновению оползней. Задача интеллектуальных методов — анализировать эти факторы и прогнозировать вероятность селевых потоков на основе исторических данных и текущих наблюдений.

Современные интеллектуальные методы прогнозирования селевых потоков включают широкий спектр подходов – от классических статистических моделей до современных методов машинного обучения и анализа данных.

Машинное обучение (ML) включает методы, которые позволяют моделям обучаться на данных и делать прогнозы без необходимости явного программирования правил [7]. В контексте прогнозирования селевых потоков наиболее часто используются следующие методы:

• Решающие деревья и случайные леса. Эти алгоритмы позволяют выявлять взаимосвязи между различными факторами и определять наиболее значимые переменные для прогнозирования.
• Поддерживающие векторные машины (SVM). SVM хорошо справляются с задачами классификации и могут использоваться для определения условий, при которых возникает высокий риск оползней.
• Нейронные сети и глубокое обучение. Нейронные сети могут моделировать сложные нелинейные зависимости и использоваться для прогнозирования на основе больших массивов данных, включая временные ряды и пространственные данные.

ГИС – мощный инструмент для анализа пространственных данных, который используется для моделирования и прогнозирования природных явлений, таких как селевые потоки. Интеграция ГИС и методов машинного обучения позволяет создавать детализированные карты рисков, учитывать топографические и геологические характеристики местности.

Большие данные (Big Data) играют важную роль в прогнозировании природных катастроф. Данные, полученные с различных сенсоров, спутников, метеостанций и других источников, могут использоваться для тренировки моделей прогнозирования. Методы обработки больших данных позволяют эффективно анализировать эти данные в реальном времени и выявлять закономерности, которые могут указывать на повышенный риск селевых потоков.

Гибридные модели сочетают различные интеллектуальные методы для повышения точности прогнозирования. Например, можно комбинировать методы машинного обучения с физическими моделями оползней, что позволяет учитывать как статистические закономерности, так и физические процессы, происходящие в грунте.

Интеллектуальные методы прогнозирования селевых потоков открывают новые возможности для повышения точности и своевременности прогнозов. Эти методы позволяют эффективно анализировать сложные многомерные данные и учитывать многочисленные факторы, влияющие на риск возникновения оползней. Однако успешное применение таких методов требует внимательного подхода к сбору и обработке данных, а также интеграции различных моделей для достижения наилучших результатов. В условиях глобального изменения климата и увеличения интенсивности экстремальных погодных явлений развитие и совершенствование интеллектуальных методов прогнозирования селевых потоков будет иметь критическое значение для обеспечения безопасности населения и инфраструктуры.

SOM для прогнозирования типа селевого потока

1. Определение класса SOM.

Класс SOM представляет собой самоорганизующуюся карту Кохонена.

__init__ – Инициализация объекта SOM:

m и n: Размеры сетки нейронов (в данном случае 5 x 5).

dim: Размерность входных данных, то есть количество признаков в каждом векторе данных.

n_iterations: Количество итераций для обучения.

alpha: Начальная скорость обучения.

sigma: Начальное значение для радиуса соседства, определяющего, насколько сильно изменяются веса соседних нейронов во время обучения. Если значение не указано, оно задается как половина большего измерения сетки.

weights – Инициализация весов:

Веса нейронов инициализируются случайными значениями в диапазоне от 0 до 1. Веса представляют собой трехмерный массив размером m x n x dim, где m и n – размеры сетки, а dim – количество признаков.

2. Вспомогательные функции:

_euclidean_distance(self, x, y):

Вычисляет евклидово расстояние между двумя векторами x и y.

_neighborhood_function(self, distance, iteration, total_iterations):

Вычисляет функцию соседства, определяющую, как сильно изменяются веса нейронов в зависимости от их расстояния до нейрона-победителя. Радиус соседства уменьшается с каждой итерацией.

_learning_rate(self, iteration, total_iterations):

Вычисляет скорость обучения на текущей итерации. Скорость обучения уменьшается экспоненциально с каждой итерацией.

_best_matching_unit(self, x):

Находит лучший соответствующий нейрон (BMU) на карте для входного вектора x. Это нейрон, чьи веса наиболее близки к входному вектору.

3. Основные функции:

train(self, data):

Основной метод для обучения карты.

На каждой итерации выбирается случайный вектор из данных.

Определяется BMU для этого вектора.

Обновляются веса BMU и его соседей на основе функции соседства и скорости обучения.

get_weights(self):

Возвращает текущие веса нейронов.

find_bmu(self, x):

Находит и возвращает координаты BMU на карте для заданного входного вектора x. На рисунке 1 показана визуализация классов обученной сети Кохонена.

 

Рис. 1. Визуализация классов обученной сети Кохонена

Fig. 1. Visualization of the trained Kohonen network classes

 

На рисунке 2 показана визуализация SOM и нейрона-победителя BMU.

 

Рис. 2. Визуализация SOM и нейрона-победителя BMU

Fig. 2. Visualization of SOM and BMU winner neuron

 

На рисунке 3 показан результат работы модели. Как видно из рисунка, точность предсказания модели равна 72,94 %, что является достаточно неплохим показателем для заданных данных. Данные для обучения и тестирования модели были взяты из кадастра селевой опасности Юга европейской части России. Подготовленный файл данных состоял из 385 строк и 7 столбцов. Первый столбец является меткой данных или классом, к которому относится заданный объект. В этом столбце 0, 1 или 2 соответственно трем типам селевых потоков (ГК – грязекаменный, ВК – водокаменный и их комбинация ГКВК). Остальные 6 полей данных являются числовыми данными, обозначающими генезис селя, площадь бассейна реки, средний уклон реки, длину реки, высоту источника, максимальный объем твердых отложении соответственно. Для обучения модели набор данных был разделен на обучающий (300) и тестовый (85) наборы. Размер сетки нейронов в данной работе равен 5 х 5, количество итераций при обучении – 1000, начальная скорость обучения – 0.3, начальное состояние весов случайное в диапазоне от 0 до 1.

 

Рис. 3. Результат работы модели

Fig. 3. Result of the model's work

 

Эти значения были подобраны опытным путем. При увеличении количества нейронов и количества итераций происходит переобучение сети, что приводит к тому, что на обучающей выборке модель дает хорошие результаты, но на тестовой выдает плохие. Это связано с тем, что происходит «запоминание» моделью данных, а не обучение.

По результатам работы модели также можно сделать вывод, что данные недостаточно структурированы и объем данных не является достаточным для получения более высоких результатов.

Заключение

В работе строится самоорганизующаяся карта Кохонена для прогнозирования типа селевого потока. Обучение и тестирование SOM производится с использованием данных, взятых из кадастра селевой опасности Юга европейской части России. Точность предсказания модели – 72,94 %. Для увеличения точности в дальнейшем требуется увеличение объема данных для обучения. Основными преимуществами данной модели являются достаточно быстрая скорость обучения и практически «мгновенный» прогноз после обучения. Обучение сети требуется только один раз. В дальнейшем модель может выдавать прогноз типа селевого потока, используя настроенные веса связей.

Об авторах

Руслан Альбердович Жилов

Институт прикладной математики и автоматизации – филиал Кабардино-Балкарского научного центра Российской академии наук

Автор, ответственный за переписку.
Email: zhilov91@gmail.com
ORCID iD: 0000-0002-3552-4854
SPIN-код: 9389-6188

мл. науч. сотр. отдела «Нейроинформатика и машинное обучение»

Россия, 360000, г. Нальчик, ул. Шортанова, 89 А

Список литературы

Дополнительные файлы