KOHONEN'S NEURAL NETWORK


  1. Название
  2. Авторы и история создания
  3. Модель
  4. Области применения
  5. Недостатки
  6. Преимущества
  7. Модификации
  8. Источники

1. НАЗВАНИЯ.

1.1. Основное по-английски: KOHONEN'S NEURAL NETWORK.

1.2. Основное по-русски: Сеть Кохонена.

1.3. Другие названия:

2. АВТОРЫ И ИСТОРИЯ СОЗДАНИЯ.

Предложена Кохоненом в 1984 году. К настоящему времени существует множество модификаций исходной модели с богатой математической теорией вокруг них.

3. МОДЕЛЬ.

В мозге нейроны располагаются в определенном порядке так, что некоторые внешние физические воздействия вызывают ответную реакцию нейронов из определенной области мозга. Например, в той части мозга, которая отвечает за восприятие звуковых сигналов, нейроны группируются в соответствии с частотами входного сигнала, на которых они резонируют. Хотя строение мозга в значительной степени предопределяется генетически, отдельные структуры мозга формируются в процессе самоорганизации. Алгоритм Кохонена в некоторой степени напоминает процессы, происходящие в мозге.

Алгоритм Кохонена дает возможность строить нейронную сеть для разделения векторов входных сигналов на подгруппы. Сеть состоит из M нейронов, образующих прямоугольную решетку на плоскости (рис. 1). Элементы входных сигналов подаются на входы всех нейронов сети. В процессе работы алгоритма настраиваются синаптические веса нейронов.

Входные сигналы - вектора действительных чисел - последовательно предъявляются сети. Желаемые выходные сигналы не определяются. После того, как было предъявлено достаточное число входных векторов, синаптические веса сети определяют кластеры. Кроме того, веса организуются так, что топологически близкие узлы чувствительны к похожим внешним воздействиям (входным сигналам).

Для реализации алгоритма необходимо определить меру соседства нейронов (меру близости). На рис. 2 показаны зоны топологического соседства нейронов на карте признаков в различные моменты времени. NEj(t) - множество нейронов, которые считаются соседями нейрона j в момент времени t. Зоны соседства уменьшаются с течением времени.


Рис. 1. Сеть Кохонена

Рис. 2. Зоны топологического соседства на карте признаков в различные моменты времени

Алгоритм Кохонена формирования карт признаков:

Шаг 1. Инициализация сети:

Весовым коэффициентам сети присваиваются малые случайные значения. Общее число синаптических весов - M*N (см. рис. 1). Начальная зона соседства показана на рис. 2.

Шаг 2. Предъявление сети нового входного сигнала.

Шаг 3. Вычисление расстояния до всех нейронов сети:

Расстояния dj от входного сигнала до каждого нейрона j определяется по формуле:

(1)

где

xi - i-ый элемент входного сигнала в момент времени t,

wij(t) - вес связи от i-го элемента входного сигнала к нейрону j в момент времени t.

Шаг 4. Выбор нейрона с наименьшим расстоянием:

Выбирается нейрон j*, для которого расстояние dj наименьшее.

Шаг 5. Настройка весов нейрона j* и его соседей:

Производится подстройка весов для нейрона j* и всех нейронов из его зоны соседства NE. Новые значения весов:

(2)

где

r(t) - шаг обучения, уменьшающийся с течением времени (положительное число, меньше единицы).

Шаг 6. Возвращение к шагу 2.

4. ОБЛАСТИ ПРИМЕНЕНИЯ:

кластерный анализ, распознавание образов, классификация.

5. НЕДОСТАТКИ.

Сеть может быть использована для кластерного анализа только в том случае, если заранее известно число кластеров.

6. ПРЕИМУЩЕСТВА.

В отличие от сети ART Гроссберга, сеть Кохонена способна функционировать в условиях помех, так как число классов фиксировано, веса модифицируются медленно, настройка весов заканчивается после обучения (в сети ART настройка продолжается непрерывно).

7. МОДИФИКАЦИИ.

Одна из модификаций состоит в том, что к сети Кохонена добавляется сеть MAXNET, которая определяет нейрон с наименьшим расстоянием до входного сигнала.

8. ИСТОЧНИКИ:

1. Lippman R.P. An introduction to computing with neural nets // IEEE ASSP Magazine. Apr. 1987. P.4-22.

2. Muller B., Reinhardt J. Neural networks. Springer -Verlag. 1990. 267 p.

  1. Neural Computing: NeuralWorks Professional II/Plus and NeuralWorks Explorer. NeuralWare, Inc., 1991. 355 p.