Основы теории нейронных сетей

       

Статистические сети Хопфилда


Если правила изменения состояний для бинарной сети Хопфилда заданы статистически, а не детерминированно, то возникает система, имитирующая отжиг. Для ее реализации вводится вероятность изменения веса как функция от величины, на которую выход нейрона OUT превышает его порог. Пусть

Статистические сети Хопфилда

где

Статистические сети Хопфилда
— выход NET нейрона
Статистические сети Хопфилда
;
Статистические сети Хопфилда
— порог нейрона
Статистические сети Хопфилда
, и

Статистические сети Хопфилда

(отметим вероятностную функцию Больцмана в знаменателе), где

Статистические сети Хопфилда

— искусственная температура.

В стадии функционирования искусственной температуре

Статистические сети Хопфилда

приписывается большое значение, нейроны устанавливаются в начальном состоянии, определяемом входным вектором, и сеть имеет возможность искать минимум энергии в соответствии с нижеследующей процедурой:

  1. Приписать состоянию каждого нейрона с вероятностью
    Статистические сети Хопфилда

    значение единица, а с вероятностью

    Статистические сети Хопфилда
    — нуль.
  2. Постепенно уменьшать искусственную температуру и повторять шаг 1, пока не будет достигнуто равновесие.



Содержание раздела