Упрощенная архитектура APT
На рис. 11.2 показана упрощенная конфигурация сети APT, представленная в виде пяти функциональных модулей. Она включает два слоя нейронов — так называемые "слой сравнения" и "слой распознавания". Приемник 1, Приемник 2 и Сброс обеспечивают управляющие функции, необходимые для обучения и классификации. Перед рассмотрением вопросов функционирования сети в целом необходимо рассмотреть отдельно назначения модулей; далее обсуждаются функции каждого из них.
Рис. 11.2. Слой сравнения. Слой сравнения получает двоичный входной вектор
и первоначально пропускает его неизмененным для формирования выходного вектора
. На более поздней фазе в распознающем слое вырабатывается двоичный вектор
, модифицирующий вектор
, как описано ниже.
Каждый нейрон в слое сравнения (см. рис. 11.3) получает три двоичных входа (0 или 1): (1) компонента
входного вектора
; (2) сигнал обратной связи
— взвешенная сумма выходов распознающего слоя; (3) вход от Приемника 1 (один и тот же сигнал подается на все нейроны этого слоя).
Рис. 11.3. Чтобы получить на выходе нейрона единичное значение, как минимум два из трех его входов должны равняться единице; в противном случае его выход будет нулевым. Таким образом, реализуется правило двух третей. Первоначально выходной сигнал
Приемника 1 установлен в единицу, обеспечивая один из входов, необходимых для возбуждения нейронов, а все компоненты вектора
установлены в 0; следовательно, в этот момент вектор
идентичен двоичному входному вектору
.
Слой распознавания.
Слой распознавания осуществляет классификацию входных векторов. Каждый нейрон в слое распознавания имеет соответствующий вектор весов
. Только один нейрон с весовым вектором, наиболее соответствующим входному вектору, возбуждается; все остальные заторможены.
Как показано на рис. 11.4, нейрон в распознающем слое имеет максимальную реакцию, если вектор
, являющийся выходом слоя сравнения, соответствует набору его весов; следовательно, веса представляют запомненный образ или экземпляр для категории входных векторов.
Такие веса являются действительными числами, а не двоичными величинами. Двоичная версия этого образа также запоминается в соответствующем наборе весов слоя сравнения (рис. 11.3); этот набор состоит из весов связей, соединяющих определенные нейроны слоя распознавания, по одному весу на каждый нейрон слоя сравнения.
Рис. 11.4. В процессе функционирования каждый нейрон слоя распознавания вычисляет свертку вектора собственных весов и входного вектора
. Нейрон, веса которого наиболее близки вектору
, будет иметь самый большой выход, тем самым выигрывая соревнование и одновременно затормаживая все остальные нейроны в слое. Как показано на рис. 11.5, нейроны внутри слоя распознавания взаимно соединены в латерально-тормозящую сеть. В простейшем случае (единственном, рассмотренном в данной работе) предусматривается, что только один нейрон в слое возбуждается в каждый момент времени (т. е. только нейрон с наивысшим уровнем активации будет иметь единичный выход; все остальные нейроны будут иметь нулевой выход). Эта конкуренция реализуется введением связей с отрицательными весами
с выхода каждого нейрона
на входы остальных нейронов. Таким образом, если нейрон имеет большой выход, он тормозит все остальные нейроны в слое. Кроме того, каждый нейрон имеет связь с положительным весом со своего выхода на свой вход. Если нейрон имеет единичный выходной уровень, эта обратная связь стремится усилить и поддержать его.
Приемник 2. , выход Приемника 2, равен единице, если входной вектор
имеет хотя бы одну единичную компоненту. Более точно,
является логическим ИЛИ от компонента вектора
. Приемник 1. Как и сигнал
, выходной сигнал
Приемника 1 равен 1, если хотя бы одна компонента двоичного входного вектора
равна единице; однако, если хотя бы одна компонента вектора
равна единице,
устанавливается в нуль. Таблица, определяющая эти соотношения:
ИЛИ от компонента вектора XИЛИ от компонента вектора RG1
| 0 | 0 | 0 |
| 1 | 0 | 1 |
| 1 | 1 | 0 |
| 0 | 1 | 0 |
Сброс. Модуль сброса измеряет сходство между векторами
и
. Если они отличаются сильнее, чем требует параметр сходства, вырабатывается сигнал сброса возбужденного нейрона в слое распознавания.
В процессе функционирования модуль сброса вычисляет сходство как отношение количества единиц в векторе
к их количеству в векторе
. Если это отношение ниже значения параметра сходства, вырабатывается сигнал сброса.
Содержание раздела
