В обычных компьютерных программах используются условия, выполнение которых определяет начало и конец различных процессов. То же самое верно и для нейронных сетей. Каждая конкретная модель сети предполагает наличие некоторого правила обновления состояния элементов сети (то есть правила комбинирования входящих сигналов и вычисление выходящего сигнала) и посылки сигнала другим элементам. При этом в одних моделях моменты обновления элементов выбираются случайным образом, в других же моделях обновление некоторых групп элементов допускается только после обновления определенных групп других элементов.
Довольно часто входящие сигналы элемента предполагается комбинировать путем суммирования их взвешенных значений. Пример этого метода суммирования показан на рисунке 5, где netj обозначает результат комбинирования ввода элемента j, xi выход элемента i, а n – число задействованных связей. Используются и другие способы комбинирования входящих сигналов, и другим часто встречающимся методом является рассмотрение квадрата разности между значением силы связи и значением передаваемого по связи сигнала с последующим суммированием таких разностей для всех входящих связей данного элемента.
0,7
netj = Σn xi *wij
i-1
netj = (0.7*-0.3)+(0.1*3.1)+(0.3*0.5) = 0.25
или в векторном представлении
-0,3
0,7 0,1 0,3 * 3,1
0,5
Рис. 6 Типичный метод суммирования сигналов, направленных
к конкретному элементу
Для всех элементов имеется правило вычисления выходного значения, которое предполагается передать другим элементам или во внешнюю среду (если речь идет о выходном элементе, представляющем конечный результат вычислений). Это правило называют функцией активности, а соответствующее выходное значение называют активностью соответствующего элемента. Активность может представляться либо некоторым значением произвольного вида, либо действительным значением из некоторого ограниченного интервала значений (например, из интервала
[0, 1] или [+1, -1]). На вход функции активности поступает значение комбинированного ввода данного элемента.
Примеры функции активности:
1. Тождественная функция
Функция активности для входных элементов может быть тождественной функцией, что означает, что значение активности (сигнал, посылаемый другим элементом) оказывается в точности равным комбинированному вводу. Входные элементы предназначены для распределения вводимых сигналов между другими элементами сети, поэтому для входных элементов обычно требуется, чтобы исходящий от элемента сигнал был таким же, как и входящий. В отличие от других элементов сети, входные элементы имеют только по одному входному значению. Например, каждый входной элемент может получать сигнал от одного соответствующего ему датчика, размещенного на фюзеляже самолета. Один этот элемент связывается со многими другими элементами сети так, что данные, полученные от одного датчика, оказываются распределенными между многими элементами сети. Поскольку входные элементы предназначены исключительно для того, чтобы распределять сигналы, получаемые из внешней среды, многие исследователи не считают входные элементы частью нейронной сети.
net активность
Рис. 7 Активность в точности равна комбинированному вводу
2. Пороговая функция
В большинстве моделей нейронных сетей используются нелинейные функции активности. Пороговая функция ограничивает активность значениями 1 или 0 в зависимости от значения комбинированного ввода в сравнении с некоторой пороговой величиной θ.
Рис 8. Пороговая функция
Чаще всего удобнее вычесть пороговое значение (называемое смещением или сдвигом) из значения комбинированного ввода и рассмотреть пороговую функцию в ее математически эквивалентной форме, показано на рис.9.
Сдвиг W0в данном случае оказывается отрицательным, а значение комбинированного ввода вычисляется по формуле
0,7
