Бионические нейронные сети
Публикации по бионическим (феноменологическим) нейронным сетям
Бионический подход при создании комплекса моделей нейронов
Бионический подход при создании комплекса моделей нейронов
Ёлкин С.С., Елкин С.В., Клышинский Э.С.,
Институт Прикладной Математики им. Келдыша
The paper covers the problem of bionic neural network models creation. The current findings show that there is a lot of new biological information about the neural network in the brain but a great lack of their usable models. Present models are either too complicated for real-world applications or have no successful implementation.
Введение
Часто, для получения хороших решений, исследователи берут у живой природы удачные, жизнеспособные идеи, которые являются результатом длительной эволюции. Такой подход называется бионическим. Даже в тех случаях, когда невозможно точное копирование, решения и находки живой природы являются образцом, к которому стремится изобретатель и ученый. Примером отрасли науки, появившейся в результате такого копирования, может служить нейроинформатика. Однако, нейрон Макалоха и Питса, предложенный ими в середине 20-го столетия, был разработан на основе устаревших на сегодняшний момент данных и относился к передаточным нейронам спинного мозга. Модели нейронов, отвечающих за сложные функции мышления, типа пирамидального нейрона коры головного мозга человека, не были созданы ими по причине отсутствия о них на тот момент информации. И наоборот, разработка таких моделей на сегодняшний день осложнена чрезмерным обилием экспериментальных данных, неудовлетворительной классификацией, а главное, проявившейся гиперсложностью реального нейрона.
Изучение свойств нейронных сетей на основе более сложных моделей нейронов, на наш взгляд, может дать материал нейрофизиологам для сравнения и изучения реальных сетей биологических нейронов и их функционирования. Сопоставление данных о высших функциях мозга и функциях выполняемых бионическими нейронными сетями дадут, наконец, тот инструмент, который позволит навести порядок в нейрофизиологии, а в нейроинформатике появится новый вектор развития.
Метод моделирования
В течение ряда лет нами разрабатывались бионические модели нейронов на основе модели проф. В. Б. Вальцева. Эта модель нейрона имеет пять различных типов входов и один выход. Реакция нейрона на импульс, пришедший по любому из входов нейрона, зависит от типа входа, веса синапса данного входа и текущего состояния нейрона. Состояние нейрона определяется его потенциалом и порогом. Если подача на входы импульсов отсутствует, то значение текущего потенциала стремится к нулю по экспоненциальному закону. При этом значение текущего порога со временем стремится к некоторому постоянному значению, называемому порогом покоя.
Одиночный импульс, пришедший на вход нейрона типа возбуждение, повышает величину потенциала нейрона на некоторое значение, которое экспоненциально уменьшается, по мере возрастания потенциала нейрона и приближения к его верхней границе.
Сходным образом ведёт себя вход торможения. Однако его роль заключается в уменьшении потенциала на величину, которая так же экспоненциально уменьшается по мере приближения потенциала нейрона к нижней границе потенциала нейрона.
Изменение значений порога осуществляется импульсацией на входы регуляции и запрета. Импульс, поступивший на вход регуляции, уменьшает значение порога на величину, которая рассчитывается аналогично как для торможения, только с обратным знаком.
Соответственно запрет увеличивает значение порога на величину, рассчитываемую аналогично, как для торможения.
Особенным образом работает вход памяти. Аналогично возбуждению он увеличивает потенциал, но приращение потенциала теперь зависит не только от веса входа, но также от текущего состояния коэффициента обучености. Коэффициент обучености, в отличие от веса синапса, меняет своё значение динамически в процессе работы нейронной сети и может принимать значения в диапазоне от 0 до 1.
Генерация импульсов происходит, если потенциал превысил порог. Частота генерации импульсов зависит линейно от разницы значений порога и потенциала: чем больше разница, тем выше частота генерации импульсов на выходе.
На основе модели Вальцева были разработаны несколько версий программной среды для конструирования нейронных сетей. В этой среде был создан ряд сетей выполняющих различные функции, в том числе логические, арифметические, адаптивные.
Выводы
По результатам исследований принято решение об усовершенствовании модели Вальцева в сторону усложнения.
Новая модель должна включать в себя такие новые принципы как возможность изменения веса любого синапа с помощью дополнительного вида обучающих синапсов, а также фильтр на аксоне, для разделения сигналов по частоте. При таких изменениях, однако, становится ненужным вход памяти. Кроме того, в целях большего соответствия существующим биологическим нейронам решено разделить нейроны на возбуждающие и тормозящие. Это позволит при моделировании достигнуть большего сходства с сетями реальных нейронов и значительно облегчит задачу сопоставления результатов моделирования и экспериментов.
Список литературы
1. Хайкин С. Нейронные сети: полный курс.
2. Круглов В. В., Борисов В. В. Искусственные нейронные сети. Теория и практика.
3. Савельев А. В. "На пути к общей теории нейросетей. К вопросу о сложности" Нейрокомпьютеры: разработка, применение №4-5,
4. Вальцев В.Б, Лавров В.В. Целесообразное фрагметирование информации на входе в мозг // "Информационные технологии", №2, 2006, с.22-30.
5. Вальцев В.Б., Григорьев В.Р., Лавров В.В. Неоднородные сети и проблемы моделирования высших функций мозга // VII Всероссийская конференция "Нейрокомпьютеры и их применение", Москва, 2005, с.556-558.
6. Вальцев В.Б., Лавров В.В., Пух В.И. Концепции формирования нейробионических технологий // Москва. Научная сессия МИФИ, 2005, Сб. научных трудов. Т.3, Интеллектуальные системы и технологии. С.80-82.
7. Вальцев В.Б., Лавров В.В., Лаврова Н.М. Использование минимальной неоднородной нейронной сети для моделирования процесса принятия решения // Россия, Калуга. 5-й Международный симпозиум" Интеллектуальные системы",
8. Николлс Дж., Мартин Р., Валлас Б., Фукс П. От нейрона к мозгу – М.: Издательство Эдиториал УРСС, 2003.
9. Круглов В.В., Борисов В.В. Искусственные нейронные сети. Теория и практика – М.: Издательство Горячая линия-Телеком, 2002.
