<<
>>

Нейронные сети

Представляет интерес обсуждение возможности применения новой прикладной области математики, получившей название искусственных нейронных сетей (НС)1. В основном НС применяются для решения задач распознавании образов, при создании экспертных систем и для про-гнозирования.
С помощью НС можно, например, предсказывать показа-тели биржевого рынка, выполнять распознавание оптических или звуковых сигналов, создавать самообучающиеся системы, способные

синтезировать речь по тексту или распознавать текст, получаемый как изображение со сканера.

Основу каждой НС составляют относительно простые, чаще всего однотипные, элементы (ячейки), имитирующие работу нейронов мозга. Искусственный нейрон предельно упрощен: в нем не учитываются вли-яние клеток, заполняющих межнейронное пространство, поведение хи-мических реагентов, возможность зарождения новых нейронов и отми-рания старых, мутации и т.п. Искусственные нейроны могут только изменять свое состояние под действием внешних факторов таким образом, что это позволяет моделировать на их основе некоторые бессознательные мыслительные процессы.

При имитации работы естественного нейрона искусственным ней-роном принимаются следующие основные правила:

- каждый нейрон имеет набор входных каналов (синапсов);

- входные сигналы действуют на нейрон неравнозначно;

- степень воздействия зависит от величины синоптического веса (весового коэффициента) соответствующего входа;

- текущее состояние нейрона 8 определяется как интегрированное значение входного показателя.

Обычно оно представляется в каком-либо из следующих видов:

Выход нейрона является функцией его текущего состояния: /=/($).

Вид этой функции подбирается с учетом особенностей конкретной ре-

шаемой задачи.

В нашем случае, когда результатом должен быть ответ

на вопрос: будет или нет изменяться соответствующий счет второго по-

рядка, в качестве такой функции целесообразнее всего использовать

функцию:

Однако алгоритм обучения предполагает, что функция /($) должна

быть дифференцируема на всей области определения и число ее значе-

ний, равных 0, должно быть невелико.

Этим требованиям удовлетворя-

ет «сигмоидная» функция

НС представляет собой несколько слоев нейронов, причем выходы нейронов первого слоя являются входами для нейронов второго слоя и т.д. (см. рисунок 6.11).

В целом нейронная сеть каждому набору значений входов X = (*, )

ставит в соответствие набор значений выходов У = (у,9...9ут), которые зависят от весов синапсов всех нейронов, то есть от вектора \У = (и',и/р*), где qr=l9...,Q — номера синапсов в слое

- количество нейронов в слое, К — количество слоев в сети, и от функ-ции /($), с помощью которой рассчитываются_выходы нейронов. Таким образом, НС отрабатывает функцию: У = Ф(Л\И\/($)). Обучение и са-мообучение сети основано на том, что для тестовых ситуаций, для которых

известны значения ВХОДОВ X и соответствующие значения выходов X,, подбираются такие значения ве_сов что У, = Ф(Х,, И',.,/(.?))• При

этом для одних и тех же тестовых X, и У, существует множество допустимых значений весов IV, ^ е (7, при которых выполняется условие У1 = Ф(Х,^,,/($)). Чем больше слоев имеет нейронная сеть, тем более сложную функцию У' = Ф(Хп\У ',/($)) она может отрабатывать.

Основные этапы процесса построения нейронной сети для решения стоящей перед нами задачи могут состоять в следующем. Рассмотрим двухслойную нейронную сеть, имеющую на первом и втором слоях по п нейронов. Синоптические матрицы Я7, =(н'и,...,н>/7,) и ^ = (и^и^2) первоначально заполним случайными числами от 0 до 1.

Процесс вычисления с помощью такой сети происходит в два этапа: вначале на входы нейронов первого слоя поступают значения счетов вто-рого порядка и для каждого нейрона первого слоя вычисляется величина

п

= 2^*/ • и>. и значение на выходе нейрона /(э). После выполнения таких

/=|

расчетов для нейронов первого слоя аналогичные операции осуществ-ляются с нейронами второго слоя. Значения на выходах нейронов второго слоя указывают на то, останется ли счет второго порядка неизменным (если значение равно 1) или будет изменен (если значение равно 0).

Естественно, что сеть не сможет дать правильного ответа без пред-варительного обучения.

Обучение можно, в частности, производить по алгоритму обратного распространения. Работа этого алгоритма основана на последовательной подстройке синоптических связей. На входы сети подаются данные одного из примеров X, и выполняется расчет выходов У,. Далее делается попытка минимизации функции )\ где

V/

у(,/ = 1 — значения выходов, выданные сетью, сI,, / = 1 — зна

чения выходов, которые должны быть получены для данного контроль-ного примера.

Следует подчеркнуть, что недостатком такого способа является ог-ромное время, необходимое на подготовку системы к работе, а плюсом — гарантированное достижение глобального оптимума для задач, совпа-дающих с теми, на которых сеть обучалась.

Другой способ требует меньших затрат времени на обучение, но не гарантирует получение глобального оптимума с применением НС. Этот способ заключается в применении алгоритма эволюции. Существуют различные алгоритмы, моделирующие процесс естественной эволюции. Эволюция протекает в популяции особей (в частности нейронов), каждая из которых способна перерабатывать входные сигналы в выходные. Особи подвержены мутациям, в результате которых происходят изменения их параметров, в частности, могут изменяться весовые коэффициенты синапсов нейрона, а также параметры функции /($}. Результат

мутации проверяется путем сравнения качества работы нейронной сети на тестовых примерах. Если мутация приводит к улучшению качества — мутация сохраняется, в противном случае — отбрасывается. Критерием качества, в частности, может служить средняя величина разности квадратов отклонений фактических и требуемых значений выходов на достаточно большом множестве тестовых примеров, то есть:

Мутации, в свою очередь, могут осуществляться с помощью различных алгоритмов. Например, возникающий в результате мутации измененный вес синапса может формироваться с помощью датчика псевдослучайных чисел. Возможен также кроссинговер (скрещивание родительских генов у потомка), то есть формирование значений весов синапса некоторого нейрона как средние значения весов синапсов других нейронов, при этом выбор «родительской пары» осуществляется по некоторому алгоритму, например, случайному или построенному с применением каких-либо эвристических правил.

Возможна также инверсия (изменение порядка следования фрагментов хромосом потомка по сравнению с родительской хромосомой), иначе говоря, перестановка весовых коэффициентов.

Эффективность обучения существенно зависит от того, насколько алгоритмы эволюционного процесса соответствуют содержанию решае-мой адаптационной задачи. Можно рассматривать конечное число допу-стимых мутаций. Мутации с одним или несколькими генами считаются допустимыми, если удовлетворяют известным ограничениям. В этом случае эффективность мутации может оцениваться с помощью указанного выше критерия. Если же мутация недопустима, она отбрасывается без дальнейшего рассмотрения.

Эволюционный процесс может применяться для адаптации НС как в период ее предварительного обучения, так и в процессе работы для по-вышения качества работы сети и с учетом предыдущего опыта работы и количества тестовых примеров.

<< | >>
Источник: В.А. Деева. Управление равновесными случайными процессами на финансовых рынках. 2007

Еще по теме Нейронные сети:

  1. Обучение нейронных сетей
  2. Применение нейронных сетей для объективного автоматического формирования чарт-паттернов
  3. Нейронная сеть как инструмент оценки кредитоспособности заемщика
  4. Содержание и возможности использования нейронных сетей при оценке кредитоспособности заемщика
  5. Оптимизация процедуры загрузки (выгрузки) сети банкоматов
  6. Мониторинг операций в торгово-сервисной сети
  7. Сергей Пономаренко. Сети желаний, 2017
  8. Анализ эффективности функционирования сети банкоматов
  9. Электронные сети в экономике
  10. Анализ эффективности сети банкоматов с точки зрения управления потоками наличных средств
  11. Подготовка финансовых временных рядов для обработки сети Кохонена
  12. Использование обученной нейррнной сети для оценки кредитоспособности заемщика
  13. Расширение сети торговых точек, принимающих к оплате карты банка
  14. Меры безопасности при использовании банковской карты в сети Интернет