Метод Левенберга-Маркара считается одним из лучших алгоритмов нелинейной оптимизации, известных на сегодняшний день, и это один из самых известных алгоритмов обучения нейронных сетей. Он имеет два существенных ограничения.

1. Алгоритм можно применять только для относительно небольших сетей (в пределах нескольких сотен нейронов);

2. Алгоритм годится только для сетей с одним выходом.

 

Замечание. Применение алгоритма Левенберга-Маркара связано с одной особенностью. Оценивая очередной вариант сети, алгоритм отвергает его, если при этом увеличилась ошибка. Представленная программа изображает на графике ошибки рассмотренных ею вариантов сетей, при этом график обучения может оказаться очень «зазубренным». Это, однако, не означает плохой работы алгоритма, поскольку предыдущий вариант сети хранится в памяти до тех пор,

пока он не будет превзойден. Вначале создадим с помощью советчика - Intelligent Problem

Solver многослойный персептрон с тремя слоями и в промежуточном слое возьмем шесть элементов. Затем командами: File → New → Network, видоизменяем сеть, создав в промежуточном слое шесть элементов  (установив в поле Layer 2 цифру 6).

В итоге получим следующую сеть, представленную на рисунке 4.36.

Рисунок 4.36. Иллюстрация сети

Для обучения сети с помощью метода Левенберга-Маркара необходимо выполнить следующие действия:

− Statistics → Training error graph;

− Statistics → Case Errors;

− Statistics → Regression Statistics;

− Train → Multilayer Perceptron → Levenberg-Marquardt.

---

         

---

Обучение с помощью метода Левенберга-Маркара