По нейронным сетям накоплен огромный материал, способный привести в растерянность неискушенного читателя, пытающегося понять, что такое нейросети. С этой проблемой столкнулся автор данной книги при чтении курса лекций по нейроинформатике студентам технического вуза, обладающим традиционным объемом математических знаний, и несформированным формальнологическим мышлением. Помогла схемотехническая направленность их знаний в области конструирования электронных схем и программирования. Устранение излишней «математизированности» проблемы и смещение ее на уровень прагматический, оперирующий лишь с простыми логическими элементами, — одна из основных целей настоящей книги.
Как же добиться доступности изложения? Один путь уже указан: использование простых принципов схемотехники. Другой путь — в применении методов распараллеливания обработки информации, присущих такой универсальной нейронной сети, какой является мозг. Однако параллельные вычислительные процессы «обладают» теорией, несложными методами расчета и организации, известными специалистам. Представляется логичным приложение простейших методов и концепции распараллеливания к такой же параллельной системе, как нейросеть.
Подобный подход оказался плодотворным и, в частности, привел к простым и уже знакомым аудитории алгоритмам обучения нейросети, позволяющим полностью устранить взаимное влияние эталонов, по которым производится обучение.
И наконец, основной способ достижения доступности изложения состоит в строгом следовании идеям искусственного интеллекта, воспроизводящим работу мозга. Именно в этом случае нейросети обеспечивают простое и естественное решение тех проблем, о которых заявлено в названии книги.
Мозг умеет все, и, что очень важно, логика его работы весьма проста. Она использует связи «если то», «посылка следствие». Более того, это основные отношения, складывающиеся на этапе обучения в незримые таблицы. В свою очередь, основной вопрос: «На что более всего похож предъявляемый образ и что из этого следует?», в то же время является основной функцией обучения нейросети, воспроизводящей работу мозга и ассоциативное мышление. И мы уже видим, как с помощью такого принципа решаются представленные здесь задачи.
Защищая принципы искусственного интеллекта и нейросетевые технологии, спросим читателя, много ли он считает, т.е. оперирует с числами, в своей обыденной жизни? Как находит угол поворотарулевого колеса, чтобы удержать автомобиль на дороге? Как выбирает значения массы параметров, чтобы попасть мячом в баскетбольную корзину? Как вообще он передвигается по дороге, не спотыкаясь о бугорки и обходя лужицы?
Интерполируя по тем самым незримым таблицам, реализованным и развиваемым в нейронной сети нашего мозга, мы можем безбедно прожить жизнь, не ставя перед собой тяжелых творческих задач. И только взаимодействие таких таблиц, содержащихся в них отношений (в совокупности с образной памятью), позволяет строить логические цепочки, называемые умозаключениями.
Книга содержит девять разделов. В разд. 1 обсуждаются проблемы построения и применения нейронных сетей. В разд. 2 строится обученная нейросеть на основе «схемотехнического» подхода. В разд. 3 приводятся пример и формальный алгоритм обучения нейронной сети методом трассировки. В разд. 4 исследуется проблема динамического, постепенного обучения нейросети в процессе ее эксплуатации. В разд. 5 рассматривается построение нейронных сетей с обратными связями. Разд. 6 посвящен построению самообучающихся систем управления. В разд. 7 представлена нейросетевая реализация АЛГОЛпрограммы. В разд. 8 аппарат «карт Кохонена», реализуется на универсальной нейросети, позволяющей значительно увеличить число рассматриваемых факторов. Разд. 9 посвящен перспективе применения нейросетевых технологий в сфере обеспечения безопасности, в системах защиты информации, при управлении следованием поездов и др.
Книга рассчитана на любознательных, предприимчивых компьютерщиков и программистов, желающих найти область приложения своим интересам для личных успехов в Computer Art Studio в науке, экономике и бизнесе, а также в индустрии развлечений и зрелищ.
Введение
В моменты принятия сложных решений человек старается «заглянуть в себя» и постичь, каким образом он справляется с трудными и порой не решаемыми формальной логикой задачами. Естественное беспокойст...
Введение 2
Особый интерес ученых и разработчиков сложных управляющих систем к нейросетевым технологиям, как и к другим технологиям искусственного интеллекта, возник в начале 1980х годов (известный «японский...
Введение 3
Теперь обратимся к «естественному» интеллекту. Природа не создала ничего лучшего, чем человеческий мозг. Значит, мозг является и носителем базы знаний, и средством логического вывода на ее основе...
Модель мозга
Нейросеть содержит узлы — аналоги нервных клеток — нейронов (нейроподобных элементов, НПЭ) и их соединения — синапсические связи (рис.1.1). Модель нейрона во взаимодействии с другими нейронами ней...
Модель мозга 2
В соответствии с законом распределения энергии величина пропорционально значениям весов дендритов «принимающих» нейронов. (В практических моделях такое распределение энергии обычно не реализуют.)...
Модель мозга 3
Изображенный на рис. 1.3 фрагмент нейросети позволяет представить следующее: функции f бывают различны, но просты по объему вычислений. В простейшем случае f совпадает с линейной формой — указанны...
Модель мозга 4
сеть работает в двух режимах:режиме обучения и режиме распознавания (рабочем режиме). Установим случайным образом начальные значения весов дендритов всей сети. Пусть нейросеть предназначена для ра...
Модель мозга 5
Расширим функцию входного слоя, связав его не с изображением, а в общем случае с некоторыми характеристиками исходной ситуации (входного вектора), по которой необходимо принимать решение — формиро...
Устойчивость и помехозащищенность
В рассмотренном в разд. 1.1 примере относительно жесткого закрепления нейронов выходного слоя между образами принцип ассоциативности или ответ на вопрос: «На что более всего это похоже?», пока не...
Ввод и «разглядывание» эталонов и образов
Устройства ввода информации — эталонов, входных векторов, исходных ситуаций — имеют для нейросети определяющее значение. С их помощью формируются и поддерживаются возбуждения входного слоя. Однако...
Ввод и «разглядывание» эталонов и образов 2
Указанный процесс выделения и размещения в попытке инициировать распознавание сравним с концентрацией внимания и с фокусировкой: ведь зрение в каждый момент времени сконцентрировано на элементе из...
Пространство признаков
Рассмотрим подробнее процесс восприятия, например, строчной буквы а рецепторами — входным слоем нейросети. Конфигурация возбужденных рецепторов, порождая прохождение возбуждения через внутренние с...
Кора
Понятно, что примитивная оптимизация целевой функции, принимающей только два значения: «хорошо» и «плохо», может быть использована лишь на начальной стадии изучения и применения принципов нейросет...
Локализация максимального возбуждения на выходном слое
Проанализировав сказанное выше, попытаемся собрать некоторую универсальную модель нейросети с входным и выходным слоями. Картина возбуждений выходного слоя при подаче изображения на входной слой п...
Локализация максимального возбуждения на выходном слое 2
Тогда в течение очередного периода тактовой частоты на входе нейрона у) появится подавляющий сигнал а на входе нейрона (i, j+1), имеющего меньшее значение величины возбуждения, — больший подавляющ...
Локализация максимального возбуждения на выходном слое 3
несомненно, уменьшится, но в еще большей степени уменьшится значение В следующем такте «сильный» нейрон еще более «ослабит» «слабый» нейрон, который, в свою очередь, сможет еще в меньшей степени «...
Построение современной нейросетевой технологии
Построение примитивной нейросети Говоря о вещах несогласуемых, мы вспоминаем поговорку: «В огороде бузина, а в Киеве дядька». Как же связать объекты, между собой не совместимые, вызывающие усмешку...
Построение современной нейросетевой технологии 2
Рассмотрим пример, навеянный временем перестройки. Вася и Петя — друзья. Обозначим А — множество друзей: А = {А1, А2} = {Вася, Петя}. Вася и Петя создали «крышу», под которой успешно трудится ряд...
Построение современной нейросетевой технологии 3
А мы, принимая заказ на очень трудно формализуемую задачу, хотим уяснить, что нужно дяде Рамзаю, и устанавливаем: он хочет, задавая исходные данные на основе неполной или недостоверной информации...
Построение современной нейросетевой технологии 4
Проанализировав и перебрав все возможные ситуации, с учетом одинакового принимаемого решения получим систему логических высказываний — предикатов как основу формализации задачи при построении нейр...
Возбуждение входного слоя
Определим теперь возбуждение входного слоя, учитывая то, что по нейросетевым технологиям решаются сложные, чаще всего трудно формализуемые задачи. Исходная информация этих задач может быть настоль...
«схемотехнический» подход к построению нейросети «под задачу»
Реализуем подход, используемый при построении схем устройств ЭВМ и другой электронной техники. Выделим функционально полную для данного применения систему булевых функций — дизъюнкцию и конъюнкцию...
«схемотехнический» подход к построению нейросети «под задачу» 2
Такая электронная схема могла бы нам верно служить, способствуя быстрому определению необходимой реакции на сложившуюся ситуацию, если мы предусмотрели все возможные ситуации, знаем, какое решение...
«схемотехнический» подход к построению нейросети «под задачу» 3
Тогда для преодоления порога на всех входах должны быть 1; недостаток хотя бы одной 1 приведет к тому, что взвешенная сумма будет более чем на меньше указанной суммы весов. При переходе к действит...
«схемотехнический» подход к построению нейросети «под задачу» 4
Нейрон дизъюнктор реализуется, наоборот, при низком значении порога, но при высоких значениях весов. Порог выбирается так, чтобы уже при возбуждении на одном входе возникал сигнал возбуждения на в...
«схемотехнический» подход к построению нейросети «под задачу» 5
Легко проследить, что в первом такте возбудятся нейроны 1 и 6, реализующие дизъюнкцию. Величина их возбуждения равна 1. В следующем такте возбуждение нейронов 1, 6 и A1 приведет к возбуждению (с в...
«схемотехнический» подход к построению нейросети «под задачу» 6
Сдавая нейросеть «в эксплуатацию», мы установили веса всех конъюнкторов равными 0,5, а дизъюнкторов, — равными 1. Пороги конъюнкторов определяются значением = 0,4. Пороги дизъюнкторов имеют нулево...
«схемотехнический» подход к построению нейросети «под задачу» 7
Пусть при вполне определенной ситуации (все достоверности принимают значение «1») каждое решение Ri приносит прибыль . В таком случае средняя величина ожидаемой прибыли для нашей неопределенной си...
Построение нейросети «под задачу»
Мы построили нейросеть с экзотическими (с точки зрения психотерапевта) конъюнкторами и дизъюнкторами. Предположим теперь (см. рис 2.4, 2.5), что все нейроны одинаковы, реализуют одну передаточную...
Построение нейросети «под задачу» 2
Анализируя первые восемь строк таблицы, соответствующие достоверным ситуациям, видим, что по крайней мере максимум возбуждения определяется устойчиво верно....
Построение нейросети «под задачу» 3
Рассмотрим ту же неопределенную ситуацию. Она отражена в последней строке таблицы. Близка ли эта ситуация более всего ситуации, когда Петя направился к Аполлинарии, и надо принимать решение R5 ? С...
Построение нейросети «под задачу» 4
Продолжение Данная нейросеть также оказывает предпочтение решению R5, хотя порядок убывания величин возбуждения выходного слоя отличен от ранее полученного. Предпочтительность решений R2 и R3 меня...
Формализация нейросети
Тактирование работы сети, столь характерное для каждой управляющей системы, отслеживающей ее состояние в дискретные моменты времени, определяет потактовое продвижение по ней волны возбуждений от в...
Формализация нейросети 2
Нейроны образуют статические цепочки длины т, если существуют синапсические связи (впредь будем опускать слово «синапсические») вида Составляя все статические цепочки по графу G, можно выделить од...
Формализация нейросети 3
Алгоритм дополнения матрицы S транзитивными связями весьма прост. Для всех i = 1, 2,..., N:...
Формализация нейросети 4
Формируем новое значение строки i логическим сложением этой строки со строками, соответствующими не пустым элементам в ней. «Новые* непустые элементы заменяем на непустые элементы, обозначающие тр...
Формализация нейросети 5
Динамической цепочкой возбуждений будем называть статическую цепочку, составленную из нейронов, первые т\ которых обладают отличной от нуля величиной возбуждения. Динамическая цепочка возбуждений...
Модель механизма запоминания
Главный механизм запоминания, реализованный в природе, можно представить так. Импульс возбуждения, проходя через синапс, «нагревает» и уменьшает его сопротивление, увеличивая синапсический вес. В...
Модель механизма запоминания 2
Введем некую переменную выверяемую практически (а то и просто единицу), уменьшаемую или увеличиваемую при необходимости. Таким образом, нам удалось перейти от схемотехники к нейротехнологии, от то...
Применение типовых нейросетей
Справедливо желание построения универсальных моделей нейросетей в составе программного обеспечения компьютера, снабженных механизмами приспособления под задачу пользователя. Е1це более справедливо...
Применение типовых нейросетей 2
Здесь вновь прослеживается преимущество нейросети, способной элементарно учитывать наблюдаемые или интуитивно предполагаемые поправки, требующие огромных исследований и расчетов. Поступив так же с...
Применение типовых нейросетей 3
Так какую же сеть предложить дяде Рамзаю? Ведь надо и подоходчивее, и попрактичнее, но и так, чтобы не казалось уж слишком просто. Нейросеть произвольной структуры. Предположим, мы располагаем нек...
Применение типовых нейросетей 4
Однако сеть обладает специфической топологией, затрудняющей ее обучение. Сеть многослойная, что исключает связи «через слой», присутствующие, например, в сети на рис. 2.6, как результат построения...
Применение типовых нейросетей 5
Применив принципы комбинаторики и эвристики, выполним трассировку нейросети (рис. 2.12). На рисунке наглядно показано, какая нейросеть была предоставлена, насколько она «неповоротлива», скажем, по...
Применение типовых нейросетей 6
1. Мы исследовали слой за слоем, постоянно помня о цели — пять комбинаций ситуаций, каждая из которых должна возбудить один из нейронов выходного слоя. Причем решения за этими нейронами пока жестк...
Энергетика нейросети
Пытаясь проанализировать, как энергия возбужденого нейрона воздействует на связанные с ним нейроны, мы вновь и вновь приходим к выводу, что она распределяется обратно пропорционально сопротивления...
Рекомендации
Испытывая различные структуры нейросети и пытаясь произвести обучение рассматриваемой задаче, мы, в частности, много усилий затратили на одну нейросеть. Выяснилось, что 5 9 имеет место пересечение...
Рекомендации 2
Но возможен и другой, более «щедрый» путь: «тянуть» цепочки «сильных» возбуждений от нейронов входного слоя к нейронам выходного слоя, избегая пересечений. Пропагандируемая нами случайнорегулярная...
Рекомендации 3
Вместе с тем «схемотехнический» подход и последующая замена булевых функций л и v одной передаточной функцией приводят к интересной гипотезе. Оптимальное число слоев нейросети или максимальная дли...
Нейросетевые технологии и нейрокомпьютеры
Итак, располагая знаниями о данных на входе управляющей системы и реакциях на каждую ситуацию, получаем таблицу. В одном столбце, так называемом запросном поле, — векторситуация, в другом, ответно...
Нейросетевые технологии и нейрокомпьютеры 2
При программной реализации нейросети перечисленные требования соответствуют SPMD технологии («одна программа — много потоков данных»), привлекательность которой обоснована для многих приложений па...
Трассировка нейросети
Выберем нейросеть, отражающую все особенности, необходимые для построения алгоритма трассировки, и возьмем тот же пример, который выглядит теперь следующим образом: Задавая обобщенный эталон на вх...
Трассировка нейросети
Пусть выбрана нейросеть (рис. 3.1), где первоначально заданные связи обозначены тонкими стрелками. Строим соответствующую матрицу следования S и в ней транзитивные связи (рис. 3.2). Проверяем, все...
Трассировка нейросети 2
Введем непосредственные синапсические связи В1 Вых5 и В3 Вых5, что отмечено на рис. 3.1 жирной стрелкой, а на рис. 3.2 — весами элемента матрицы....
Трассировка нейросети 3
Сформируем (см. подразд. 2.5) статический путь возбуждения [В1,А1, С1, СЗ, С4, С5] Вых\ и отобразим матрицей А\, С\, С2, СЗ, С4, С5 Вых\\ (рис. 3.3, а). Имитируя прокладываемые пути возбуждений, п...
Трассировка нейросети 4
Рис. 3.3. Матрица следования при обучении первому эталону: а — общий вид; б — первый шаг преобразования матрицы следования; в — после исключения нейронов В1,А1, и 6; г — после исключения «невозбуж...
Трассировка нейросети 5
Вновь выделим столбцы, соответствующие «возбужденным» входам матрицы, т. е. нейронам В\, А\, 6. Находим строку в выделенной совокупности столбцов с максимальным числом нулей. Строка соответствует...
Трассировка нейросети 6
Составим обобщенный эталон ситуации {А\, В2, 53, С\, С2, СЗ}, требующий решения R2. Свяжем это решение с нейроном Вых2. [В2, В3, А1, C1, С2, СЗ Вых2] По сети, представленной на рис. 3.4, или по ма...
Трассировка нейросети 7
На нейроне 6 ранее суммировалось возбуждение пяти нейронов: С1,С2, СЗ, С4, С5. Таким образом, и соответствующая строка матрицы S содержит пять единиц = 5, а соответствующая строка матрицы содержит...
Трассировка нейросети 8
Изменим в ней все нули на единицы, положим = 4. Присвоим нейрону 4 признак «возбужден», отразим внесенные изменения весов в матрице S. Исключим из матрицы строки и столбцы, соответствующие нейрона...
Трассировка нейросети 9
Обучим сеть ситуации, требующей решения R3. Пусть этому решению соответствует нейрон ВыхЗ. Матрица ВЗ, А1, С4, С5 ВыхЗ] представлена на рис. 3.8, а. Исключим из матрицы те нейроны, для которых зна...
Трассировка нейросети 10
Строка представляет тот нейрон, который приобрел энергию возбуждения одного или нескольких нейронов, образующих входы матрицы. Эти нейроны могут быть исключены из рассмотрения. Так, нейрон 1 возбу...
Трассировка нейросети 11
Тогда найдем строку, содержащую максимальное число нулей. Первая такая строка соответствует нейрону 2. Заменим нули единицами, положим = 2, исключим нейроны B2 и A1 из рассмотрения, присвоим нейро...
Трассировка нейросети 12
Выделим столбцы, соответствующие входам. В них нет строк, содержащих единицы. Тогда найдем строку, содержащую максимальное число нулей. Такая строка соответствует нейрону 7. Заменим нули (в выделе...
Трассировка нейросети 13
Приступим к обучению следующему обобщенному эталону — решению А2 В3 С1 С2 С3 С4 С5 RA. Матрица следования [В3, А2, С1, C2, С3, C4, C5 Вых4] представлена на рис. 3.10, а. Исключим из рассмотрения т...
Трассировка нейросети 14
Присвоим всем нейронам входам признак «возбужден». Выделим столбцы, соответствующие входам, это первые семь столбцов. Найдем строку с максимальным числом единиц в этих столбцах при отсутствии един...
Трассировка нейросети 15
Для «невозбужденных» нейронов исключим в матрице строки (и столбцы), число единиц в которых меньше т. Они соответствуют нейронам 5 и 7. Повторим этот щаг до полного исключения таких нейронов исклю...
Трассировка нейросети 16
Присвоим всем входам признак «возбужден». Выделим столбцы, соответствующие «возбужденным» входам. В совокупности этих столбцов найдем строку, содержащую максимальное число единиц в этих и только э...
Трассировка нейросети 17
Выделим столбцы, соответствующие «возбужденным» входам, и в их совокупности найдем строку, содержащую наибольшее число единиц при отсутствии единиц в других столбцах. Строка соответствует нейрону...
Алгоритм трассировки нейросети
В результате решения задачи найден алгоритм трассировки нейросети. Рассмотрим его по шагам. Шаг 1. Дополняем матрицу следования S транзитивными связями по алгоритму, представленному в подразд. 2.4...
Алгоритм трассировки нейросети 2
Шаг 7. Проверяем количество строк матрицы При наличии более одной строки выполняем следующий шаг, в противном случае — шаг 3. Шаг 8. Исключаем строки (и соответствующие им столбцы) матрицы являющи...
Приведение нейросети после трассировки
Рассмотрим простейшую передаточную функцию Задавая конкретные эталоны в исследованном выше примере, будем наблюдать за изменением величины возбуждения соответствующего нейрона выходного слоя. Мы в...
Трассировка двухслойной нейросети
В подразд. 2.9 указывалось, что любой предикат алгебры логики может быть записан в виде дизъюнктивной нормальной формы как дизъюнкция конъюнкций значений предиката и утверждений, принимающих значе...
Трассировка двухслойной нейросети 2
Однако в такой сети первоначально может быть недостаточно заданных связей, поэтому целесообразно дополнить сеть необходимыми связями. Ведь из сказанного выше следует, что могут понадобиться связи...
Трассировка двухслойной нейросети 3
На рис. 3.14 показана трассировка двухслойной сети, реализующей систему предикатов (3.2). Связи между слоями первоначально заданы по принципу «каждый с каждым». Выделены связи с весами, равными ед...
Стратегии обучения и самообучения
На самом деле обучение не бывает внезапным, как мы это представили выше, рассматривая сразу обобщенные эталоны. Можно учить по «чистым» эталонам, объединив их в обобщенные, но реально используются...
Стратегии обучения и самообучения 2
Рассмотрим проблему динамического включения новых частных эталонов в состав обобщенного на фоне уже произведенного частичного обучения нейросети. Пусть предъявление эталонов А1B1C2 и А1В1С4 (обобщ...
Стратегии обучения и самообучения 3
Пусть в процессе эксплуатации обученной сети выяснилось, что ситуации (эталоны) А1В1С1 и А1В1СЗ в дополнение к ранее предусмотренным не только возможны, но требуют того же решения R1. Это означает...
Стратегии обучения и самообучения 4
Нельзя, однако, допускать слияния, влияния строящейся трассы на пути возбуждения, ведущие к другим нейронам выходного слоя, что происходит при повторном использовании нейронов. Ведь слияние двух п...
Стратегии обучения и самообучения 5
Отметим, что наше решение основано на эвристике, и место появления новых возбужденных связей может быть оспорено. Например, могли быть построены связи 2, СЗ 9, или Вых1, СЗ 9, или 9, СЗ Вых1, и т....
Не задавайте глупых вопросов!
Мы учим сеть по обобщенным эталонам, несомненно, опираясь на здравомыслие пользователя. Так, применяя обобщенный эталон А1В2ВЗС1С2СЗ, мы предполагаем возникновение логичных вопросов типа «Какое ре...
Познание нового основа самообучения
Мы научили сеть множеству эталонов — вплоть до сформированных в обобщенные. Теперь, подавая на вход даже искаженные образы, можно ответить на вопрос «На какой эталон в большей мере он похож?» С по...
Познание нового основа самообучения 2
Например, диалог в процессе медицинской диагностики формируется, несомненно, на основе отработанной стратегии «допроса». Предполагается, что вопросы структурированы и даже соблюдают порядок следов...
Нейронные сети с обратными связями
В рассказе Письмо к ученому соседу» А.П. Чехов от лица своего героя пишет: «...если бы человек, властитель мира, умнейшее из дыхательных существ, происходил от глупой и невежественной обезьяны, то...
Нейронные сети с обратными связями 2
Ранее мы отличали нейроны рецепторы входного слоя от других нейронов. Рецепторы возбуждались только извне. Теперь мы видим, что это такие же нейроны, как и все другие, просто некоторые их дендриты...
Как же вводить обратные связи?
Рассмотрим непрерывную, динамически контролируемую работу уже обученной сети в реальном времени. Пусть дядя Рамзай своими собственными глазами видел Васю, беседующего с Оксаной близ ее палатки. И...
Как же вводить обратные связи? 2
Приведем конкретные рекомендации. 1. Детализация, дифференциация эталонных ситуаций, по которым принимается не только прямое решение Ri, но и обратное, корректирующее характер использования исходн...
Как же вводить обратные связи? 3
Заметно резкое возрастание числа нейронов выходного слоя....
Как же вводить обратные связи? 4
Что ж, нас теперь интересуют не просто выводы, но и то, каким путем каждый из них получен. Это еще раз свидетельствует о том, что не всегда целесообразно использовать обобщенные эталоны, объединяя...
Нейросетевые самообучающиеся системы управления
Известной основой аппаратной поддержки самообучающейся системы управления является ассоциативная вычислительная система (ВС). Главное отличие ассоциативной ВС от обычной системы последовательной о...
Нейросетевые самообучающиеся системы 2
Пусть мы пользуемся значениями функции у =f(x). Можно запрограммировать ее вычисление на персональном компьютере, и, при необходимости задавая значение х, запускать программу, получая значение у....
Нейросетевые самообучающиеся системы 3
Пусть исходная ситуация характеризуется вектором X — ..., ..., По значению X, т.е. по его компонентам, принимается решение Y, также представляющее собой вектор Y= {y1, ..., yп}. Компоненты векторо...
Нейросетевые самообучающиеся системы 4
Пусть для входной ситуации X необходимо найти решение Y. В АП находятся два вектора и минимально отличающиеся по всем координатам от вектора X. Для этих векторов известны векторы решения и соответ...
Нейросетевые самообучающиеся системы 5
Если точность Y достаточна, принципиально возможно дополнение АП новой строкой X— Y, т.е. информацией о новом опыте. Впрочем, динамика развития и уточнения АП, как базы знаний, представляется иной...
Нейросетевое воплощение
Мы уже построили нейросеть для важной задачи принятия решений и вручили ее заказчику — дяде Рамзаю. Теперь еще раз тщательно проследим за применением принципа динамического совмещения обучения сис...
Нейросетевое воплощение 2
Как указано выше, при обучении положим эту достоверность равной единице, а в процессе распознавания она может быть какой угодно, даже не удовлетворяющей свойству полноты событий. После обучения с...
Нейросетевое воплощение 3
Подставляем данное решение в модель и устанавливаем, удовлетворяет ли нас точность. Если удовлетворяет, делаем положительный вывод об обученности нейросети и продолжаем испытание по другим исходны...
Нейросетевое воплощение 4
Такая аппроксимация выполняется и в более явном виде, ибо каждая решения Y = отдельно в результате предварительной трассировки (рис. 6.4). Следовательно, сеть строится и обучается так, чтобы задан...
Логическое программирование нейросети
Следуя различными путями дедуктивного и индуктивного мышления, осуществляя различные парадигмы обучения, человек стремился автоматизировать логику мышления. Продуктом этой деятельности явились так...
Логическое программирование нейросети 2
Процедура мужчина: мужчина (иван) мужнина (василий) мужчина (петр) мужчина (федор) мужчина (юрий) Процедура «женщина»: женщина (марья) женщина (ирина) женщина (ольга) женщина (елена) Процедура род...
Логическое программирование нейросети 3
Процедура «мать*: женщина (X), родитель (X, Y) Процедура «отец*: отец (X, Y): мужчина(Х), родитель (X, Y) Процедура брат: брат (X,Y): мужчина (X), родитель (Р, X), родитель (Р, Y), XOY Процедура «...
Логическое программирование нейросети 4
Изложим последовательность действий. Находим первый (и единственный) предикат цели дядя (X, Y). Заменяем найденный предикат правой частью процедуры с этим именем, записанной в БЗ. Получим трансфор...
Логическое программирование нейросети 5
Трансформируем цель: .иван василий, родитель (василий, Y) (василий, Y). Вновь входим в процедуру родитель, но не находим клоза, в котором василий указан как чейлибо родитель, т.е. вновь унификация...
Нейросеть для задачи логического вывода
Рассмотрим предварительно один аспект обучения нейросети методом трассировки. Обобщив подход, изложенный в разд. 2, на логику передаточных функций, мы заявили, что нашли способ построения уже обуч...
Нейросеть для задачи логического вывода 2
Порог h подбирается экспериментально, в данном случае целесообразно положить h = 0,4. Мы видим, что сеть отображает только факты, а где же правила? Они использованы и забыты? И да, и нет. Вот тут...
Нейросеть для задачи логического вывода 3
Мужчина Иван Мужчина Василий Мужчина Петр Мужчина Федор Мужчина Юрий Женщина Марья Женщина Ирина Женщина Ольга Женщина Елена Марья родитель Ивана Иван родитель Елены Марья родитель Василия Федор р...
Нейросеть для задачи логического вывода 4
Мужчина Иван Мужчина Василий Мужчина Петр Мужчина Федор Мужчина Юрий Женщина Марья Женщина Ирина Женщина Ольга Женщина Елена Марья родитель Ивана Иван родитель Елены Марья родитель Василия Федор р...
Табличный метод основа искусственного интеллекта
В общем то, принципы мозговой деятельности известны и активно используются. Мы применяем незримые таблицы в нашей памяти, принудительно и вольно заполняемые за партой, за рулем, с министерским пор...
Табличный метод 2
Природа реализует самые простые принципы, утверждая, что «гениальное просто». Сложное обусловлено количеством и структурированием простого. Механизмы логического вывода, реализованные мозгом челов...
Мониторинг банковской системы
Приводится пример блистательного применения самоорганизующихся карт Кохонена (SOM — SelfOrganizing Map) для исследования банковской системы России в 1999 — 2000 гг. В основе мониторинга лежит рейт...
Мониторинг банковской системы 2
Можно расширить систему показателей: объем инвестиций в эпоху бурно развивающейся экономики; объем прибыли; прошлый рейтинг и значение миграции; отчисления в фонд поддержки науки и образования; на...
Мониторинг банковской системы 3
При построении входного слоя необходимо учитывать не только текущие показатели, но и динамику изменения рейтинга за прошлые периоды времени. Выходной слой должен отражать не только рейтинг, но и э...
Мониторинг банковской системы 4
Тем не менее интенсивная закупка мыла, спичек и соли необходимое, но не такое уж достаточное условие наступления войны. Оно может свидетельствовать, например, о бурном возрождении туризма в район...
Мониторинг банковской системы 5
В «окне прокрутки» указаны показатели и их оценочные значения в диапазоне для соответствующих рецепторов. Это вероятностные значения, основанные на достоверности, интуиции, экспертных оценках. Оце...
Мониторинг банковской системы 6
Обучение нейросети. Для обучения нейросети на основе экспертных оценок следует задать диапазоны допустимых параметров, позволяющие считать банк идеально преуспевающим, имеющим максимальный рейтинг...
Мониторинг банковской системы 7
Для проведения подобной работы экспертами предварительно формируется таблица (табл. 8.1). Нейронам, отображающим банки, на экране соответствуют величины их возбуждения — рейтинги. Методика монитор...
Мониторинг банковской системы 8
Достаточно только воспользоваться опцией «Дополнить», в результате выполнения которой инициируется диалог компьютера с пользователем: Вы хотите изменить рейтинг? — Да. Новое значение рейтинга? — ....
Примеры применения нейросетевых технологий
Построение обученной нейросети. Рассмотрим увлекательную детскую игру «железнодорожная рулетка», основанную на известной задаче о встрече. Помните: «Из пунктов А и В двигаются навстречу друг другу...
Примеры применения 2
Представим себе все варианты будущего поведения нашей системы принятия решений для ее обучения. Графическая структура логического функционирования создаваемой системы приведена на рис. 9.2....
Примеры применения 3
1. Скорость кукуевского паровоза — 60 км/ч (событие AY). Скорость пырловского паровоза — 60 км/ч (событие В\). Одновременное выполнение этих событий обозначим А1B1. Тогда точка встречи находится к...
Примеры применения 4
Следует учесть, что функция заменяет отрицательную величину нулем, т.е. Положим А = 1 и рассчитаем величины возбуждения нейронов выходного слоя R\ — R4 для ситуации А\ В2: Таким образом, при точно...
Примеры применения 5
Считаем: Мы видим, что максимальной величины возбуждения достиг нейрон R1, определивший главное решение. Но мы вправе учесть и решение R2 с меньшим приоритетом, дав линейному с флажком дополнитель...
Примеры применения 6
А что если объединить решения R1 и R4, отличающиеся только скоростью передвижения линейных? Следуя рассмотренному выше принципу, мы получили бы сеть на рис. 9.3. Легко видеть, что максимальное воз...
Примеры применения 7
В данном случае происходит коллизия при замене операций конъюнкции л и дизъюнкции v одной операцией . Ведь логический предикат возбуждения решения R1 имеет вид Благодаря этому справедлива гипотеза...
Примеры применения 8
Нейрон в данном случае только выполняет передаточную функцию, один из видов которой и был рассмотрен. Более полная модель нейрона заключается в следующем. Нейрон имеет несколько входов — дендритов...
Примеры применения 9
Продемонстрируем алгоритм трассировки, введя упрощения по сравнению с рассмотренным в разд. 3. Компьютерная обработка нейросети значительно облегчается, если сеть представлена матрицей следования...
Примеры применения 10
Присвоим нейронам, соответствующим нулевым строкам — входам матрицы признак «возбужден». Выделим столбцы, соответствующие этим же входам. В совокупности этих столбцов найдем первую строку, содержа...
З — для трассировки четвертого решения примеры применения 11
Исключаем из матрицы строки и столбцы, соответствующие входам без признака «возбужден». Эти строки соответствуют нейронам 2 и 3. Вид полученной матрицы представлен на рис. 9.6, г. Повторяем описан...
Примеры применения 12
Обученная сеть, где выделены связи с единичными весами, окончательно представлена на рис. 9.7. Лишние проводочки можно перекусить. Вычислим с помощью нашей передаточной функции величины возбуждени...
Примеры применения 13
Приведем еще одну передаточную функцию, определяющую величину V возбуждения нейрона: Рассчитайте и убедитесь, что, например, для А = 1 сеть правильно распознает все эталонные ситуации, обеспечивая...
Служба безопасности
Охрана покоя семьи, противодействие взломщикам грабителям актуальная задача нашего бурного времени. Мы справедливо предполагаем развитие рынка средств автоматического распознавания «свой — чужой»...
Парк фантасмагорий
Представим себе парк развлечений, в который заходит наша группа под руководством гида и, желая отдохнуть, устремляется в тенисто прохладный уголок с причудливым ландшафтом. И вдруг изза трепещущих...
Компьютерный человечек компи
Известно, какое значение компьютерным играм придает самый богатый человек планеты Б. Гейтс. Вволю наигравшись в холодную войну, мы тоже можем себе позволить подумать о радости и развлечениях, а та...
Компьютерный человечек 2
Тогда подросток стирает рисунок, и КОМПИ приходит в состояние недоуменного ожидания. И вот после некоторых размышлений художник изображает... велосипед. «Что это такое?» — спрашивает КОМПИ. «Это —...
Графический диспетчер движения поездов
Составление расписания — оптимизационная задача (оптимизируются известные технико экономические показатели) значительной трудоемкости, поэтому до сих пор диспетчер фактически работает вручную, хот...
Графический диспетчер движения поездов 2
Можно представить себе мастерство, интуицию и опыт диспетчера, действительно демонстрирующего искусство! Мы имеем дело с трудно формализуемой задачей и с необходимостью расширения интеллектуальных...
Графический диспетчер движения поездов 3
1. Сколько поездов на обслуживании: n = 1? n =2 ? n=n ? max 2. Каков момент появления поезда: i = 1? i = 2? t=t ? max 3. Каково направление движения: от пункта A ? от пункта B ? 4. Каков тип поезд...
Графический диспетчер движения поездов 4
Однако мы говорим об ассоциативном мышлении, реализуемом нейросетью, о возможности нейросети интерполировать принимаемое решение. Что означает ее ответ: «На 60 из 100 это «картинка» А, но на 30 из...
Печать рукописи
Ясно, что восстановить рукописный текст способно только ассоциативное мышление, поэтому автоматизация воспроизведения написанного является актуальной задачей. В основе распознавания по признакам л...
Печать рукописи 2
Соединение выполнено так, чтобы «захватить» букву, т.е. предусмотреть случайные, обусловленные почерком отклонения буквы от эталона и выявить ее отдельные признаки. Комбинации выявленных признаков...
Защита информации
Мы знаем, насколько важна сегодня информация. Защита информации от несанкционированного доступа — идет ли речь о перевозке грузов или о финансовых коммерческих системах — первоочередная задача, ак...
Защита информации 2
Сигнал тревоги может возникнуть не только при смене пользователя, но и в случае, когда его моральное состояние порождает серьезные отклонения от запечатленного образа. При этом могут использоватьс...
Сивилла прорицательница
В век всеобщей информатизации мы склонны ассоциативно прогнозировать: что будет с нами завтра, каковы общие тенденции и что предпринять? Формализация обработки огромных потоков оперативной информа...
Сивилла прорицательница 2
... Наша задача — не только формально, скажем, по частоте использования тех или иных слов и выражений, но и на основе ассоциативного восприятия воспроизвести динамику социально экономического, пол...
Заключение
Все чаще появляются научные работы, посвященных нейросетевым моделям, которые порождают все больше интересных, эффективных технологий для решения задач управления, планирования, распознавания обра...