Терехов С.А. Лекции по теории и приложениям искусственных нейронных сетей

Сведения из высшей математики. Векторные пространства. Матрицы и линейные преобразования векторов.
Биологический нейрон и его кибернетическая модель.Метод нейробиологии.
Биологический нейрон.
Нейронные сети.
Биологическая изменчивость и обучение нейронных сетей.
Формальный нейрон.
Обучение нейрона детектированию границы "черное-белое"Персептрон Розенблатта.
Теорема об обучении персептрона.
Линейная разделимость и персептронная представляемость
Обучение нейронных сетей на примерах. Формирование обобщений (категорий) при обучении.Свойства процессов обучения в нейронных сетях.
Задача обучения нейронной сети на примерах.
Признаковое и конфигурационное (фазовое) пространство нейронной сети.
Задача обучения нейронной сети на примерах.
Классификация и категоризация.
Обучение нейронной сети с учителем, как задача многофакторной оптимизации.
Понятие о задаче оптимизации.
Постановка задачи оптимизации при обучении нейронной сетиМногослойный персептрон.
Необходимость иерархической организации нейросетевых архитектур.
Обучение методом обратного распространения ошибок.
Другие иерархические архитектуры.
Звезды Гроссберга
Принцип Winner Take All (WTA) - Победитель Забирает Все - в модели Липпмана-Хемминга.
Карта самоорганизации Кохонена.
Нейронная сеть встречного распространения.Модель Хопфилда.
Сети с обратными связями
Нейродинамика в модели Хопфилда
Правило обучения Хебба
Ассоциативность памяти и задача распознавания образов
Обобщения и применения модели Хопфилда.
Модификации правила Хебба.
Матрица Хебба с ортогонализацией образов.Отказ от симметрии синапсов.
Алгоритмы разобучения (забывания).
Двунаправленная ассоциативная память.
Детерминированная и вероятностная нейродинамика.
Применения сети Хопфилда к задачам комбинаторной оптимизации.Неокогнитрон Фукушимы.
Когнитрон: самоорганизующаяся многослойная нейросеть.
Неокогнитрон и инвариантное распознавание образов.
Теория адаптивного резонанса.
Дилемма стабильности-пластичности восприятия.
Принцип адаптивного резонанса.
Нейронная сеть АРТ-1.
Начальное состояние сети.
Фаза сравнения.
Фаза поиска.
Обучение сети АРТ.
Теоремы АРТ.
Дальнейшее развитие АРТ: архитектуры АРТ-2 и АРТ-3.
Нерешенные проблемы и недостатки АРТ-1.
Сети АРТ-2 и АРТ-3.
Черты современных архитектур.
Черты современных архитектур.
Сегодняшний день нейронауки.
Программное и аппаратное обеспечение. Нейро-ЭВМ.