Вакуленко С.А., Жихарева А.А. Практический курс по нейронным сетям

Учебное пособие. — СПб.: Университет ИТМО, 2018. — 71 с.В пособии излагается основное содержание дисциплины «Нейронные сети для систем управления автоматизированным электроприводом»; рассматриваются основные модели теории нейронных сетей: однослойный персептрон, многослойный персептрон, сети радиальных базисных функций и машины опорных векторов. Кроме того, кратко описано глубокое обучение и модели рекуррентных нейронных сетей.
В теории рекуррентных сетей изложены некоторые оригинальные результаты авторов и их применения к робототехнике. В связи с сетями РБФ также кратко описаны вейвлеты и их применения при анализе сигналов. Для каждой модели в пособии описываются процедура обучение этой модели при помощи системы MatLAB. Приведены соответствующие скрипты с подробными комментариями.
Для понимания пособия достаточны элементарные познания в линейной алгебре и анализе.Введение
Задачи теории искусственного интеллекта (иит) (artificial intellect theory)
Общие принципы функционирования нейронных сетей
Задача классификации объектов
Основные модели теории нейронных сетей
Однослойный персептрон
Геометрическая интерпретация
Моделирование логических функций однослойным персептроном
Пример минского
Алгоритм обучения однослойного персептрона
Иллюстрация работы алгоритма
Построение нейронной сети для операции конъюнкции в пакете MatLAB
Задача о моделировании черного ящика в общей постановке
Построение нейронной сети для классификации множеств точек плоскости в пакете MatLAB
Упражнения
Многослойный персептрон
Архитектура многослойного персептрона
Построение нейронной сети для операции XOR в пакете MatLAB
Упражнения
Сети радиальных базисных функций (radial basis functions network (RBF))
Построение нейронной сети для операции XOR в пакете MatLAB
Упражнения
Метод опорных векторов (support vector mashine (SVM))
Построение нейронной сети для разделения внешности и внутренности эллипса в пакете MatLAB
Упражнения
Обработка сигналов с помощью вейвлетов (wavelets)
Вейвлеты
Пространство сигналов и изображений
Ортонормальные базисы
Сдвиги и сжатия вейвлетов
Алгоритмы аппроксимации сигналов и подавления шума
Упражнения
Deep learning
Фундаментальные концепции
Краткое обсуждение структуры глубоких нейронных сетей
Обратное распространение ошибки
Трудности с глубокими моделями
Сверточные нейронные сети (CNN, convolutional neural networks)
Автоматическое распознавание речи (automatic speech recognition)
Распознавание образов (image recognition)
Понимание естественного языка
Рекуррентные сети
Применения к созданию управляющего сигнала для роботов
Заключение
Общие источники и классические работы
Специальная литература