Искусственные нейронные сети. Обучение нейронных сетей
Исскусcтвенная нейронная се́ть - это математическая модель, а также устройства параллельных вычислений, представляющие собой систему соединённых и взаимодействующих между собой простых процессоров (искусственных нейронов). Как математическая модель исскусcтвенная нейронная сеть представляет собой частный случай методов распознавания образов или дискриминантного анализа. Такие процессоры обычно довольно просты, особенно в сравнении с процессорами, используемыми в персональных компьютерах.
Интеллектуальные системы на основе искусственных нейронных сетей позволяют с успехом решать проблемы распознавания образов, выполнения прогнозов, оптимизации, ассоциативной памяти и управления.
Обучение нейронных сетей
По организации обучения разделяют обучение нейронных сетей с учителем (supervised neural networks) и без учителя (nonsupervised).
При обучении с учителем предполагается, что есть внешняя среда, которая предоставляет обучающие примеры (значения входов и соответствующие им значения выходов) на этапе обучения или оценивает правильность функционирования нейронной сети и в соответствии со своими критериями меняет состояние нейронной сети или поощряет (наказывает) нейронную сеть, запуская тем самым механизм изменения ее состояния.
Под состоянием нейронной сети, которое может изменяться, обычно понимается:
- веса синапсов нейронов (карта весов - map) (коннекционистский подход);
- веса синапсов и пороги нейронов;
- установление новых связей между нейронами.
По способу обучения разделяют обучение по входам и по выходам. При обучении по входам обучающий пример представляет собой только вектор входных сигналов, а при обучении по выходам в него входит и вектор выходных сигналов, соответствующий входному вектору.
По способу предъявления примеров различают предъявление одиночных примеров и "страницы" примеров. В первом случае изменение состояния нейронной сети (обучение) происходит после предъявления каждого примера. Во втором - после предъявления "страницы" (множества) примеров на основе анализа сразу их всех.
По особенностям модели нейрона различают нейроны с разными нелинейными функциями:
-
пороговой;
-
экспоненциальной сигмоидой;
-
рациональной сигмоидой;
-
гиперболическим тангенсом.
- Многокритериальное пр. Качественный и количественный анализ. Пространственные модели.
- Пр в условиях неопределенности. Парадигма анализа решений. Деревья решений.
- Теория полезности. Принцип максимальной ожидаемой полезности. Методы прямого построения функции полезности
- Теория полезности. Основные свойства функции полезности. Учет отношения к риску в функции полезности.
- Теория полезности. Обоснование s- образности кривой полезности.
- Теория полезности. Определение отношения к риску на основе понятия детерминированного эквивалента.
- Определение детерминированного эквивалента. Детерминированный эквивалент для выпуклой и вогнутой функции.
- Стратегическая эквивалентность функций полезности. Линейная функция полезности.
- Логарифмическая функция полезности. Пример.
- Экспоненциальная функция полезности. Пример.
- Квадратичная функция полезности. Пример.
- Теоремы о несклонности к риску. Надбавка за риск.
- Теоремы о склонности к риску. Надбавка за риск.
- Пример функции полезности для лпр несклонного к риску.
- Пример функции полезности для лпр склонного к риску.
- Мера несклонности к риску. Обоснование. Интерпретация функции несклонности к риску.
- Связь между надбавкой за риск и функцией несклонности к риску.
- Особенности и признаки интеллектуальности информационных систем.
- Классификация иис. Системы с интеллектуальным интерфейсом
- Экспертные системы. Архитектура экспертной системы. Назначение составных частей эс.
- База знаний и механизм вывода на знаниях. Сравнительный анализ.
- 22 Этапы создания экспертной системы. Идентификация предметной области. Построение концептуальной модели. Типы моделей
- Этапы проектирования экспертной системы. Формализация базы знаний. Классификация моделей представления знаний
- Особенности знаний и их отличие от данных. Декларативные и процедурные знания. Системы, основанные на знаниях. Этапы трансформации данных и знаний. Базы данных и базы знаний
- Самообучающиеся системы. Технологии olap и Data Mining. Определение Data Mining. Основные типы закономерностей, извлекаемых с помощью Data Mining
- Индукция и дедукция. Алгоритм индуктивного обучения. Деревья решений
- Искусственные нейронные сети. Обучение нейронных сетей
- Системы, основанные на прецедентах (Case Based Reasoning)
- Прямой логический вывод в эс на основе правила Modus Ponens.
- Обратный логический вывод в эс на основе правила Modus Ponens
- Семантические сети. Основные типы отношений в семантических сетях. Правила построения семантических сетей
- Теория фреймов. Структура фрейма. Слоты и присоединенные процедуры. Механизм вывода на фреймах
- Механизм вероятностного вывода на основе правил Байеса и коэффициентов уверенности
- Основные понятия теории нечетких множеств. Операции над нечеткими множествами. Понятия нечеткой и лингвистической переменной. Основы нечеткого логического вывода.
- Понятие онтологии. Классификация онтологий и их применение.
- Редакторы онтологий, формализмы и форматы представления онтологий
- Элементы фреймовых онтологий – классы, экземпляры, слоты (типы значений, кардинальность), отношения и т.Д.
- Подход к формированию онтологий в редакторе Protégé. Последовательность создания онтологий
- Язык создания экспертных систем clips: поддерживаемые парадигмы, основные структуры данных, конструкции языка для обработки данных и осуществления вывода.