Введение
В математике исследование задач на максимум и минимум началось давно, примерно 25 веков назад. Но только 300 лет назад были созданы первые общие методы решения и исследования задач на экстремум.
Интенсивное развитие вариационного исчисления привело к созданию стройной теории для определенного класса задач. Однако потребности практической жизни, особенно в области экономики и техники, в последнее время выдвинули такие новые задачи, которые в большинстве случаев не удавалось решать старыми методами. Необходимость решения новых задач (в частности, космос, авиация и т.д.) привела к созданию новой теории, получившей название теории оптимального управления.
Основы теории оптимального управления были заложены академиком Л.С. Понтрягиным и группой его сотрудников в 50-60-е годы. В 1961 году вышла в свет первая монография, в которой излагались математические основы неклассического вариационного исчисления. Основным элементом в задаче Понтрягина выступает ограничение на управляющие воздействия. Кроме того, Л.С. Понтрягин указал новую форму необходимых условий экстремума.
Аппарат теории управления стал привычным и необходимым для теоретиков и практиков. Достаточно перечислить некоторые монографии, чтобы оценить практическое применение теории оптимального управления: "Ядерные реакторы и принцип максимума Понтрягина", "Оптимальное управление нагревом металла", "Оптимальное управление электромеханическими устройствами" и т.д.
Параллельно с принципом максимума Понтрягина происходило дальнейшее развитие классического вариационного исчисления для нового класса задач с ограничением на управление и фазовые координаты.
В 1963 году А.А. Милютин, используя идеи и методы функционального анализа, получил уравнение Эйлера для общей задачи оптимального управления (совместное ограничение на фазовые координаты и управления) и указал связь уравнения Эйлера с принципом максимума.
В 1966 году автор впервые решил задачу входа аппарата в атмосферу с учетом ограничений на величину полной перегрузки. Данное ограничение относится к классу нерегулярных смешанных ограничений. В 1968 году А.Я. Дубовицкий и А.А. Милютин опубликовали статью о нерегулярном принципе максимума. Анализ перехода от уравнения Эйлера к принципу максимума называется расшифровкой. Задача расшифровки является довольно трудной для нерегулярных смешанных ограничений.
Подобного рода задачи получили название узких мест в управлении реальными процессами. По степени трудности задачи с нерегулярными смешанными ограничениями занимают первое место в теории оптимального управления. Обсуждая свою знаменитую программу, Д. Гильберт высказал надежду, что в XX веке математики овладеют способами решения оптимизационных задач. Это действительно проблема, ибо в вычислительном плане задачи управления на порядок более трудоемкие, чем все те задачи, с которыми до сих пор сталкивались исследователи.
Сейчас методы оптимизации развиваются в связи с популярностью этой области математики. В частности, большой популярностью пользуется оптимизация функций и динамических систем (синтез оптимального программного управления и управления с полной обратной связью). Особое внимание уделяется эвристическим методам. Развиваются такие методы как Гармонический поиск, Искусственные иммунные системы (методы вычислений имитируют принципы иммунологических теорий), Гравитационный поиск (предложенный Рашеди с соавторами в 2009 году алгоритм инспирирован поведением тяжелых тел при их гравитационном взаимодействии), Разбросанный поиск и т.д.