Формулировка задачи многомерной оптимизации.

Решение многих теоретических и практических задач сводится к отысканию экстремума скалярной функции clip_image002 n-мерного векторного аргумента x [7].

clip_image004

Оптимизируемую функцию clip_image002[1] в практических задачах называют также целевой функцией, критерием эффективности, функцией качества. Широкое применение для решения задачи поиска безусловного минимума функции clip_image002[2] находят релаксационные методы, которые часто называют методами спуска (подъема). Процесс приближенного численного решения задачи оптимизации заключается в построении по определенным правилам последовательности точек clip_image006, которая при неограниченном увеличении clip_image008 должна сходиться к точке глобального или локального экстремума. При достижении определенной точности вычислений процесс построения последовательности clip_image006[1] на некотором шаге обрывается, и очередная точка этой последовательности объявляется приближенным решением задачи оптимизации.

Определение. Методом подъема для решения задачи безусловной максимизации функции clip_image010 называют численный метод, который заключается в построении последовательности точек clip_image012, обладающей свойством

clip_image014 (43)

При этом clip_image016 называют начальной точкой или начальным приближением, а clip_image018 - k-ым приближением.

Часто точки указанной последовательности clip_image006[2]строят по формуле

clip_image020 clip_image022 clip_image024, где (44)

clip_image026 - называют величиной шага, а n-мерный вектор clip_image028 - направлением подъема(спуска) на k-том шаге. Различные методы подъема (спуска), использующие в своей основе формулу (44), отличаются друг от друга лишь способом выбора величины шага и направлением.

Алгоритмы безусловной оптимизации делят на классы, в зависимости от максимального порядка производных минимизируемой функции, вычисление которых предполагается. Методы, использующие только значения целевой функции, называют методами нулевого порядка. Если, кроме того, требуется вычисление первых производных минимизируемой функции, то имеют место методы первого порядка, при необходимости вычисления вторых производных – методы второго порядка.

Предлагаю ознакомиться с аналогичными статьями: