Численные методы оптимизации

на допустимом множестве

.

Введем обозначения:

решение задачи условной минимизации функции .

Тогда не существует вектора , для которого выполняется неравенство

и при любых значениях из отрезка , гарантирована допустимость точек вида .
Лемма Фаркаша. Пусть заданы векторы и вектор . Неравенства

и

несовместны тогда и только тогда, когда принадлежит выпуклому конусу, натянутому на векторы .

- точка, доставляющая минимум функции

при линейных ограничениях причем первые из них обращаются в в равенства. Тогда градиент представим в виде



Теорема 11.3. Пусть - точка, доставляющая минимум функции
при нелинейных ограничениях причем первые из них обращаются в в равенства и градиенты линейно независимы. Тогда градиент представим в виде

при ограничениях

, обычно выполняется соотношение


где и - градиенты функций и . В предположении линейной независимости векторов это разложение существует, причем множители определяются однозначно. Поэтому решение исходной задачи при соответствующем выборе вектора будет стационарной по точкой функции



Она называется функцией Лагранжа, а параметры - множителями Лагранжа.

определяется как последовательность решений подзадач безусловной минимизации. В связи с

этим возникает желание построить точную штрафную функцию с локальным безусловным минимумом в точке , что позволит решать задачу минимизации лишь один раз. При этом необходимо, чтобы функция была гладкой в окрестности точки , а матрица была бы положительно определенной. В этом случае значение можно найти посредством однократной безусловной минимизации функции при помощи одного из стандартных методов поиска минимума без ограничений.

как функцию Лагранжа, в которой вектор , состоящий из

множителей Лагранжа, зависит от , то расчет потребует конечного числа элементарных операций над значениями функций задачи и их производных в точке .
Для того чтобы искомое решение было стационарной точкой соответствующей функции , т.е. , достаточно, чтобы при . Другими словами, если

то

столбцами которой являются производные от вектор-функции ограничений

и, следовательно, равенство получается при в силу непрерывности и равенств . В качестве функции , сходящейся к при , можно взять
где
то есть вычисляется как вектор, минимизирующий сумму квадратов невязок уравнений переопределенной системы

локальный минимум этой функции. Матрица ее вторых производных в точке

выглядит так

где - матрица проектирования, ,
и
По поводу положительной определенности матрицы вторых производных сказать ничего нельзя поэтому модифицируем исходную функцию:

n - количество функций Гаусса, и

- параметры, задающие амплитуду и ширину гауссианов,
, - координата середины гауссиана на оси абсцисс,
- значение спектра в измеренной точке

,