.Прямые методы поиска. Алгоритм Гаусса.
Прямые методы или методы нулевого порядка не требуют знания целевой функции в явном виде. Они не требуют регулярности и непрерывности целевой функции и существования производных. Это является существенным достоинством при решении сложных технических и экономических задач.
При реализации прямых методов существенно сокращается этап подготовки решения задачи, так как нет необходимости в определении первых и вторых производных. Прямые методы в основном носят эвристический характер. К прямым методам относится целый ряд алгоритмов, которые отличаются по своей эффективности. Методы предназначены для решения безусловных задач оптимизации
.
Метод Гаусса.
Это простейший алгоритм, заключающийся в том, что на каждом шаге (каждой итерации) минимизация осуществляется только по одной компоненте вектора переменных 
.
Пусть нам дано начальное приближение 
. На первой итерации находим значение минимума функции при изменяющейся первой координате и фиксированных остальных компонентах, т.е.
.
Рис. 1.
В результате получаем новую точку 
. Далее из точки 
ищем минимум функции, изменяя вторую координату и считая фиксированными все остальные координаты. В результате получаем значение
и новую точку 
. Продолжая процесс, после 
шагов получаем точку 
, начиная с которой процесс возобновляется.
В качестве условий прекращения поиска можно использовать следующие два критерия:
.
, 
.
Метод очень прост, но не очень эффективен. Проблемы могут возникнуть, когда линии уровня сильно вытянуты и "эллипсоиды" ориентированы, например, вдоль прямых вида 
. В подобной ситуации поиск быстро застревает на дне такого оврага, а если начальное приближение оказывается на оси "эллипсоида", то процесс так и останется в этой точке.
Хорошие результаты получаются в тех случаях, когда целевая функция представляет собой выпуклую сепарабельную функцию вида
.
