Градиентный алгоритм

Cтраница 4

Траектория поиска максимума по методу наискорейшего подъема ( а и по градиенту с уточнением шага ( б. [46]

Если же функция f существенно нелинейна, то градиентные алгоритмы сходятся медленно. Сходимость алгоритмов поиска максимума можно ускорить, если учесть поведение функции / более детально, аппроксимировав ее, например, поверхностью второй степени. Однако при этом нужно избегать вычисления вторых производных f, так как оно очень трудоемко и часто сопровождается значительными погрешностями. [47]

Используя этот факт, в [8] показано, что градиентный алгоритм в задаче о коммивояжере на максимум гарантирует получение решения, составляющего не менее трети длины оптимального. [48]

Как уже отмечалось, одной из основных неприятностей при использовании квазилинеаризации является сильное сужение области сходимости. Поэтому для построения хорошего начального приближения часто требуется применять градиентные алгоритмы или алгоритмы дифференциальной аппроксимации. [49]

Методы стохастической аппроксимации рекуррентны по своей природе и отличаются малой трудоемкостью. В них поиск минимума функции потерь осуществляется с помощью градиентных алгоритмов, которые применяются к стохастическим уравнениям так, как если бы это были уравнения детерминированные. [50]

Использование алгоритмов стохастической аппроксимации в задачах на условный экстремум функции регрессии или задачах, где ограничения носят регрессионный характер, может основываться на сведении этих задач к задаче безусловной оптимизации с помощью штрафных функций или на стохастических аналогах градиентных алгоритмов детерминированных задач. [51]

Примеры 4.31 и 4.32 представляют типичный способ такого гибридного подхода, когда генетический алгоритм применяется только для выбора начальной точки ( в данном случае - исходного множества весов) для градиентного метода. В примере 4.31 генетический алгоритм функционировал дольше, чем в примере 4.32, поэтому начальная точка для метода обратного распространения ошибки в примере 4.32 находится на большем расстоянии от точки оптимального решения, чем в примере 4.31. Следует обратить внимание на факт, что длительность дообучения не имеет большого значения. Градиентный алгоритм выполняется быстрее генетического, так как в последнем предполагается просмотр всей популяции возможных решений. [52]

Рассмотрены задачи построение модели Гаммерштейна для нелинейных стохастических систем. Особо выделяется присутствие на выходе объекта помех разного характера. Задача рекуррентной идентификации решается на основе стохастического градиентного алгоритма. Найдены необходимые и достаточные условия сильной состоятельности оценки параметров. Оценено эго скорость сходимости. На основе построенного модели решается задача слежения выхода объекта. Адаптивная система слежения является устойчивым в том смысле, что выполняется условия стабильности, оптимальности и сильно состоятельности. Высокая точность аппроксимации нелинейного объекта гарантирует эффективность работы адаптивной системы управления. [53]

Таким образом, задача построения ПД в результате параметризации (2.47) сводится к решению системы неравенств, описывающих ограничения (2.44) и (2.45) относительно параметров искомого ПД. Однако у роботов с большим числом степеней свободы, а также при сложном характере конструктивных ограничений использование этих методов наталкивается на принципиальные или вычислительные трудности. В подобных случаях более простым и эффективным может оказаться метод, использующий рекуррентные градиентные алгоритмы решения неравенств. Пусть для определенности множества Qx и Qx представляют собой шары радиуса сх и с соответственно с центром в нуле. [54]

Сравнение скорости сходимости алгоритма Калмана и градиентного алгоритма. [55]

Превосходство алгоритма Калмана очевидно. Это особенно важно при отслеживании меняющегося во времени канала. Для примера, изменения во времени высокочастотного ( ВЧ или KB) ионосферного радиоканала слишком быстрые, чтобы их выравнивать градиентным алгоритмом, но алгоритм Кальмана адаптируется достаточно быстро для отслеживания таких изменений. [56]

Рассматривается задача рекуррентной идентификации нелинейных стохастических объектов класса Гаммерштейна. Особенность задачи связана с учетом не-линейностей изучаемого объекта. Построены модели Гаммерштейна с учетом помех на выходе объекта типа мартингалъной последовательности и скользящего среднего. Для стохастических градиентных алгоритмов дано необходимое и достаточное условия сильной состоятельности оценки параметров. Оценена скорость их сходимости. С применением полученных результатов решается задача адаптивной слежения за выхода объекта. [57]

Страницы: 1 2 3 4