Эта статья требует дополнительных ссылок для проверки . ( апрель 2021 г. ) ( Узнайте, как и когда удалить это сообщение-шаблон ) |
Адаптивный алгоритм представляет собой алгоритм , который меняет свое поведение в то время , когда он запускается, [1] на основе имеющейся информации и на априорный определенный механизм вознаграждения (или критерий). Такой информацией может быть история недавно полученных данных, информация о доступных вычислительных ресурсах или другая информация, полученная во время выполнения (или известная заранее ), относящаяся к среде, в которой он работает.
Среди наиболее часто используемых адаптивных алгоритмов - метод наименьших средних квадратов Уидроу-Хоффа (LMS) , который представляет собой класс алгоритмов стохастического градиентного спуска, используемых в адаптивной фильтрации и машинном обучении. При адаптивной фильтрации LMS используется для имитации желаемого фильтра путем нахождения коэффициентов фильтра, которые относятся к получению наименьшего среднего квадрата сигнала ошибки (разности между желаемым и фактическим сигналами).
Например, стабильный раздел без дополнительной памяти - это O ( n lg n ), но с учетом O ( n ) памяти, он может быть O ( n ) во времени. Реализованный стандартной библиотекой C ++ , stable_partition
является адаптивным, поэтому он получает столько памяти, сколько может получить (максимум до того, что ему потребуется), и применяет алгоритм, используя эту доступную память. Другой пример - адаптивная сортировка , поведение которой изменяется после предварительной сортировки входных данных.
Примером адаптивного алгоритма в радиолокационных системах является детектор постоянной частоты ложных тревог (CFAR).
В машинном обучении и оптимизации многие алгоритмы являются адаптивными или имеют адаптивные варианты, что обычно означает, что параметры алгоритма, такие как скорость обучения , автоматически регулируются в соответствии со статистикой об оптимизации на данный момент (например, скорость сходимости ). [2] Примеры включают адаптивное моделирование отжига , адаптивный координатный спуск , адаптивную квадратуру , AdaBoost , Adagrad , Adadelta, RMSprop и Adam . [3]
В сжатии данных , адаптивное кодирование алгоритмы , такие как адаптивное кодирование Хаффмана или предсказание частичного соответствия может принимать поток данных в качестве входных данных, и адаптировать свою технику сжатия на основе символов , что они уже встречались. [4]
При обработке сигналов кодек с адаптивным преобразованием акустического кодирования (ATRAC), используемый в рекордерах MiniDisc, называется «адаптивным», потому что длина окна (размер звукового «фрагмента») может изменяться в зависимости от природы сжимаемого звука. для достижения наилучшего звучания стратегии сжатия.
См. Также [ править ]
Ссылки [ править ]
- ^ Энтони Zaknich (25 апреля 2005). Принципы адаптивных фильтров и самообучающихся систем . Springer Science & Business Media. ISBN 978-1-85233-984-5.
- ^ Goodfellow, Ян ; Бенхио, Йошуа ; Курвиль, Аарон (2016). Глубокое обучение . MIT Press. ISBN 978-0-26203561-3.
- ^ Мерфи, Кевин (2021). Вероятностное машинное обучение: введение . Вероятностное машинное обучение: введение . MIT Press . Проверено 10 апреля 2021 года .
- ^ Цзэ-Нянь Ли; Марк С. Дрю; Цзянчуань Лю (9 апреля 2014 г.). Основы мультимедиа . Springer Science & Business Media. ISBN 978-3-319-05290-8.