Модель авторегрессии – скользящего среднего

В статистическом анализе временных рядов , авторегрессия-скользящее средняя ( ARMA ) модели обеспечивают экономное описание (слабо) стационарного случайного процесс в терминах двух полиномов, один для авторегрессии (AR) , а второй для скользящего среднего ( MA). Общая модель ARMA была описана в 1951 г. диссертации Питера Уиттла , тестирования гипотез в анализе временных рядов , и она стала популярной в 1970 книги Джорджа EP Box и Гвилим Дженкинс .

Учитывая временной ряд данных X _t , модель ARMA является инструментом для понимания и, возможно, прогнозирования будущих значений в этом ряду. Часть AR включает регрессию переменной по ее собственным запаздывающим (т. Е. Прошлым) значениям. Часть MA включает моделирование члена ошибки как линейной комбинации членов ошибки, возникающих одновременно и в разное время в прошлом. Модель обычно называется моделью ARMA ( p , q ), где p - это порядок части AR, а q - порядок части MA (как определено ниже).

Модели ARMA можно оценить с помощью метода Бокса – Дженкинса .

Модель авторегрессии [ править ]

Обозначение AR ( p ) относится к авторегрессионной модели порядка p . Модель AR ( p ) записывается

{\ displaystyle X_ {t} = c + \ sum _ {i = 1} ^ {p} \ varphi _ {i} X_ {ti} + \ varepsilon _ {t}. \,}

где - параметры , - постоянная, а случайная величина - белый шум . ${\ displaystyle \ varphi _ {1}, \ ldots, \ varphi _ {p}}$ ${\ displaystyle c}$ ${\ displaystyle \ varepsilon _ {t}}$

Необходимы некоторые ограничения на значения параметров, чтобы модель оставалась неподвижной . Например, процессы в модели AR (1) с не стационарны. ${\ displaystyle | \ varphi _ {1} | \ geq 1}$

Модель скользящего среднего [ править ]

Обозначение MA ( q ) относится к модели скользящего среднего порядка q :

{\ displaystyle X_ {t} = \ mu + \ varepsilon _ {t} + \ sum _ {i = 1} ^ {q} \ theta _ {i} \ varepsilon _ {ti} \,}

где θ ₁ , ..., θ _д являются параметрами модели, μ является ожидание (часто принимают равным 0), и , , ... снова, белый шум , векторы ошибок. ${\ displaystyle X_ {t}}$ ${\ displaystyle \ varepsilon _ {t}}$ ${\ Displaystyle \ varepsilon _ {т-1}}$

Модель ARMA [ править ]

Обозначение ARMA ( p , q ) относится к модели с p членами авторегрессии и q членами скользящего среднего. Эта модель содержит модели AR ( p ) и MA ( q ),

{\ displaystyle X_ {t} = c + \ varepsilon _ {t} + \ sum _ {i = 1} ^ {p} \ varphi _ {i} X_ {ti} + \ sum _ {i = 1} ^ {q } \ theta _ {i} \ varepsilon _ {ti}. \,}

Общая модель ARMA была описана в диссертации Питера Уиттла 1951 года , который использовал математический анализ ( ряд Лорана и анализ Фурье ) и статистический вывод. ^[1]^[2] Модели ARMA были популяризированы в 1970 году в книге Джорджа Е.П. Бокса и Дженкинса, которые изложили итерационный метод ( Бокса – Дженкинса ) для их выбора и оценки. Этот метод был полезен для полиномов низкого порядка (степени три или меньше). ^[3]

Модель ARMA - это, по сути, фильтр с бесконечной импульсной характеристикой, применяемый к белому шуму с некоторой дополнительной интерпретацией.

Примечание об условиях ошибки [ править ]

Члены ошибки обычно считаются независимыми одинаково распределенными случайными величинами (iid), выбранными из нормального распределения с нулевым средним: ~ N (0, σ ² ), где σ ² - дисперсия. Эти предположения могут быть ослаблены, но это изменит свойства модели. В частности, изменение предположения об идентификаторе идентификатора существенно изменит ситуацию. ${\ displaystyle \ varepsilon _ {t}}$ ${\ displaystyle \ varepsilon _ {t}}$

Спецификация в терминах оператора задержки [ править ]

В некоторых текстах модель будет определена в терминах оператора задержки L . В этих терминах модель AR ( p ) задается следующим образом:

\varepsilon _{t}=\left(1-\sum _{i=1}^{p}\varphi _{i}L^{i}\right)X_{t}=\varphi (L)X_{t}\,

где представляет собой многочлен $\varphi$

\varphi (L)=1-\sum _{i=1}^{p}\varphi _{i}L^{i}.\,

Модель MA ( q ) задается формулой

X_{t}=\left(1+\sum _{i=1}^{q}\theta _{i}L^{i}\right)\varepsilon _{t}=\theta (L)\varepsilon _{t},\,

где θ представляет собой многочлен

\theta (L)=1+\sum _{i=1}^{q}\theta _{i}L^{i}.\,

Наконец, комбинированная модель ARMA ( p , q ) имеет вид

\left(1-\sum _{i=1}^{p}\varphi _{i}L^{i}\right)X_{t}=\left(1+\sum _{i=1}^{q}\theta _{i}L^{i}\right)\varepsilon _{t}\,,

или более кратко,

\varphi (L)X_{t}=\theta (L)\varepsilon _{t}\,

или же

{\frac {\varphi (L)}{\theta (L)}}X_{t}=\varepsilon _{t}\,.

Альтернативная нотация [ править ]

Некоторые авторы, в том числе Бокс , Дженкинс и Рейнсел, используют другое соглашение для коэффициентов авторегрессии. ^[4] Это позволяет всем многочленам, содержащим оператор запаздывания, появляться повсюду в одинаковой форме. Таким образом, модель ARMA будет записана как

\left(1-\sum _{i=1}^{p}\phi _{i}L^{i}\right)X_{t}=\left(1+\sum _{i=1}^{q}\theta _{i}L^{i}\right)\varepsilon _{t}\,.

Более того, начав суммирование с и, установив и , мы получим еще более элегантную формулировку: $i=0$ $\phi _{0}=-1$ $\theta _{0}=1$ $-\sum _{i=0}^{p}\phi _{i}L^{i}\;X_{t}=\sum _{i=0}^{q}\theta _{i}L^{i}\;\varepsilon _{t}\,.$

Подгонка моделей [ править ]

Выбор p и q [ править ]

Нахождение подходящих значений p и q в модели ARMA ( p , q ) может быть облегчено путем построения графиков частичных автокорреляционных функций для оценки p , а также использования автокорреляционных функций для оценки q . Расширенные функции автокорреляции (EACF) могут использоваться для одновременного определения p и q. ^[5] Дополнительную информацию можно получить, рассматривая те же функции для остатков модели, оснащенной начальным выбором p и q .

Brockwell и Davis рекомендуют использовать информационный критерий Акаике (AIC) для нахождения p и q . ^[6] Другой возможный выбор для определения заказа - это критерий BIC .

Оценочные коэффициенты [ править ]

Этот раздел нуждается в расширении . Вы можете помочь, добавив к нему . ( Март 2017 г. )

Модели ARMA в целом могут быть после выбора p и q аппроксимированы регрессией наименьших квадратов, чтобы найти значения параметров, которые минимизируют член ошибки. Обычно считается хорошей практикой находить наименьшие значения p и q, которые обеспечивают приемлемое соответствие данным. Для чистой модели AR можно использовать уравнения Юла-Уокера для подгонки.

Реализации в статистических пакетах [ править ]

В R , то арима функция (в стандартных пакетах статистики ) описана в ARIMA моделировании временных рядов . Пакеты расширения содержат связанные и расширенные функциональные возможности , например, tseries пакет включает в себя АРМУ функцию, документированной в «Fit ARMA моделей для временных рядов» ; fracdiff пакет содержит fracdiff () для дробно интегрированных процессов АРМА; и пакет прогнозов включает auto.arima для выбора экономного набора p, q . Представление задачи CRAN на временных рядах содержит ссылки на большинство из них.
Mathematica имеет полную библиотеку функций временных рядов, включая ARMA. ^[7]
MATLAB включает такие функции, как arma и ar для оценки моделей AR, ARX (авторегрессионная экзогенная) и ARMAX. См. Раздел System Identification Toolbox и Econometrics Toolbox для получения дополнительной информации.
Джулия имеет некоторые сообщества приводом пакеты, реализующие посаженные с моделью ARMA , таких как arma.jl .
Модуль Statsmodels Python включает множество моделей и функций для анализа временных рядов, включая ARMA. Раньше часть Scikit-learn, теперь она автономна и хорошо интегрируется с Pandas . Подробнее см. Здесь .
PyFlux имеет основанную на Python реализацию моделей ARIMAX, включая байесовские модели ARIMAX.
Числовые библиотеки IMSL - это библиотеки функций численного анализа, включая процедуры ARMA и ARIMA, реализованные на стандартных языках программирования, таких как C, Java, C # .NET и Fortran.
gretl также может оценить модель ARMA, см. здесь, где это упоминается .
GNU Octave может оценивать модели AR, используя функции из дополнительного пакета octave-forge .
Stata включает функцию arima, которая может оценивать модели ARMA и ARIMA . Подробнее см. Здесь .
SuanShu - это Java-библиотека численных методов, включая комплексные статистические пакеты, в которых одномерные / многомерные модели ARMA, ARIMA, ARMAX и т. Д. Реализованы в объектно-ориентированном подходе. Эти реализации задокументированы в «SuanShu, числовой и статистической библиотеке Java» .
У SAS есть эконометрический пакет ETS, который оценивает модели ARIMA. Подробнее см. Здесь .

Приложения [ править ]

ARMA подходит, когда система является функцией серии ненаблюдаемых шоков (MA или часть скользящей средней), а также ее собственного поведения. Например, цены на акции могут быть шокированы фундаментальной информацией, а также проявлением технических тенденций и эффектов возврата к среднему из- за участников рынка. ^{[ необходима цитата ]}

Обобщения [ править ]

Зависимость X _t от прошлых значений и членов ошибки ε _t считается линейной, если не указано иное. Если зависимость является нелинейной, модель конкретно называется моделью нелинейного скользящего среднего (NMA), нелинейной авторегрессионной (NAR) или нелинейной авторегрессивно-скользящей средней (NARMA) моделью.

Модели авторегрессии – скользящего среднего могут быть обобщены и другими способами. См. Также модели авторегрессионной условной гетероскедастичности (ARCH) и модели авторегрессионного интегрированного скользящего среднего (ARIMA). Если необходимо подобрать несколько временных рядов, можно подобрать векторную модель ARIMA (или VARIMA). Если рассматриваемый временной ряд демонстрирует длинную память, тогда может быть подходящим моделирование дробного ARIMA (FARIMA, иногда называемого ARFIMA): см. Авторегрессионное дробно-интегрированное скользящее среднее . Если предполагается, что данные содержат сезонные эффекты, они могут быть смоделированы с помощью SARIMA (сезонный ARIMA) или периодической модели ARMA.

Еще одно обобщение - модель многомасштабной авторегрессии (MAR). Модель MAR индексируется узлами дерева, тогда как стандартная (дискретная по времени) модель авторегрессии индексируется целыми числами.

Обратите внимание, что модель ARMA является одномерной . Расширениями для многомерного случая являются векторная авторегрессия (VAR) и векторная авторегрессия Moving-Average (VARMA).

Модель авторегрессии – скользящего среднего с моделью экзогенных входов (модель ARMAX) [ править ]

Обозначение ARMAX ( p , q , b ) относится к модели с p членами авторегрессии, q членами скользящего среднего и b условиями экзогенных входов. Эта модель содержит модели AR ( p ) и MA ( q ) и линейную комбинацию последних b членов известного и внешнего временных рядов . Это дает: $d_{t}$

X_{t}=\varepsilon _{t}+\sum _{i=1}^{p}\varphi _{i}X_{t-i}+\sum _{i=1}^{q}\theta _{i}\varepsilon _{t-i}+\sum _{i=1}^{b}\eta _{i}d_{t-i}.\,

где - параметры экзогенного входа . $\eta _{1},\ldots ,\eta _{b}$ $d_{t}$

Определены некоторые нелинейные варианты моделей с экзогенными переменными: см. Например, Нелинейная авторегрессионная экзогенная модель .

Статистические пакеты реализуют модель ARMAX за счет использования «экзогенных» (то есть независимых) переменных. Следует проявлять осторожность при интерпретации вывода этих пакетов, потому что предполагаемые параметры обычно (например, в R ^[8] и gretl ) относятся к регрессии:

X_{t}-m_{t}=\varepsilon _{t}+\sum _{i=1}^{p}\varphi _{i}(X_{t-i}-m_{t-i})+\sum _{i=1}^{q}\theta _{i}\varepsilon _{t-i}.\,

где m _t включает все экзогенные (или независимые) переменные:

m_{t}=c+\sum _{i=0}^{b}\eta _{i}d_{t-i}.\,

См. Также [ править ]

Авторегрессионная интегрированная скользящая средняя (ARIMA)
Экспоненциальное сглаживание
Кодирование с линейным прогнозированием
Прогнозная аналитика
Бесконечный импульсный отклик
Конечный импульсный отклик

Эта статья включает в себя список общих ссылок , но он остается в значительной степени непроверенным, поскольку в нем отсутствует достаточное количество соответствующих встроенных ссылок . Пожалуйста, помогите улучшить эту статью, добавив более точные цитаты. ( Август 2010 г. ) ( Узнайте, как и когда удалить этот шаблон сообщения )

Ссылки [ править ]

^ Ханнан, Эдвард Джеймс (1970). Множественные временные ряды . Ряды Уайли по вероятности и математической статистике. Нью-Йорк: Джон Уайли и сыновья.
^ Уиттл, П. (1951). Проверка гипотез в анализе временных рядов . Альмквист и Виксель.Уиттл, П. (1963). Прогнозирование и регулирование . English Universities Press. ISBN 0-8166-1147-5.
Переиздано как: Whittle, P. (1983). Прогнозирование и регулирование линейными методами наименьших квадратов . Университет Миннесоты Press. ISBN 0-8166-1148-3.
^ Хэннэн & Deistler (1988 , стр 227.): Хэннэн, Е.Ю. ; Дайстлер, Манфред (1988). Статистическая теория линейных систем . Ряды Уайли по вероятности и математической статистике. Нью-Йорк: Джон Уайли и сыновья.
^ Коробка, Джордж; Jenkins, Gwilym M .; Рейнзель, Грегори С. (1994). Анализ временных рядов: прогнозирование и контроль (Третье изд.). Прентис-Холл. ISBN 0130607746.
^ Государственный университет Миссури. «Спецификация модели, анализ временных рядов» (PDF) .
^ Brockwell, PJ; Дэвис, РА (2009). Временные ряды: теория и методы (2-е изд.). Нью-Йорк: Спрингер. п. 273. ISBN. 9781441903198.
↑ Особенности временных рядов в системе Mathematica. Архивировано 24 ноября 2011 г. в Wayback Machine.
^ Моделирование временных рядов ARIMA , документация R

Дальнейшее чтение [ править ]

Миллс, Теренс С. (1990). Методы временных рядов для экономистов . Издательство Кембриджского университета. ISBN 0521343399.
Персиваль, Дональд Б.; Уолден, Эндрю Т. (1993). Спектральный анализ для физических приложений . Издательство Кембриджского университета. ISBN 052135532X.
Francq, C .; Закоян, Ж.-М. (2005), «Недавние результаты для моделей линейных временных рядов с независимыми инновациями», в Duchesne, P .; Ремиллард Б. (ред.), Статистическое моделирование и анализ сложных проблем с данными , Springer, стр. 241–265, CiteSeerX 10.1.1.721.1754.

[1] Ханнан, Эдвард Джеймс (1970). Множественные временные ряды . Ряды Уайли по вероятности и математической статистике. Нью-Йорк: Джон Уайли и сыновья.

[2] Уиттл, П. (1951). Проверка гипотез в анализе временных рядов . Альмквист и Виксель.Уиттл, П. (1963). Прогнозирование и регулирование . English Universities Press. ISBN 0-8166-1147-5.
Переиздано как: Whittle, P. (1983). Прогнозирование и регулирование линейными методами наименьших квадратов . Университет Миннесоты Press. ISBN 0-8166-1148-3.

[3] Хэннэн & Deistler (1988 , стр 227.): Хэннэн, Е.Ю. ; Дайстлер, Манфред (1988). Статистическая теория линейных систем . Ряды Уайли по вероятности и математической статистике. Нью-Йорк: Джон Уайли и сыновья.

[4] Коробка, Джордж; Jenkins, Gwilym M .; Рейнзель, Грегори С. (1994). Анализ временных рядов: прогнозирование и контроль (Третье изд.). Прентис-Холл. ISBN 0130607746.

[5] Государственный университет Миссури. «Спецификация модели, анализ временных рядов» (PDF) .

[6] Brockwell, PJ; Дэвис, РА (2009). Временные ряды: теория и методы (2-е изд.). Нью-Йорк: Спрингер. п. 273. ISBN. 9781441903198.

[7] Особенности временных рядов в системе Mathematica. Архивировано 24 ноября 2011 г. в Wayback Machine.

[R.stats.arima-8] Моделирование временных рядов ARIMA , документация R

[1]

vтеСтохастические процессы
Дискретное время	Процесс Бернулли Ветвящийся процесс Китайский ресторанный процесс Процесс Гальтона – Ватсона Независимые и одинаково распределенные случайные величины Цепь Маркова Процесс Морана Случайная прогулка Со стертой петлей Избегать себя Пристрастный Максимальная энтропия
Непрерывное время	Аддитивный процесс Бесселевский процесс Процесс рождения – смерти чистое рождение Броуновское движение Мост Экскурсия Дробное Геометрический Меандр Процесс Коши Контактный процесс Случайное блуждание в непрерывном времени Процесс Кокса Процесс диффузии Эмпирический процесс Валочный процесс Процесс Флеминга – Виота Гамма-процесс Геометрический процесс Процесс Хокса Процесс охоты Системы взаимодействующих частиц Ито диффузия Процесс Ито Скачок диффузии Перейти процесс Леви процесс Местное время Марковский аддитивный процесс Процесс Маккина – Власова Процесс Орнштейна – Уленбека Пуассоновский процесс Сложный Неоднородный Эволюция Шрамма – Лёвнера Семимартингейл Сигма-мартингейл Стабильный процесс Суперпроцесс Телеграфный процесс Вариант гамма-процесса Винеровский процесс Венская колбаса
Оба	Ветвящийся процесс Модель Гальвеса – Лёхербаха Гауссовский процесс Скрытая марковская модель (HMM) Марковский процесс Мартингейл Отличия Местный Суб- Супер- Случайная динамическая система Регенеративный процесс Процесс продления Стохастические цепочки с памятью переменной длины белый шум
Поля и прочее	Процесс Дирихле Гауссовское случайное поле Мера Гиббса Модель Хопфилда Модель Изинга Модель Поттса Логическая сеть Марковское случайное поле Перколяция Процесс Питмана – Йорка Точечный процесс Кокс Пуассон Случайное поле Случайный график
Модели временных рядов	Модель авторегрессионной условной гетероскедастичности (ARCH) Модель авторегрессионного интегрированного скользящего среднего (ARIMA) Модель авторегрессии (AR) Модель авторегрессии – скользящего среднего (ARMA) Модель обобщенной авторегрессионной условной гетероскедастичности (GARCH) Модель скользящего среднего (MA)
Финансовые модели	Модель ценообразования биномиальных опционов Блэк – Дерман – Той Черный – Карасинский Блэк – Скоулз Чен Постоянная эластичность дисперсии (CEV) Кокс – Ингерсолл – Росс (CIR) Гарман – Кольхаген Хит – Джарроу – Мортон (HJM) Heston Хо – Ли Корпус – Белый Рынок LIBOR Рендлман – Барттер Волатильность SABR Вашичек Уилки
Актуарные модели	Бюльманн Крамер-Лундберг Рисковый процесс Спарре – Андерсон
Модели организации очередей	Масса Жидкость Обобщенная сеть массового обслуживания M / G / 1 M / M / 1 М / м / ц
Характеристики	Càdlàg тропы Непрерывный Непрерывные пути Эргодический Заменяемый Валочно-непрерывный Гаусс – Марков Марков Смешивание Кусочно-детерминированный Предсказуемый Постепенно измеримый Самоподобный Стационарный Обратимый во времени
Предельные теоремы	Центральная предельная теорема Теорема Донскера Теоремы Дуба о сходимости мартингалов Эргодическая теорема Теорема Фишера – Типпета – Гнеденко. Принцип большого отклонения Закон больших чисел (слабый / сильный) Закон повторного логарифма Максимальная эргодическая теорема Теорема Санова Законы нуля или единицы ( Блюменталь , Борель – Кантелли , Энгельберт – Шмидт , Хьюитт – Сэвидж , Колмогоров , Леви )
Неравенства	Буркхолдер – Дэвис – Ганди Мартингейл Дуба Апкроссинг Дуба Кунита – Ватанабэ
Инструменты	Формула Камерона – Мартина Сходимость случайных величин Показательная величина Далеана-Даде Теорема Дуба о разложении Теорема Дуба – Мейера о разложении Теорема Дуба об необязательной остановке Формула Дынкина Формула Фейнмана – Каца Фильтрация Теорема Гирсанова Генератор бесконечно малых Ито интегральный Лемма Ито Теорема Карунена – Лоэва Колмогорова теорема непрерывности Колмогорова теорема о продолжении Метрика Леви – Прохорова Исчисление Маллявэна Теорема о мартингальном представлении Теорема о необязательной остановке Теорема Прохорова Квадратичная вариация Принцип отражения Скороход интеграл Теорема Скорохода о представлении Пространство Скорохода Конверт Снелла Стохастическое дифференциальное уравнение Танака Время остановки Интеграл Стратоновича Равномерная интегрируемость Обычные гипотезы Винеровское пространство Классический Абстрактный
Дисциплины	Актуарная математика Теория управления Эконометрика Эргодическая теория Теория экстремальных ценностей (EVT) Теория больших отклонений Математические финансы Математическая статистика Теория вероятности Теория массового обслуживания Теория обновления Теория разорения Обработка сигналов Статистика Система на чип- дизайне Стохастический анализ Анализ временных рядов Машинное обучение
Список тем Категория