Метод моментов (статистика)

Эта статья требует дополнительных ссылок для проверки . Пожалуйста, помогите улучшить эту статью , добавив цитаты из надежных источников . Материал, не полученный от источника, может быть оспорен и удален. Найти источники:  статистика «Метод моментов»  -  новости  · газеты  · книги  · ученый  · JSTOR ( июнь 2020 г. ) ( Узнайте, как и когда удалить этот шаблон сообщения )

В статистике , то метод моментов является методом оценки популяционных параметров .

Он начинается с выражения моментов популяции (т. Е. Ожидаемых значений степеней рассматриваемой случайной величины ) как функций от интересующих параметров. Затем эти выражения устанавливаются равными моментам выборки. Количество таких уравнений равно количеству оцениваемых параметров. Затем эти уравнения решаются для интересующих параметров. Решения представляют собой оценки этих параметров.

Метод моментов был введен Пафнутым Чебышевым в 1887 г. при доказательстве центральной предельной теоремы. Идея сопоставления эмпирических моментов распределения с моментами популяции восходит, по крайней мере, к Пирсону . ^{[ необходима цитата ]}

Метод [ править ]

Предположим, что задача состоит в оценке неизвестных параметров, характеризующих распределение случайной величины . ^[1] Предположим, что первые моменты истинного распределения («моменты популяции») могут быть выражены как функции от s:${\ displaystyle k}$${\ displaystyle \ theta _ {1}, \ theta _ {2}, \ dots, \ theta _ {k}}$ ${\ displaystyle f_ {W} (ш; \ theta)}$${\ displaystyle W}$${\ displaystyle k}$${\displaystyle \theta }$

${\displaystyle {\begin{aligned}\mu _{1}&\equiv \operatorname {E} [W]=g_{1}(\theta _{1},\theta _{2},\ldots ,\theta _{k}),\\[4pt]\mu _{2}&\equiv \operatorname {E} [W^{2}]=g_{2}(\theta _{1},\theta _{2},\ldots ,\theta _{k}),\\&\,\,\,\vdots \\\mu _{k}&\equiv \operatorname {E} [W^{k}]=g_{k}(\theta _{1},\theta _{2},\ldots ,\theta _{k}).\end{aligned}}}$

Предположим, что нарисован образец размера , в результате которого получены значения . Ибо пусть ${\displaystyle n}$${\displaystyle w_{1},\dots ,w_{n}}$${\displaystyle j=1,\dots ,k}$

${\displaystyle {\widehat {\mu }}_{j}={\frac {1}{n}}\sum _{i=1}^{n}w_{i}^{j}}$

быть j -м моментом выборки, оценка . Метод оценки моментов для обозначенного как определяется как решение (если таковое имеется) уравнений: ^{[ необходима ссылка ]}${\displaystyle \mu _{j}}$${\displaystyle \theta _{1},\theta _{2},\ldots ,\theta _{k}}$${\displaystyle {\widehat {\theta }}_{1},{\widehat {\theta }}_{2},\dots ,{\widehat {\theta }}_{k}}$

${\displaystyle {\begin{aligned}{\widehat {\mu }}_{1}&=g_{1}({\widehat {\theta }}_{1},{\widehat {\theta }}_{2},\ldots ,{\widehat {\theta }}_{k}),\\[4pt]{\widehat {\mu }}_{2}&=g_{2}({\widehat {\theta }}_{1},{\widehat {\theta }}_{2},\ldots ,{\widehat {\theta }}_{k}),\\&\,\,\,\vdots \\{\widehat {\mu }}_{k}&=g_{k}({\widehat {\theta }}_{1},{\widehat {\theta }}_{2},\ldots ,{\widehat {\theta }}_{k}).\end{aligned}}}$

Преимущества и недостатки [ править ]

Метод моментов довольно прост и дает последовательные оценки (при очень слабых предположениях), хотя эти оценки часто бывают необъективными .

Это альтернатива методу максимального правдоподобия .

Однако в некоторых случаях уравнения правдоподобия могут быть трудноразрешимыми без компьютеров, тогда как оценки методом моментов могут быть вычислены намного быстрее и проще. Из-за легкой вычислимости оценки методом моментов можно использовать в качестве первого приближения к решениям уравнений правдоподобия, а затем можно найти последовательные улучшенные приближения с помощью метода Ньютона – Рафсона . Таким образом, метод моментов может помочь найти оценки максимального правдоподобия.

В некоторых случаях, которые случаются нечасто с большими выборками, но не так редко с маленькими выборками, оценки, полученные методом моментов, находятся за пределами пространства параметров (как показано в примере ниже); на них тогда нет смысла полагаться. Эта проблема никогда не возникает в методе максимального правдоподобия ^{[ необходима цитата ]} . Кроме того, оценки методом моментов не обязательно являются достаточной статистикой , т. Е. Иногда они не учитывают всю важную информацию в выборке.

При оценке других структурных параметров (например, параметров функции полезности вместо параметров известного распределения вероятностей) соответствующие распределения вероятностей могут быть неизвестны, и оценки на основе моментов могут быть предпочтительнее оценки максимального правдоподобия.

Примеры [ править ]

Примером применения метода моментов является оценка полиномиальных распределений плотности вероятности. В этом случае на интервале определяется приближенный многочлен порядка . Затем метод моментов дает систему уравнений, решение которой включает обращение матрицы Ганкеля . ^[2]${\displaystyle N}$${\displaystyle [a,b]}$

Равномерное распределение [ править ]

Рассмотрим равномерное распределение на интервале , . Если тогда мы имеем${\displaystyle [a,b]}$${\displaystyle U(a,b)}$${\displaystyle W\sim U(a,b)}$

${\displaystyle \mu _{1}=\operatorname {E} [W]={\frac {1}{2}}(a+b)}$

${\displaystyle \mu _{2}=\operatorname {E} [W^{2}]={\frac {1}{3}}(a^{2}+ab+b^{2})}$

Решение этих уравнений дает

${\displaystyle {\widehat {a}}=\mu _{1}-{\sqrt {3\left(\mu _{2}-\mu _{1}^{2}\right)}}}$

${\displaystyle {\widehat {b}}=\mu _{1}+{\sqrt {3\left(\mu _{2}-\mu _{1}^{2}\right)}}}$

Учитывая набор образцов, мы можем использовать моменты образцов и в этих формулах, чтобы оценить и .${\displaystyle \{w_{i}\}}$${\displaystyle {\widehat {\mu }}_{1}}$${\displaystyle {\widehat {\mu }}_{2}}$${\displaystyle a}$${\displaystyle b}$

Однако обратите внимание, что этот метод в некоторых случаях может давать противоречивые результаты. Например, множество образцов результатов в оценке , даже если и так , что невозможно для набора был взят из в этом случае.${\displaystyle \{0,0,0,0,1\}}$${\displaystyle {\widehat {a}}={\frac {1}{5}}-{\frac {2{\sqrt {3}}}{5}},{\widehat {b}}={\frac {1}{5}}+{\frac {2{\sqrt {3}}}{5}}}$${\displaystyle {\widehat {b}}<1}$${\displaystyle \{0,0,0,0,1\}}$${\displaystyle U({\widehat {a}},{\widehat {b}})}$

См. Также [ править ]

• Обобщенный метод моментов
• Методы декодирования

Ссылки [ править ]