В статистике , А состоятельная оценка или асимптотический состоятельная оценка является оценка правилом -a для вычисления оценки параметра & thetas ; 0 -having того свойства , что , как количество точек данных , используемые возрастает до бесконечности, в результате последовательности оценок сходятся по вероятности к & thetas ; 0 . Это означает, что распределения оценок становятся все более и более концентрированными около истинного значения оцениваемого параметра, так что вероятность того, что оценка произвольно близка к θ 0, сходится к единице.
На практике каждый строит оценщик как функцию доступной выборки размера n , а затем представляет себе возможность продолжать сбор данных и расширять выборку до бесконечности . Таким образом можно получить последовательность оценок, проиндексированных по n , а согласованность - это свойство того, что происходит, когда размер выборки «растет до бесконечности». Если можно математически показать, что последовательность оценок сходится по вероятности к истинному значению θ 0 , это называется согласованной оценкой; в противном случае оценка называется несовместной .
Согласованность, как определено здесь, иногда называют слабой согласованностью . Когда мы заменяем сходимость по вероятности почти надежной сходимостью , то говорят, что оценка сильно согласована . Последовательность связана с предвзятостью ; увидеть предвзятость в сравнении с последовательностью .
Определение
Формально говоря, оценка T n параметра θ называется согласованной , если она сходится по вероятности к истинному значению параметра: [1]
т.е. если для всех ε > 0
Более строгое определение учитывает тот факт, что θ на самом деле неизвестно, и, следовательно, сходимость по вероятности должна иметь место для каждого возможного значения этого параметра. Предположим, что { p θ : θ ∈ Θ } - это семейство распределений ( параметрическая модель ), а X θ = { X 1 , X 2 ,…: X i ~ p θ } - бесконечная выборка из распределения p θ . Пусть { T n ( X θ )} - последовательность оценок для некоторого параметра g ( θ ). Обычно T n основывается на первых n наблюдениях в выборке. Тогда эта последовательность { T n } называется (слабо) согласованной, если [2]
В этом определении используется g ( θ ) вместо просто θ , потому что часто интересует оценка определенной функции или субвектора базового параметра. В следующем примере мы оцениваем параметр местоположения модели, но не масштаб:
Примеры
Выборочное среднее нормальной случайной величины
Предположим, у вас есть последовательность наблюдений { X 1 , X 2 , ...} из нормального распределения N ( μ , σ 2 ) . Чтобы оценить μ на основе первых n наблюдений, можно использовать выборочное среднее : T n = ( X 1 + ... + X n ) / n . Это определяет последовательность оценщиков, индексированных размером выборки n .
Из свойств нормального распределения мы знаем выборочное распределение этой статистики: T n сам нормально распределен со средним μ и дисперсией σ 2 / n . Эквивалентно, имеет стандартное нормальное распределение:
когда n стремится к бесконечности для любого фиксированного ε > 0 . Следовательно, последовательность T n выборочных средних согласована для среднего генерального значения μ (напоминая, что- кумулятивное распределение нормального распределения).
Обеспечение согласованности
Понятие асимптотической согласованности очень близко, почти синонимично понятию сходимости по вероятности. Таким образом, любая теорема, лемма или свойство, устанавливающие сходимость по вероятности, могут быть использованы для доказательства согласованности. Существует множество таких инструментов:
- Чтобы продемонстрировать непротиворечивость непосредственно из определения, можно использовать неравенство [3]
наиболее распространенным выбором для функции h является либо абсолютное значение (в этом случае оно известно как неравенство Маркова ), либо квадратичная функция (соответственно неравенство Чебышева ).
- Другой полезный результат - теорема о непрерывном отображении : если T n согласовано для θ и g (·) - вещественнозначная функция, непрерывная в точке θ , то g ( T n ) будет согласованным для g ( θ ): [4]
- Теорема Слуцкого может использоваться для объединения нескольких различных оценок или оценки с неслучайной сходящейся последовательностью. Если T n → d α и S n → p β , то [5]
- Если оценка T n задана явной формулой, то, скорее всего, в формуле будут использоваться суммы случайных величин, и тогда можно будет использовать закон больших чисел : для последовательности { X n } случайных величин и при подходящих условиях,
- Если оценка T n определяется неявно, например, как значение, которое максимизирует определенную целевую функцию (см. Экстремальную оценку ), то должен использоваться более сложный аргумент, включающий стохастическую равностепенную непрерывность . [6]
Смещение против согласованности
Беспристрастный, но непоследовательный
Оценщик может быть беспристрастным, но непоследовательным. Например, для образца идентификатора { x
1, ..., х
п} можно использовать T
п( Х ) = х
пкак оценка среднего E [ x ]. Обратите внимание, что здесь выборочное распределение T
пто же самое, что и базовое распределение (для любого n, поскольку оно игнорирует все точки, кроме последней), поэтому E [ T
п( X )] = E [ x ], и он несмещен, но не сходится ни к какому значению.
Однако, если последовательность оценщиков несмещена и сходится к значению, то она согласована, поскольку должна сходиться к правильному значению.
Пристрастный, но последовательный
В качестве альтернативы оценка может быть необъективной, но непротиворечивой. Например, если среднее значение оценивается как это необъективно, но как , оно приближается к правильному значению и поэтому согласовано.
Важные примеры включают дисперсию выборки и стандартное отклонение выборки . Без поправки Бесселя (то есть при использовании размера выборкивместо степеней свободы ), это оба отрицательно смещенные, но непротиворечивые оценки. С коррекцией скорректированная дисперсия выборки является несмещенной, в то время как скорректированное стандартное отклонение выборки по-прежнему смещено, но в меньшей степени, и оба по-прежнему согласованы: поправочный коэффициент сходится к 1 по мере увеличения размера выборки.
Другой пример. Позволять последовательность оценок для .
Мы видим, что , , и смещение не сходится к нулю.
Смотрите также
- Эффективный оценщик
- Согласованность Фишера - альтернативная, хотя и редко используемая концепция согласованности для оценщиков.
- Разбавление регрессии
- Статистическая проверка гипотез
Заметки
- ^ Амемия 1985 , Определение 3.4.2.
- ^ Леман & Casella 1998 , стр. 332.
- ^ Амемия 1985 , уравнение (3.2.5).
- ^ Амемия 1985 , теорема 3.2.6.
- ^ Амемия 1985 , теорема 3.2.7.
- Перейти ↑ Newey & McFadden 1994 , Глава 2.
Рекомендации
- Амемия, Такеши (1985). Продвинутая эконометрика . Издательство Гарвардского университета . ISBN 0-674-00560-0.CS1 maint: ref дублирует значение по умолчанию ( ссылка )
- Lehmann, EL ; Казелла, Г. (1998). Теория точечного оценивания (2-е изд.). Springer. ISBN 0-387-98502-6.
- Ньюи, WK; Макфадден, Д. (1994). «Глава 36: Оценка большой выборки и проверка гипотез». В Роберте Ф. Энгле; Дэниел Л. Макфадден (ред.). Справочник по эконометрике . 4 . Elsevier Science. ISBN 0-444-88766-0. S2CID 29436457 .CS1 maint: ref дублирует значение по умолчанию ( ссылка )
- Никулин, М.С. (2001) [1994], "Последовательная оценка" , Энциклопедия математики , EMS Press
- Трезвый, Е. (1988), "правдоподобие и конвергенция", философия науки , 55 (2): 228-237, DOI : 10,1086 / 289429.
Внешние ссылки
- Эконометрика лекции (тема: беспристрастный против последовательной) на YouTube с помощью Mark Thoma