Объединенная дисперсия

Эта статья требует дополнительных ссылок для проверки . Пожалуйста, помогите улучшить эту статью , добавив цитаты из надежных источников . Материал, не полученный от источника, может быть оспорен и удален. Найти источники:  «Объединенная дисперсия»  -  новости  · газеты  · книги  · ученый  · JSTOR ( июль 2019 г. ) ( Узнайте, как и когда удалить это сообщение-шаблон )

В статистических данных , объединенная дисперсия (также известная как комбинированные дисперсии , композитная дисперсия , или общая дисперсия , и письменная ) представляет собой способ оценки дисперсии нескольких различных популяций , когда среднее значение каждой популяции может быть различными, но можно предположить , что дисперсии каждая популяция одинакова. Числовая оценка, полученная в результате использования этого метода, также называется объединенной дисперсией.${\ displaystyle \ sigma ^ {2}}$

При предположении равных дисперсий совокупности дисперсия объединенной выборки обеспечивает более высокую точность оценки дисперсии, чем дисперсии индивидуальной выборки. Эта более высокая точность может привести к увеличению статистической мощности при использовании в статистических тестах , сравнивающих совокупности, таких как t-критерий .

Квадратный корень из объединенной оценки дисперсии известен как объединенное стандартное отклонение (также известное как объединенное стандартное отклонение , составное стандартное отклонение или общее стандартное отклонение ).

Мотивация [ править ]

В статистике , много раз, собираются данные для зависимой переменной , у , в диапазоне значений для независимой переменной , х . Например, наблюдение за расходом топлива может быть изучено как функция скорости двигателя при постоянной нагрузке на двигатель. Если для достижения небольшого разброса по y требуются многочисленные повторные тесты при каждом значении x , затраты на тестирование могут стать непомерно высокими. Разумные оценки дисперсии могут быть определены с использованием принципа объединенной дисперсии после повторения каждого теста при определенном x. всего несколько раз.

Определение и вычисление [ править ]

Определение [ править ]

Объединенная дисперсия - это оценка фиксированной общей дисперсии, лежащей в основе различных групп населения, имеющих разные средние значения.${\ displaystyle \ sigma ^ {2}}$

Вычисление [ править ]

Если совокупности проиндексированы , то объединенную дисперсию можно рассчитать по средневзвешенному значению.${\ Displaystyle я = 1, \ ldots, к}$${\ displaystyle s_ {p} ^ {2}}$

${\ displaystyle s_ {p} ^ {2} = {\ frac {\ sum _ {i = 1} ^ {k} (n_ {i} -1) s_ {i} ^ {2}} {\ sum _ { i = 1} ^ {k} (n_ {i} -1)}} = {\ frac {(n_ {1} -1) s_ {1} ^ {2} + (n_ {2} -1) s_ { 2} ^ {2} + \ cdots + (n_ {k} -1) s_ {k} ^ {2}} {n_ {1} + n_ {2} + \ cdots + n_ {k} -k}}, }$

где - размер выборки генеральной совокупности, а дисперсии выборки равны${\ displaystyle n_ {i}}$${\ displaystyle i}$

${\ displaystyle s_ {i} ^ {2}}$= .${\ displaystyle {\ frac {1} {n_ {i} -1}} \ sum _ {j = 1} ^ {n_ {i}} \ left (y_ {j} - {\ overline {y_ {i}}) } \ right) ^ {2}}$

Использование в весовых коэффициентов , а происходит от коррекции Бесселя . ${\ displaystyle (n_ {i} -1)}$${\ displaystyle n_ {i}}$

Варианты [ править ]

Несмещенная оценка методом наименьших квадратов ${\ displaystyle \ sigma ^ {2},}$

${\ displaystyle s_ {p} ^ {2} = {\ frac {\ sum _ {i = 1} ^ {k} (n_ {i} -1) s_ {i} ^ {2}} {\ sum _ { я = 1} ^ {k} (n_ {i} -1)}},}$

и смещенная оценка максимального правдоподобия

${\ displaystyle s_ {p} ^ {2} = {\ frac {\ sum _ {i = 1} ^ {k} (n_ {i} -1) s_ {i} ^ {2}} {\ sum _ { я = 1} ^ {k} n_ {i}}},}$

используются в разных контекстах. ^{[ необходима цитата ]} Первые могут дать объективную оценку, когда две группы имеют одинаковую дисперсию населения. Последний может дать более эффективную оценку необъективно. Обратите внимание, что величины в правых частях обоих уравнений являются несмещенными оценками.${\ displaystyle s_ {p} ^ {2}}$${\ displaystyle \ sigma ^ {2}}$ ${\ displaystyle s_ {p} ^ {2}}$${\ displaystyle \ sigma ^ {2}}$${\ displaystyle s_ {i} ^ {2}}$

Пример [ править ]

Рассмотрим следующий набор данных для y, полученных на различных уровнях независимой переменной  x .

Количество испытаний, среднее значение, дисперсия и стандартное отклонение представлены в следующей таблице.

Эти статистические данные представляют собой дисперсию и стандартное отклонение для каждого подмножества данных на различных уровнях x . Если мы можем предположить, что одни и те же явления генерируют случайную ошибку на каждом уровне x , приведенные выше данные можно «объединить», чтобы выразить единую оценку дисперсии и стандартного отклонения. В некотором смысле это предполагает нахождение средней дисперсии или стандартного отклонения среди пяти приведенных выше результатов. Это среднее отклонение рассчитывается путем взвешивания отдельных значений с размером подмножества для каждого уровня x . Таким образом, объединенная дисперсия определяется как

${\displaystyle s_{P}^{2}={\frac {(n_{1}-1)s_{1}^{2}+(n_{2}-1)s_{2}^{2}+\cdots +(n_{k}-1)s_{k}^{2}}{(n_{1}-1)+(n_{2}-1)+\cdots +(n_{k}-1)}}}$

где n ₁ , n ₂ ,. . ., n _k - размеры подмножеств данных на каждом уровне переменной x , а s ₁ ² , s ₂ ² ,. . ., s _k ² - их соответствующие дисперсии.

Суммарная дисперсия данных, показанных выше, поэтому:

${\displaystyle s_{p}^{2}=2.764\,}$

Влияние на точность [ править ]

Объединенная дисперсия - это оценка, когда существует корреляция между объединенными наборами данных или когда среднее значение наборов данных не идентично. Объединенная вариация менее точна, чем больше ненулевое значение корреляции или чем дальше средние значения между наборами данных.

Вариация данных для неперекрывающихся наборов данных:

${\displaystyle {\begin{aligned}\sigma _{X}^{2}&={\frac {\left(\sum _{i}{\left[(N_{X_{i}}-1)\sigma _{X_{i}}^{2}+N_{X_{i}}\mu _{X_{i}}^{2}\right]}-\left[\sum _{i}{N_{X_{i}}}\right]\mu _{X}^{2}\right)}{\sum _{i}{N_{X_{i}}-1}}}\end{aligned}}}$

Где среднее значение определяется как:

${\displaystyle {\begin{aligned}\mu _{X}&={\frac {\left(\sum _{i}{N_{X_{i}}\mu _{X_{i}}}\right)}{\sum _{i}{N_{X_{i}}}}}\end{aligned}}}$

Учитывая предвзятую максимальную вероятность, определяемую как:

${\displaystyle s_{p}^{2}={\frac {\sum _{i=1}^{k}(n_{i}-1)s_{i}^{2}}{\sum _{i=1}^{k}n_{i}}},}$

Тогда ошибка в смещенной оценке максимального правдоподобия составляет:

${\displaystyle {\begin{aligned}Error=s_{p}^{2}-\sigma _{X}^{2}\\[3pt]={\frac {\sum _{i}(N_{X_{i}}-1)s_{i}^{2}}{\sum _{i}N_{X_{i}}}}-{\frac {1}{\sum _{i}{N_{X_{i}}-1}}}\left(\sum _{i}{\left[(N_{X_{i}}-1)\sigma _{X_{i}}^{2}+N_{X_{i}}\mu _{X_{i}}^{2}\right]}-\left[\sum _{i}{N_{X_{i}}}\right]\mu _{X}^{2}\right)\end{aligned}}}$

Предполагая, что N такое большое, что:

${\displaystyle {\begin{aligned}\sum _{i}N_{X_{i}}\approx \sum _{i}{N_{X_{i}}-1}\end{aligned}}}$

Тогда погрешность оценки сводится к:

${\displaystyle {\begin{aligned}E=-{\frac {\left(\sum _{i}{\left[N_{X_{i}}\mu _{X_{i}}^{2}\right]}-\left[\sum _{i}{N_{X_{i}}}\right]\mu _{X}^{2}\right)}{\sum _{i}N_{X_{i}}}}\\[3pt]=\mu _{X}^{2}-{\frac {\sum _{i}{\left[N_{X_{i}}\mu _{X_{i}}^{2}\right]}}{\sum _{i}N_{X_{i}}}}\\[3pt]\end{aligned}}}$

Или альтернативно:

${\displaystyle {\begin{aligned}E=\left[{\frac {\sum _{i}{N_{X_{i}}\mu _{X_{i}}}}{\sum _{i}{N_{X_{i}}}}}\right]^{2}-{\frac {\sum _{i}{\left[N_{X_{i}}\mu _{X_{i}}^{2}\right]}}{\sum _{i}N_{X_{i}}}}\\[3pt]={\frac {\left[\sum _{i}{N_{X_{i}}\mu _{X_{i}}}\right]^{2}-\sum _{i}N_{X_{i}}\sum _{i}{\left[N_{X_{i}}\mu _{X_{i}}^{2}\right]}}{\left[\sum _{i}N_{X_{i}}\right]^{2}}}\end{aligned}}}$

Агрегирование данных стандартного отклонения [ править ]

Возможно, эту статью нужно почистить. Он был объединен со стандартным отклонением .

Вместо оценки объединенного стандартного отклонения следующий способ точного агрегирования стандартного отклонения, когда доступно больше статистической информации.

Статистика на основе населения [ править ]

Популяции наборов, которые могут перекрываться, можно вычислить просто следующим образом:

${\displaystyle {\begin{aligned}&&N_{X\cup Y}&=N_{X}+N_{Y}-N_{X\cap Y}\\\end{aligned}}}$

Популяции наборов, которые не пересекаются, можно вычислить просто следующим образом:

${\displaystyle {\begin{aligned}X\cap Y=\varnothing &\Rightarrow &N_{X\cap Y}&=0\\&\Rightarrow &N_{X\cup Y}&=N_{X}+N_{Y}\end{aligned}}}$

Стандартные отклонения неперекрывающихся ( X ∩ Y = ) субпопуляций можно агрегировать следующим образом, если известны размер (фактический или относительно друг друга) и средние значения каждой из них:

${\displaystyle {\begin{aligned}\mu _{X\cup Y}&={\frac {N_{X}\mu _{X}+N_{Y}\mu _{Y}}{N_{X}+N_{Y}}}\\[3pt]\sigma _{X\cup Y}&={\sqrt {{\frac {N_{X}\sigma _{X}^{2}+N_{Y}\sigma _{Y}^{2}}{N_{X}+N_{Y}}}+{\frac {N_{X}N_{Y}}{(N_{X}+N_{Y})^{2}}}(\mu _{X}-\mu _{Y})^{2}}}\end{aligned}}}$

Например, предположим, что известно, что средний рост американского мужчины составляет 70 дюймов со стандартным отклонением в три дюйма и что средняя американская женщина имеет средний рост 65 дюймов со стандартным отклонением в два дюйма. Также предположим, что количество мужчин N равно количеству женщин. Тогда среднее и стандартное отклонение роста взрослых американцев можно рассчитать как

${\displaystyle {\begin{aligned}\mu &={\frac {N\cdot 70+N\cdot 65}{N+N}}={\frac {70+65}{2}}=67.5\\[3pt]\sigma &={\sqrt {{\frac {3^{2}+2^{2}}{2}}+{\frac {(70-65)^{2}}{2^{2}}}}}={\sqrt {12.75}}\approx 3.57\end{aligned}}}$

Для более общего случая M неперекрывающихся популяций, от X ₁ до X _M , и совокупного населения ,${\displaystyle \scriptstyle X\,=\,\bigcup _{i}X_{i}}$

${\displaystyle {\begin{aligned}\mu _{X}&={\frac {\sum _{i}N_{X_{i}}\mu _{X_{i}}}{\sum _{i}N_{X_{i}}}}\\[3pt]\sigma _{X}&={\sqrt {{\frac {\sum _{i}N_{X_{i}}\sigma _{X_{i}}^{2}}{\sum _{i}N_{X_{i}}}}+{\frac {\sum _{i<j}N_{X_{i}}N_{X_{j}}(\mu _{X_{i}}-\mu _{X_{j}})^{2}}{{\big (}\sum _{i}N_{X_{i}}{\big )}^{2}}}}}\end{aligned}}}$,

куда

${\displaystyle X_{i}\cap X_{j}=\varnothing ,\quad \forall \ i<j.}$

Если размер (фактический или относительно друг друга), среднее значение и стандартное отклонение двух перекрывающихся популяций известны для популяций, а также их пересечение, то стандартное отклонение для всей совокупности все равно можно рассчитать следующим образом:

${\displaystyle {\begin{aligned}\mu _{X\cup Y}&={\frac {1}{N_{X\cup Y}}}\left(N_{X}\mu _{X}+N_{Y}\mu _{Y}-N_{X\cap Y}\mu _{X\cap Y}\right)\\[3pt]\sigma _{X\cup Y}&={\sqrt {{\frac {1}{N_{X\cup Y}}}\left(N_{X}[\sigma _{X}^{2}+\mu _{X}^{2}]+N_{Y}[\sigma _{Y}^{2}+\mu _{Y}^{2}]-N_{X\cap Y}[\sigma _{X\cap Y}^{2}+\mu _{X\cap Y}^{2}]\right)-\mu _{X\cup Y}^{2}}}\end{aligned}}}$

Если два или более набора данных складываются вместе точка данных за точкой данных, стандартное отклонение результата может быть вычислено, если известно стандартное отклонение каждого набора данных и ковариация между каждой парой наборов данных:

${\displaystyle \sigma _{X}={\sqrt {\sum _{i}{\sigma _{X_{i}}^{2}}+2\sum _{i,j}\operatorname {cov} (X_{i},X_{j})}}}$

Для особого случая, когда корреляция не существует между какой-либо парой наборов данных, отношение сводится к корневой сумме квадратов:

${\displaystyle {\begin{aligned}&\operatorname {cov} (X_{i},X_{j})=0,\quad \forall i<j\\\Rightarrow &\;\sigma _{X}={\sqrt {\sum _{i}{\sigma _{X_{i}}^{2}}}}.\end{aligned}}}$

Статистика на основе выборки [ править ]

Стандартные отклонения неперекрывающихся ( X ∩ Y = ) подвыборок можно агрегировать следующим образом, если известны фактический размер и средние значения каждой из них:

${\displaystyle {\begin{aligned}\mu _{X\cup Y}&={\frac {1}{N_{X\cup Y}}}\left(N_{X}\mu _{X}+N_{Y}\mu _{Y}\right)\\[3pt]\sigma _{X\cup Y}&={\sqrt {{\frac {1}{N_{X\cup Y}-1}}\left([N_{X}-1]\sigma _{X}^{2}+N_{X}\mu _{X}^{2}+[N_{Y}-1]\sigma _{Y}^{2}+N_{Y}\mu _{Y}^{2}-[N_{X}+N_{Y}]\mu _{X\cup Y}^{2}\right)}}\end{aligned}}}$

Для более общего случая M неперекрывающихся наборов данных, от X ₁ до X _M , и совокупного набора данных ,${\displaystyle \scriptstyle X\,=\,\bigcup _{i}X_{i}}$

${\displaystyle {\begin{aligned}\mu _{X}&={\frac {1}{\sum _{i}{N_{X_{i}}}}}\left(\sum _{i}{N_{X_{i}}\mu _{X_{i}}}\right)\\[3pt]\sigma _{X}&={\sqrt {{\frac {1}{\sum _{i}{N_{X_{i}}-1}}}\left(\sum _{i}{\left[(N_{X_{i}}-1)\sigma _{X_{i}}^{2}+N_{X_{i}}\mu _{X_{i}}^{2}\right]}-\left[\sum _{i}{N_{X_{i}}}\right]\mu _{X}^{2}\right)}}\end{aligned}}}$

куда

${\displaystyle X_{i}\cap X_{j}=\varnothing ,\quad \forall i<j.}$

Если размер, среднее значение и стандартное отклонение двух перекрывающихся выборок известны для выборок, а также их пересечение, то стандартное отклонение агрегированной выборки все же можно рассчитать. В целом,

${\displaystyle {\begin{aligned}\mu _{X\cup Y}&={\frac {1}{N_{X\cup Y}}}\left(N_{X}\mu _{X}+N_{Y}\mu _{Y}-N_{X\cap Y}\mu _{X\cap Y}\right)\\[3pt]\sigma _{X\cup Y}&={\sqrt {\frac {[N_{X}-1]\sigma _{X}^{2}+N_{X}\mu _{X}^{2}+[N_{Y}-1]\sigma _{Y}^{2}+N_{Y}\mu _{Y}^{2}-[N_{X\cap Y}-1]\sigma _{X\cap Y}^{2}-N_{X\cap Y}\mu _{X\cap Y}^{2}-[N_{X}+N_{Y}-N_{X\cap Y}]\mu _{X\cup Y}^{2}}{N_{X\cup Y}-1}}}\end{aligned}}}$

См. Также [ править ]

• Используется для расчета d Коэна (размер эффекта)
• Объединенная ковариационная матрица
• Объединенная степень свободы
• Объединенное среднее

Ссылки [ править ]

• Killeen PR (май 2005 г.). «Альтернатива тестам значимости нулевой гипотезы» . Psychol Sci . 16 (5): 345–53. DOI : 10.1111 / j.0956-7976.2005.01538.x . PMC  1473027 . PMID  15869691 .

Внешние ссылки [ править ]

• Золотая книга ИЮПАК - объединенное стандартное отклонение
• [1]
• - также относится к d Коэна (на странице 6)