Односторонний дисперсионный анализ

В статистике , один конец дисперсионного анализ (сокращенно однофакторный дисперсионный анализ ) представляет собой метод , который может быть использован для сравнения с помощью двух или более образцов (используя распределение F ). Этот метод может использоваться только для числовых данных ответа, «Y», обычно одной переменной, и числовых или (обычно) категориальных входных данных, «X», всегда одной переменной, следовательно, «односторонний». ^[1]

ANOVA проверяет нулевую гипотезу , которая гласит, что выборки во всех группах взяты из популяций с одинаковыми средними значениями. Для этого делаются две оценки дисперсии населения. Эти оценки основаны на различных предположениях ( см. Ниже ). ANOVA дает F-статистику, отношение дисперсии, вычисленной среди средних, к дисперсии в выборках. Если средние значения группы взяты из совокупностей с одинаковыми средними значениями, дисперсия между средними значениями группы должна быть ниже, чем дисперсия выборок, в соответствии с центральной предельной теоремой . Следовательно, более высокое соотношение означает, что выборки были взяты из популяций с разными средними значениями. ^[1]

Однако обычно односторонний дисперсионный анализ используется для проверки различий между по крайней мере тремя группами, поскольку случай с двумя группами может быть покрыт t-критерием (Gosset, 1908). Когда есть только два средства для сравнения, t-тест и F-тест эквивалентны; связь между ANOVA и t определяется выражением F  =  t ² . Расширением одностороннего дисперсионного анализа является двухфакторный дисперсионный анализ, который исследует влияние двух различных категориальных независимых переменных на одну зависимую переменную.

Предположения [ править ]

Результаты одностороннего дисперсионного анализа можно считать надежными, если выполняются следующие допущения:

• Ответные переменные остатки будут нормально распределены (или приблизительно нормально распределены).
• Вариации популяций равны.
• Ответы для данной группы являются независимыми и одинаково распределенными нормальными случайными величинами (а не простой случайной выборкой (SRS)).

Если данные являются порядковыми , следует использовать непараметрическую альтернативу этому тесту, такую ​​как односторонний дисперсионный анализ Краскела – Уоллиса . Если известно, что дисперсии не равны, можно использовать t-критерий Велча с двумя выборками . ^[2]

Отклонения от нормы популяции [ править ]

ANOVA - это относительно надежная процедура в отношении нарушений предположения о нормальности. ^[3]

Односторонний дисперсионный анализ можно обобщить на факторные и многомерные схемы, а также на анализ ковариации. ^{[ требуется разъяснение ]}

В популярной литературе часто утверждается, что ни один из этих F- тестов не является надежным, когда есть серьезные нарушения предположения о том, что каждая популяция следует нормальному распределению , особенно для малых альфа-уровней и несбалансированных макетов. ^[4] Кроме того, также утверждается, что если базовое предположение о гомоскедастичности нарушается, свойства ошибок типа I вырождаются гораздо сильнее. ^[5]

Однако это заблуждение, основанное на работе, проделанной в 1950-х годах и ранее. Первым исчерпывающим исследованием проблемы с помощью моделирования методом Монте-Карло был Дональдсон (1966). ^[6] Он показал, что при обычных отклонениях (положительный перекос, неравные дисперсии) « F- тест является консервативным», и поэтому вероятность того, что переменная значима, меньше, чем должно быть. Однако по мере увеличения размера выборки или количества ячеек «кривые мощности, кажется, сходятся к кривым, основанным на нормальном распределении». Тику (1971) обнаружил, что «ненормальная теоретическая мощность F отличается от нормальной теоретической мощностью поправочным членом, который резко уменьшается с увеличением размера выборки». ^[7] Проблема ненормальности, особенно в больших выборках, гораздо менее серьезна, чем предполагают популярные статьи.

Текущее мнение состоит в том, что «исследования методом Монте-Карло широко использовались с тестами на основе нормального распределения, чтобы определить, насколько они чувствительны к нарушениям предположения о нормальном распределении анализируемых переменных в популяции. Общий вывод из этих исследований состоит в том, что последствия таких нарушений менее серьезны, чем предполагалось ранее. Хотя эти выводы не должны полностью отпугивать кого-либо от беспокойства по поводу предположения о нормальности, они повысили общую популярность статистических тестов, зависящих от распределения, во всех областях исследований ». ^[8]

Для непараметрических альтернатив в факторной схеме см. Sawilowsky. ^[9] Для получения дополнительной информации см. ANOVA по рангам .

Случай фиксированных эффектов, полностью рандомизированный эксперимент, несбалансированные данные [ править ]

Модель [ править ]

Нормальная линейная модель описывает лечебные группы с распределениями вероятностей, которые представляют собой идентичные колоколообразные (нормальные) кривые с разными средними значениями. Таким образом, для подгонки моделей требуются только средние значения для каждой группы лечения и расчет дисперсии (используется средняя дисперсия в группах лечения). Вычисления средних и дисперсии выполняются как часть проверки гипотезы.

Обычно используемые нормальные линейные модели для полностью рандомизированного эксперимента: ^[10]

${\ displaystyle y_ {я, j} = \ mu _ {j} + \ varepsilon _ {i, j}}$ (модель средних)

или же

${\ displaystyle y_ {я, j} = \ mu + \ tau _ {j} + \ varepsilon _ {i, j}}$ (модель эффектов)

куда

${\ Displaystyle я = 1, \ dotsc, I}$ индекс экспериментальных единиц

${\ displaystyle j = 1, \ dotsc, J}$ индекс по группам лечения

${\ displaystyle I_ {j}}$ количество экспериментальных единиц в j-й группе лечения

${\ Displaystyle I = \ сумма _ {j} I_ {j}}$ общее количество экспериментальных единиц

${\ displaystyle y_ {i, j}}$ наблюдения

${\ displaystyle \ mu _ {j}}$ среднее значение наблюдений для j-й группы лечения

${\ displaystyle \ mu}$ это среднее значение наблюдений

${\ displaystyle \ tau _ {j}}$ это j-й лечебный эффект, отклонение от общего среднего

${\displaystyle \sum \tau _{j}=0}$

${\displaystyle \mu _{j}=\mu +\tau _{j}}$

${\displaystyle \varepsilon \thicksim N(0,\sigma ^{2})}$, являются нормально распределенными случайными ошибками с нулевым средним.${\displaystyle \varepsilon _{i,j}}$

Индекс над экспериментальными единицами можно интерпретировать по-разному. В некоторых экспериментах одна и та же экспериментальная установка подвергается различным воздействиям; может указывать на конкретную единицу. В других случаях каждая группа лечения имеет отдельный набор экспериментальных единиц; может быть просто указателем в -й список.${\displaystyle i}$${\displaystyle i}$${\displaystyle i}$${\displaystyle j}$

Данные и статистические сводки данных [ править ]

Одна из форм организации экспериментальных наблюдений - это группы в столбцы:${\displaystyle y_{ij}}$

Организация данных ANOVA, Несбалансированный, Однофакторный

	Списки групповых наблюдений
	${\displaystyle I_{1}}$	${\displaystyle I_{2}}$	${\displaystyle I_{3}}$	${\displaystyle \dotso }$	${\displaystyle I_{j}}$
1	${\displaystyle y_{11}}$	${\displaystyle y_{12}}$	${\displaystyle y_{13}}$		${\displaystyle y_{1j}}$
2	${\displaystyle y_{21}}$	${\displaystyle y_{22}}$	${\displaystyle y_{23}}$		${\displaystyle y_{2j}}$
3	${\displaystyle y_{31}}$	${\displaystyle y_{32}}$	${\displaystyle y_{33}}$		${\displaystyle y_{3j}}$
${\displaystyle \vdots }$					${\displaystyle \vdots }$
${\displaystyle i}$	${\displaystyle y_{i1}}$	${\displaystyle y_{i2}}$	${\displaystyle y_{i3}}$	${\displaystyle \dotso }$	${\displaystyle y_{ij}}$
	Сводная статистика группы						Общая сводная статистика
# Наблюдаемый	${\displaystyle I_{1}}$	${\displaystyle I_{2}}$	${\displaystyle \dotso }$	${\displaystyle I_{j}}$	${\displaystyle \dotso }$	${\displaystyle I_{J}}$	# Наблюдаемый	${\displaystyle I=\sum I_{j}}$
Сумма				${\displaystyle \sum _{i}y_{ij}}$			Сумма	${\displaystyle \sum _{j}\sum _{i}y_{ij}}$
Сумма кв.				${\displaystyle \sum _{i}(y_{ij})^{2}}$			Сумма кв.	${\displaystyle \sum _{j}\sum _{i}(y_{ij})^{2}}$
Иметь в виду	${\displaystyle m_{1}}$	${\displaystyle \dotso }$		${\displaystyle m_{j}}$	${\displaystyle \dotso }$	${\displaystyle m_{J}}$	Иметь в виду	${\displaystyle m}$
Дисперсия	${\displaystyle s_{1}^{2}}$	${\displaystyle \dotso }$		${\displaystyle s_{j}^{2}}$	${\displaystyle \dotso }$	${\displaystyle s_{J}^{2}}$	Дисперсия	${\displaystyle s^{2}}$

Сравнение модели с аннотациями: и . Общее среднее и большое отклонение вычисляются из общих сумм, а не из групповых средних и дисперсий.${\displaystyle \mu =m}$${\displaystyle \mu _{j}=m_{j}}$

Проверка гипотез [ править ]

С учетом сводной статистики расчеты проверки гипотез представлены в табличной форме. Хотя два столбца SS показаны для их пояснительного значения, для отображения результатов требуется только один столбец.

Таблица дисперсионного анализа для фиксированной модели, однофакторный, полностью рандомизированный эксперимент

Источник вариации	Суммы квадратов	Суммы квадратов	Степени свободы	Средний квадрат	F
	Пояснительная СС [11]	Вычислительная СС [12]	DF	РС
Лечение	${\displaystyle \sum _{Treatments}I_{j}(m_{j}-m)^{2}}$	${\displaystyle \sum _{j}{\frac {(\sum _{i}y_{ij})^{2}}{I_{j}}}-{\frac {(\sum _{j}\sum _{i}y_{ij})^{2}}{I}}}$	${\displaystyle J-1}$	${\displaystyle {\frac {SS_{Treatment}}{DF_{Treatment}}}}$	${\displaystyle {\frac {MS_{Treatment}}{MS_{Error}}}}$
Ошибка	${\displaystyle \sum _{Treatments}(I_{j}-1)s_{j}^{2}}$	${\displaystyle \sum _{j}\sum _{i}y_{ij}^{2}-\sum _{j}{\frac {(\sum _{i}y_{ij})^{2}}{I_{j}}}}$	${\displaystyle I-J}$	${\displaystyle {\frac {SS_{Error}}{DF_{Error}}}}$
Общий	${\displaystyle \sum _{Observations}(y_{ij}-m)^{2}}$	${\displaystyle \sum _{j}\sum _{i}y_{ij}^{2}-{\frac {(\sum _{j}\sum _{i}y_{ij})^{2}}{I}}}$	${\displaystyle I-1}$

${\displaystyle MS_{Error}}$оценка дисперсии, соответствующая модели.${\displaystyle \sigma ^{2}}$

Резюме анализа [ править ]

Основной анализ ANOVA состоит из серии вычислений. Данные собраны в табличной форме. потом

• Каждая группа лечения суммируется по количеству экспериментальных единиц, двум суммам, среднему значению и дисперсии. Сводные данные по группам лечения объединяются для получения итоговых значений количества единиц и сумм. Общее среднее и большое отклонение вычисляются из больших сумм. В модели использовано лечение и грандиозные средства.
• Три DF и SS рассчитываются на основе сводных данных. Затем рассчитываются MS, и отношение определяет F.
• Компьютер обычно определяет p-значение из F, которое определяет, дают ли методы лечения существенно разные результаты. Если результат значительный, то модель временно действительна.

Если эксперимент сбалансирован, все члены равны, поэтому уравнения SS упрощаются.${\displaystyle I_{j}}$

В более сложном эксперименте, где экспериментальные единицы (или воздействия окружающей среды) неоднородны, в анализе также используются статистические данные по строкам. Модель включает условия, зависящие от . Определение дополнительных членов уменьшает количество доступных степеней свободы.${\displaystyle i}$

Пример [ править ]

Рассмотрим эксперимент по изучению влияния трех различных уровней фактора на реакцию (например, трех уровней удобрения на рост растений). Если бы мы имели 6 наблюдений для каждого уровня, мы могли бы записать результат эксперимента в таблице , как это, где ₁ , ₂ , и ₃ являются три уровня изучаемого фактора.

а 1	а 2	а 3
6	8	13
8	12	9
4	9	11
5	11	8
3	6	7
4	8	12

Нулевая гипотеза, обозначенная H ₀ , для общего F- теста для этого эксперимента будет заключаться в том, что все три уровня фактора в среднем дают одинаковый ответ. Чтобы вычислить F- соотношение:

Шаг 1: Рассчитайте среднее значение в каждой группе:

${\displaystyle {\begin{aligned}{\overline {Y}}_{1}&={\frac {1}{6}}\sum Y_{1i}={\frac {6+8+4+5+3+4}{6}}=5\\{\overline {Y}}_{2}&={\frac {1}{6}}\sum Y_{2i}={\frac {8+12+9+11+6+8}{6}}=9\\{\overline {Y}}_{3}&={\frac {1}{6}}\sum Y_{3i}={\frac {13+9+11+8+7+12}{6}}=10\end{aligned}}}$

Шаг 2: Рассчитайте общее среднее значение:

${\displaystyle {\overline {Y}}={\frac {\sum _{i}{\overline {Y}}_{i}}{a}}={\frac {{\overline {Y}}_{1}+{\overline {Y}}_{2}+{\overline {Y}}_{3}}{a}}={\frac {5+9+10}{3}}=8}$

где а - количество групп.

Шаг 3. Вычислите сумму квадратов разностей «между группами»:

${\displaystyle {\begin{aligned}S_{B}&=n({\overline {Y}}_{1}-{\overline {Y}})^{2}+n({\overline {Y}}_{2}-{\overline {Y}})^{2}+n({\overline {Y}}_{3}-{\overline {Y}})^{2}\\[8pt]&=6(5-8)^{2}+6(9-8)^{2}+6(10-8)^{2}=84\end{aligned}}}$

где n - количество значений данных в группе.

Межгрупповые степени свободы на единицу меньше количества групп.

${\displaystyle f_{b}=3-1=2}$

так что межгрупповое среднеквадратическое значение

${\displaystyle MS_{B}=84/2=42}$

Шаг 4: Вычислите сумму квадратов «внутри группы». Начните с центрирования данных в каждой группе

Сумма квадратов внутри группы - это сумма квадратов всех 18 значений в этой таблице.

${\displaystyle {\begin{aligned}S_{W}=&(1)^{2}+(3)^{2}+(-1)^{2}+(0)^{2}+(-2)^{2}+(-1)^{2}+\\&(-1)^{2}+(3)^{2}+(0)^{2}+(2)^{2}+(-3)^{2}+(-1)^{2}+\\&(3)^{2}+(-1)^{2}+(1)^{2}+(-2)^{2}+(-3)^{2}+(2)^{2}\\=&\ 1+9+1+0+4+1+1+9+0+4+9+1+9+1+1+4+9+4\\=&\ 68\\\end{aligned}}}$

Внутригрупповые степени свободы

${\displaystyle f_{W}=a(n-1)=3(6-1)=15}$

Таким образом, среднеквадратичное значение внутри группы равно

${\displaystyle MS_{W}=S_{W}/f_{W}=68/15\approx 4.5}$

Шаг 5: F -ratio является

${\displaystyle F={\frac {MS_{B}}{MS_{W}}}\approx 42/4.5\approx 9.3}$

Критическое значение - это число, которое должна превышать статистика теста, чтобы отклонить тест. В этом случае F _крит (2,15) = 3,68 при α = 0,05. Поскольку F = 9,3> 3,68, результаты значимы на уровне значимости 5%. Можно отклонить нулевую гипотезу, заключив, что есть веские доказательства того, что ожидаемые значения в трех группах различаются. Значение p для этого теста составляет 0,002.

После выполнения F- теста обычно проводят некоторый «апостериорный» анализ групповых средних. В этом случае средние значения первых двух групп отличаются на 4 единицы, средние значения первой и третьей группы отличаются на 5 единиц, а средние значения второй и третьей группы отличаются только на 1 единицу. Стандартная ошибка каждого из этих различий . Таким образом, первая группа сильно отличается от других групп, так как средняя разница в несколько раз превышает стандартную ошибку, поэтому мы можем быть очень уверены в том, что среднее значение генеральной совокупности${\displaystyle {\sqrt {4.5/6+4.5/6}}=1.2}$первой группы отличается от средних значений населения других групп. Однако нет никаких доказательств того, что вторая и третья группы имеют разные средние по численности населения друг от друга, поскольку их средняя разница в одну единицу сопоставима со стандартной ошибкой.

Примечание Р ( х ,  у ) обозначает Р -распределение интегральной функцию распределения с й степенями свободы в числителе и у степеней свободы в знаменателе.

См. Также [ править ]

• Дисперсионный анализ
• F-тест ( включает пример одностороннего дисперсионного анализа )
• Смешанная модель
• Многомерный дисперсионный анализ (MANOVA)
• Повторные измерения ANOVA
• Двусторонний дисперсионный анализ
• T-критерий Велча

Заметки [ править ]

Дальнейшее чтение [ править ]

• Джордж Каселла (18 апреля 2008 г.). Статистический дизайн . Springer . ISBN 978-0-387-75965-4.