Простая линейная регрессия

Регрессивный анализ
Часть серии по

Модели
Линейная регрессия Простая регрессия Полиномиальная регрессия Общая линейная модель
Обобщенная линейная модель Дискретный выбор Биномиальная регрессия Бинарная регрессия Логистическая регрессия Полиномиальный логит Смешанный логит Пробит Полиномиальный пробит Заказал логит Заказал пробит Пуассон
Многоуровневая модель Фиксированные эффекты Случайные эффекты Линейная модель смешанных эффектов Нелинейная модель смешанных эффектов
Нелинейная регрессия Непараметрический Полупараметрический Крепкий Квантиль Изотонический Основные компоненты Наименьший угол Местный Сегментированный
Ошибки в переменных
Оценка
Наименьших квадратов Линейный Нелинейный
Обычный Взвешенный Обобщенный
Частичное Общий Неотрицательный Регрессия хребта Регулярный
Наименьшие абсолютные отклонения Итеративно переназначенный Байесовский Байесовская многомерная
Фон
Проверка регрессии Средний и прогнозируемый ответ Ошибки и остатки Доброта подгонки Студентизированный остаток Теорема Гаусса – Маркова
Математический портал
v т е

Закон Окуня в макроэкономике является примером простой линейной регрессии. Здесь предполагается, что зависимая переменная (рост ВВП) находится в линейной зависимости от изменений уровня безработицы.

В статистике , простой линейной регрессии является линейной регрессии модели с одной объясняющей переменной . ^[1]^[2]^[3]^[4]^[5] То есть он касается двумерных точек выборки с одной независимой переменной и одной зависимой переменной (обычно координаты x и y в декартовой системе координат ) и находит линейная функция (невертикальная прямая линия ), которая максимально точно предсказывает значения зависимой переменной как функцию независимой переменной. Прилагательное просто относится к тому факту, что переменная результата связана с одним предиктором.

Обычно делается дополнительное условие о том, что следует использовать обычный метод наименьших квадратов (МНК): точность каждого прогнозируемого значения измеряется его квадратом невязки (расстояние по вертикали между точкой набора данных и подобранной линией), и цель состоит в том, чтобы как можно меньше сумма этих квадратов отклонений. Другие методы регрессии, которые можно использовать вместо обычных наименьших квадратов, включают наименьшие абсолютные отклонения (минимизирующие сумму абсолютных значений остатков) и оценку Тейла – Сена (которая выбирает линию, наклон которой является средним углом наклона, определяемым парами точки выборки). Регрессия Деминга (метод наименьших квадратов) также находит линию, которая соответствует набору двумерных точек выборки, но (в отличие от обычных наименьших квадратов, наименьших абсолютных отклонений и регрессии среднего наклона) на самом деле это не пример простой линейной регрессии, потому что она не разделять координаты на одну зависимую и одну независимую переменные и потенциально может возвращать вертикальную линию как подходящую.

В оставшейся части статьи предполагается обычная регрессия методом наименьших квадратов. В этом случае наклон подобранной линии равен корреляции между $y$ и $x,$ скорректированной на отношение стандартных отклонений этих переменных. Пересечение подобранной линии таково, что линия проходит через центр масс $(x, y)$ точек данных.

Подгонка линии регрессии [ править ]

Рассмотрим модельную функцию

{\ Displaystyle у = \ альфа + \ бета х,}

который описывает прямую с наклоном $β$ и пересечением оси $y$ $α$ . В общем, такая взаимосвязь может не соблюдаться в точности для большей части ненаблюдаемой совокупности значений независимых и зависимых переменных; мы называем ненаблюдаемые отклонения от приведенного выше уравнения ошибками . Предположим, мы наблюдаем $n$ пар данных и называем их ${(x i, y i), i = 1, ..., n$ }. Мы можем описать лежащую в основе взаимосвязь между $y i$ и $x i,$ включая этот член ошибки $ε i, следующим$ образом:

{\ displaystyle y_ {i} = \ alpha + \ beta x_ {i} + \ varepsilon _ {i}.}

Эта взаимосвязь между истинными (но ненаблюдаемыми) базовыми параметрами $α$ и $β$ и точками данных называется моделью линейной регрессии.

Цель состоит в том, чтобы найти оценочные значения и для параметров $α$ и $β,$ которые в некотором смысле обеспечили бы "наилучшее" соответствие для точек данных. Как упоминалось во введении, в этой статье «наилучшее» соответствие будет пониматься как метод наименьших квадратов : линия, которая минимизирует сумму квадратов остатков (разницы между фактическими и прогнозируемыми значениями зависимой переменной y ), каждое из который задается для любых возможных значений параметров и , ${\ displaystyle {\ widehat {\ alpha}}}$ ${\ displaystyle {\ widehat {\ beta}}}$ ${\ displaystyle {\ widehat {\ varepsilon}} _ {я}}$ ${\ displaystyle \ alpha}$ ${\ displaystyle \ beta}$

{\ displaystyle {\ widehat {\ varepsilon}} _ {i} = y_ {i} - \ alpha - \ beta x_ {i}.}

Другими словами, и решить следующую задачу минимизации: ${\ displaystyle {\ widehat {\ alpha}}}$ ${\ displaystyle {\ widehat {\ beta}}}$

{\ displaystyle {\ text {Find}} \ min _ {\ alpha, \, \ beta} Q (\ alpha, \ beta), \ quad {\ text {for}} Q (\ alpha, \ beta) = \ sum _ {i = 1} ^ {n} {\ widehat {\ varepsilon}} _ {i} ^ {\, 2} = \ sum _ {i = 1} ^ {n} (y_ {i} - \ alpha - \ beta x_ {i}) ^ {2} \.}

Расширяя, чтобы получить квадратное выражение в, и мы можем получить значения и, которые минимизируют целевую функцию $Q$ (эти минимизирующие значения обозначены и ): ^[6] ${\ displaystyle \ alpha}$ ${\ displaystyle \ beta,}$ ${\ displaystyle \ alpha}$ ${\ displaystyle \ beta}$ ${\ displaystyle {\ widehat {\ alpha}}}$ ${\ displaystyle {\ widehat {\ beta}}}$

{\textstyle {\begin{aligned}{\widehat {\alpha }}&={\bar {y}}-({\widehat {\beta }}\,{\bar {x}}),\\[5pt]{\widehat {\beta }}&={\frac {\sum _{i=1}^{n}(x_{i}-{\bar {x}})(y_{i}-{\bar {y}})}{\sum _{i=1}^{n}(x_{i}-{\bar {x}})^{2}}}\\[6pt]&={\frac {s_{x,y}}{s_{x}^{2}}}\\[5pt]&=r_{xy}{\frac {s_{y}}{s_{x}}}.\\[6pt]\end{aligned}}}

Здесь мы ввели

${\bar {x}}$ и как среднее значение $x$ $i$ и $y$ $i$ , соответственно ${\bar {y}}$
$r xy$ как коэффициент корреляции выборки между $x$ и $y$
$ы х$ и $с у$ как некорректированные образцов стандартных отклонений от $й$ и $у$
$s_{x}^{2}$ и как выборочная дисперсия и выборочная ковариация соответственно $s_{x,y}$

Подставляя приведенные выше выражения для и в ${\widehat {\alpha }}$ ${\widehat {\beta }}$

f={\widehat {\alpha }}+{\widehat {\beta }}x,

дает

{\frac {f-{\bar {y}}}{s_{y}}}=r_{xy}{\frac {x-{\bar {x}}}{s_{x}}}.

Это показывает, что $r xy$ - это наклон линии регрессии стандартизованных точек данных (и что эта линия проходит через начало координат).

Обобщая обозначение, мы можем написать горизонтальную полосу над выражением, чтобы указать среднее значение этого выражения по набору образцов. Например: ${\bar {x}}$

{\overline {xy}}={\frac {1}{n}}\sum _{i=1}^{n}x_{i}y_{i}.

Это обозначение позволяет нам составить краткую формулу для $r xy$ :

r_{xy}={\frac {{\overline {xy}}-{\bar {x}}{\bar {y}}}{\sqrt {\left({\overline {x^{2}}}-{\bar {x}}^{2}\right)\left({\overline {y^{2}}}-{\bar {y}}^{2}\right)}}}.

Коэффициент детерминации ( «R в квадрате») равно , когда модель является линейной с одной независимой переменной. Дополнительные сведения см. В примере коэффициента корреляции . $r_{xy}^{2}$

Интуитивное объяснение [ править ]

Умножив все элементы суммирования в числителе на: (тем самым не изменив его): ${\begin{aligned}{\frac {(x_{i}-{\bar {x}})}{(x_{i}-{\bar {x}})}}=1\end{aligned}}$

{\begin{aligned}{\widehat {\beta }}&={\frac {\sum _{i=1}^{n}(x_{i}-{\bar {x}})(y_{i}-{\bar {y}})}{\sum _{i=1}^{n}(x_{i}-{\bar {x}})^{2}}}={\frac {\sum _{i=1}^{n}(x_{i}-{\bar {x}})^{2}*{\frac {(y_{i}-{\bar {y}})}{(x_{i}-{\bar {x}})}}}{\sum _{i=1}^{n}(x_{i}-{\bar {x}})^{2}}}\\[6pt]\end{aligned}}

Мы можем видеть, что наклон (тангенс угла) линии регрессии - это средневзвешенное значение, которое является наклоном (тангенс угла) линии, которая соединяет i-ю точку со средним значением всех точек, взвешенных, потому что чем дальше точка, тем более "важна" она, поскольку небольшие ошибки в ее положении будут меньше влиять на уклон, соединяющий ее с центральной точкой. ${\frac {(y_{i}-{\bar {y}})}{(x_{i}-{\bar {x}})}}$ $(x_{i}-{\bar {x}})^{2}$

{\begin{aligned}{\widehat {\alpha }}&={\bar {y}}-{\widehat {\beta }}\,{\bar {x}},\\[5pt]\end{aligned}}

Учитывая , с углом линия делает с положительной осью х, мы имеем ${\widehat {\beta }}=\tan(\theta )=dy/dx\rightarrow dy=dx*{\widehat {\beta }}$ $\theta$ $y_{\rm {intersection}}={\bar {y}}-dx*{\widehat {\beta }}={\bar {y}}-dy$

Простая линейная регрессия без члена пересечения (единственный регрессор) [ править ]

Иногда уместно заставить линию регрессии проходить через начало координат, поскольку предполагается , что $x$ и $y$ пропорциональны. Для модели без члена $пересечения$ , $y = βx$ , МНК-оценка для $β$ упрощается до

{\widehat {\beta }}={\frac {\sum _{i=1}^{n}x_{i}y_{i}}{\sum _{i=1}^{n}x_{i}^{2}}}={\frac {\overline {xy}}{\overline {x^{2}}}}

Подстановка $(x - h, y - k)$ вместо $(x, y)$ дает регрессию через $(h, k)$ :

{\begin{aligned}{\widehat {\beta }}&={\frac {\sum _{i=1}^{n}(x_{i}-h)(y_{i}-k)}{\sum _{i=1}^{n}(x_{i}-h)^{2}}}={\frac {\overline {(x-h)(y-k)}}{\overline {(x-h)^{2}}}}\\[6pt]&={\frac {{\overline {xy}}-k{\bar {x}}-h{\bar {y}}+hk}{{\overline {x^{2}}}-2h{\bar {x}}+h^{2}}}\\[6pt]&={\frac {{\overline {xy}}-{\bar {x}}{\bar {y}}+({\bar {x}}-h)({\bar {y}}-k)}{{\overline {x^{2}}}-{\bar {x}}^{2}+({\bar {x}}-h)^{2}}}\\[6pt]&={\frac {\operatorname {Cov} (x,y)+({\bar {x}}-h)({\bar {y}}-k)}{\operatorname {Var} (x)+({\bar {x}}-h)^{2}}},\end{aligned}}

где Cov и Var относятся к ковариации и дисперсии выборочных данных (без поправки на смещение).

Последняя форма выше демонстрирует, как перемещение линии от центра масс точек данных влияет на наклон.

Числовые свойства [ править ]

Линия регрессии проходит через точку центра масс , если модель включает член пересечения (т. Е. Не проходит через начало координат). $({\bar {x}},\,{\bar {y}})$
Сумма остатков равна нулю, если модель включает член пересечения:
$\sum _{i=1}^{n}{\widehat {\varepsilon }}_{i}=0.$
Остатки и значения $x$ не коррелированы (независимо от того, есть ли в модели член пересечения), что означает:
$\sum _{i=1}^{n}x_{i}{\widehat {\varepsilon }}_{i}\;=\;0$

Свойства на основе модели [ править ]

Описание статистических свойств оценок на основе оценок простой линейной регрессии требует использования статистической модели . Следующее основано на предположении о применимости модели, при которой оценки являются оптимальными. Также возможно оценить свойства при других предположениях, таких как неоднородность , но это обсуждается в другом месте. ^{[ требуется разъяснение ]}

Беспристрастность [ править ]

Оценки , и являются беспристрастными . ${\widehat {\alpha }}$ ${\widehat {\beta }}$

Чтобы формализовать это утверждение, мы должны определить структуру, в которой эти оценки являются случайными величинами. Мы рассматриваем остатки $ε i$ как случайные величины, полученные независимо от некоторого распределения с нулевым средним. Другими словами, для каждого значения $x$ соответствующее значение $y$ генерируется как средний отклик $α + βx$ плюс дополнительная случайная величина $ε,$ называемая членом ошибки , равная в среднем нулю. При такой интерпретации оценки методом наименьших квадратов и сами будут случайными величинами, средние значения которых будут равны «истинным значениям» $α$ и $β.$ ${\widehat {\alpha }}$ ${\widehat {\beta }}$ . Это определение объективной оценки.

Доверительные интервалы [ править ]

Формулы , приведенные в предыдущем разделе , позволяют вычислить точечные оценки из $альфа$ и $бета$ - то есть, коэффициенты линии регрессии для заданного набора данных. Однако эти формулы не говорят нам о том , как точны оценки, то есть, сколько оценки и варьируются от образца к образцу для указанного образца размера. Доверительные интервалы были разработаны, чтобы дать правдоподобный набор значений для оценок, которые можно было бы получить, если повторить эксперимент очень большое количество раз. ${\widehat {\alpha }}$ ${\widehat {\beta }}$

Стандартный метод построения доверительных интервалов для коэффициентов линейной регрессии основан на предположении нормальности, которое оправдано, если:

ошибки в регрессии имеют нормальное распределение (так называемое допущение классической регрессии ), или
количество наблюдений $n$ достаточно велико, и в этом случае оценка приблизительно нормально распределена.

Последний случай оправдывается центральной предельной теоремой .

Предположение о нормальности [ править ]

При первом предположении, приведенном выше, а именно о нормальности членов ошибки, оценка коэффициента наклона будет сама нормально распределена со средним $β$ и дисперсией, где $σ$ $2$ - дисперсия членов ошибки (см. Доказательства, включающие обычные методы наименьших квадратов ). В то же время сумма квадратов невязок $Q$ распределяется пропорционально $χ$ $2$ с $n$ $- 2$ степенями свободы и независимо от . Это позволяет нам построить $t$ -значение $\sigma ^{2}\left/\sum (x_{i}-{\bar {x}})^{2}\right.,$ ${\widehat {\beta }}$

t={\frac {{\widehat {\beta }}-\beta }{s_{\widehat {\beta }}}}\ \sim \ t_{n-2},

куда

s_{\widehat {\beta }}={\sqrt {\frac {{\frac {1}{n-2}}\sum _{i=1}^{n}{\widehat {\varepsilon }}_{i}^{\,2}}{\sum _{i=1}^{n}(x_{i}-{\bar {x}})^{2}}}}

- стандартная ошибка оценщика . ${\widehat {\beta }}$

Это $т$ -value имеет Стьюдента т -распределение с $п - 2$ степенями свободы. Используя его, мы можем построить доверительный интервал для $β$ :

\beta \in \left[{\widehat {\beta }}-s_{\widehat {\beta }}t_{n-2}^{*},\ {\widehat {\beta }}+s_{\widehat {\beta }}t_{n-2}^{*}\right],

на уровне достоверности $(1 - γ)$ , где - квантиль распределения $t$ $n$ $-2$ . Например, если $γ$ $= 0,05,$ то уровень достоверности составляет 95%. $t_{n-2}^{*}$ $\scriptstyle \left(1\;-\;{\frac {\gamma }{2}}\right){\text{-th}}$

Точно так же доверительный интервал для коэффициента $пересечения α$ определяется выражением

\alpha \in \left[{\widehat {\alpha }}-s_{\widehat {\alpha }}t_{n-2}^{*},\ {\widehat {\alpha }}+s_{\widehat {\alpha }}t_{n-2}^{*}\right],

на уровне достоверности (1 - γ ), где

s_{\widehat {\alpha }}=s_{\widehat {\beta }}{\sqrt {{\frac {1}{n}}\sum _{i=1}^{n}x_{i}^{2}}}={\sqrt {{\frac {1}{n(n-2)}}\left(\sum _{i=1}^{n}{\widehat {\varepsilon }}_{i}^{\,2}\right){\frac {\sum _{i=1}^{n}x_{i}^{2}}{\sum _{i=1}^{n}(x_{i}-{\bar {x}})^{2}}}}}

В США регрессия «изменения безработицы - рост ВВП» с доверительными интервалами 95%.

Доверительные интервалы для $α$ и $β$ дают нам общее представление о том, где эти коэффициенты регрессии наиболее вероятны. Например, в приведенной здесь регрессии закона Окуня точечные оценки равны

{\widehat {\alpha }}=0.859,\qquad {\widehat {\beta }}=-1.817.

95% доверительные интервалы для этих оценок равны

\alpha \in \left[\,0.76,0.96\right],\qquad \beta \in \left[-2.06,-1.58\,\right].

Чтобы представить эту информацию графически в виде доверительных полос вокруг линии регрессии, необходимо действовать осторожно и учитывать совместное распределение оценок. Можно показать ^[7], что на уровне достоверности (1 - γ ) доверительный интервал имеет гиперболический вид, задаваемый уравнением

(\alpha +\beta \xi )\in \left[\,{\widehat {\alpha }}+{\widehat {\beta }}\xi \pm t_{n-2}^{*}{\sqrt {\left({\frac {1}{n-2}}\sum {\widehat {\varepsilon }}_{i}^{\,2}\right)\cdot \left({\frac {1}{n}}+{\frac {(\xi -{\bar {x}})^{2}}{\sum (x_{i}-{\bar {x}})^{2}}}\right)}}\,\right].

Асимптотическое предположение [ править ]

Альтернативное второе предположение гласит, что когда количество точек в наборе данных «достаточно велико», закон больших чисел и центральная предельная теорема становятся применимыми, и тогда распределение оценок становится приблизительно нормальным. В этом предположении все формулы , полученные в предыдущем разделе , остаются в силе, с единственным исключением , что квантиль т * _{п -2} из Стьюдента т распределения заменяется квантиль д * от стандартного нормального распределения . Иногда фракция $1 / п -2$ заменяется на $1 / п$ . При большом $n$ такое изменение существенно не меняет результатов.

Числовой пример[ редактировать ]

Этот набор данных дает среднюю массу тела женщин как функцию их роста в выборке американских женщин в возрасте 30–39 лет. Хотя в статье OLS утверждается, что для этих данных было бы более подходящим запустить квадратичную регрессию, здесь вместо этого применяется простая модель линейной регрессии.

Высота (м), x _i	1,47	1,50	1,52	1,55	1,57	1,60	1,63	1,65	1,68	1,70	1,73	1,75	1,78	1,80	1,83
Масса (кг), y _i	52,21	53,12	54,48	55,84	57,20	58,57	59,93	61,29	63,11	64,47	66,28	68,10	69,92	72,19	74,46

$i$	$x_{i}$	$y_{i}$	$x_{i}^{2}$	$x_{i}y_{i}$	$y_{i}^{2}$
1	1,47	52,21	2,1609	76,7487	2725,8841
2	1,50	53,12	2,2500	79,6800	2821,7344
3	1,52	54,48	2,3104	82,8096	2968.0704
4	1,55	55,84	2,4025	86,5520	3118.1056
5	1,57	57,20	2,4649	89,8040	3271,8400
6	1,60	58,57	2,5600	93,7120	3430,4449
7	1,63	59,93	2,6569	97,6859	3591.6049
8	1,65	61,29	2,7225	101.1285	3756.4641
9	1,68	63,11	2,8224	106,0248	3982,8721
10	1,70	64,47	2,8900	109,5990	4156,3809
11	1,73	66,28	2,9929	114,6644	4393.0384
12	1,75	68,10	3,0625	119,1750	4637.6100
13	1,78	69,92	3,1684	124,4576	4888.8064
14	1,80	72,19	3,2400	129,9420	5211.3961
15	1,83	74,46	3,3489	136,2618	5544.2916
$\Sigma$	24,76	931,17	41,0532	1548,2453	58498,5439

В этом наборе данных n = 15 точек. Расчеты вручную начинаются с нахождения следующих пяти сумм:

{\begin{aligned}S_{x}&=\sum x_{i}\,=24.76,\qquad S_{y}=\sum y_{i}\,=931.17,\\[5pt]S_{xx}&=\sum x_{i}^{2}=41.0532,\;\;\,S_{yy}=\sum y_{i}^{2}=58498.5439,\\[5pt]S_{xy}&=\sum x_{i}y_{i}=1548.2453\end{aligned}}

Эти величины будут использоваться для расчета оценок коэффициентов регрессии и их стандартных ошибок.

{\begin{aligned}{\widehat {\beta }}&={\frac {nS_{xy}-S_{x}S_{y}}{nS_{xx}-S_{x}^{2}}}=61.272\\[8pt]{\widehat {\alpha }}&={\frac {1}{n}}S_{y}-{\widehat {\beta }}{\frac {1}{n}}S_{x}=-39.062\\[8pt]s_{\varepsilon }^{2}&={\frac {1}{n(n-2)}}\left[nS_{yy}-S_{y}^{2}-{\widehat {\beta }}^{2}(nS_{xx}-S_{x}^{2})\right]=0.5762\\[8pt]s_{\widehat {\beta }}^{2}&={\frac {ns_{\varepsilon }^{2}}{nS_{xx}-S_{x}^{2}}}=3.1539\\[8pt]s_{\widehat {\alpha }}^{2}&=s_{\widehat {\beta }}^{2}{\frac {1}{n}}S_{xx}=8.63185\end{aligned}}

График точек и линии наименьших квадратов в численном примере простой линейной регрессии

Квантиль t- распределения Стьюдента 0,975 с 13 степенями свободы составляет $t * 13 = 2,1604$ , и, таким образом, 95% доверительные интервалы для $α$ и $β$ равны

{\begin{aligned}&\alpha \in [\,{\widehat {\alpha }}\mp t_{13}^{*}s_{\alpha }\,]=[\,{-45.4},\ {-32.7}\,]\\[5pt]&\beta \in [\,{\widehat {\beta }}\mp t_{13}^{*}s_{\beta }\,]=[\,57.4,\ 65.1\,]\end{aligned}}

Коэффициент корреляции продукта момент также может быть рассчитана:

{\widehat {r}}={\frac {nS_{xy}-S_{x}S_{y}}{\sqrt {(nS_{xx}-S_{x}^{2})(nS_{yy}-S_{y}^{2})}}}=0.9945

Этот пример также демонстрирует, что сложные вычисления не преодолеют использование плохо подготовленных данных. Первоначально высота была дана в дюймах и была преобразована в ближайший сантиметр. Поскольку преобразование привело к ошибке округления, это не точное преобразование. Исходные дюймы могут быть восстановлены округлением (x / 0,0254), а затем преобразованы в метрические единицы без округления: если это будет сделано, результаты станут

{\widehat {\beta }}=61.6746,\qquad {\widehat {\alpha }}=-39.7468.

Таким образом, кажущееся небольшое изменение данных имеет реальный эффект.

См. Также [ править ]

Матрица дизайна # Простая линейная регрессия
Линия фитинга
Оценка линейного тренда
Линейная сегментированная регрессия
Доказательства с использованием обычных наименьших квадратов - вывод всех формул, используемых в этой статье, в общем многомерном случае.

Ссылки [ править ]

^ Seltman, Говард J. (2008-09-08). Экспериментальный дизайн и анализ (PDF) . п. 227.
^ «Статистическая выборка и регрессия: простая линейная регрессия» . Колумбийский университет . Проверено 17 октября 2016 . Когда в регрессии используется одна независимая переменная, это называется простой регрессией; (...)
^ Лейн, Дэвид М. Введение в статистику (PDF) . п. 462.
^ Zou KH; Tuncali K; Сильверман С.Г. (2003). «Корреляция и простая линейная регрессия». Радиология . 227 (3): 617–22. DOI : 10,1148 / radiol.2273011499 . ISSN 0033-8419 . OCLC 110941167 . PMID 12773666 .
^ Альтман, Наоми; Кшивинский, Мартин (2015). «Простая линейная регрессия». Методы природы . 12 (11): 999–1000. DOI : 10.1038 / nmeth.3627 . ISSN 1548-7091 . OCLC 5912005539 . PMID 26824102 .
^ Кинни, ДФ и уход, Е. С. (1962) «линейная регрессия и корреляция.» Гл. 15 по математике статистики , Pt. 1, 3-е изд. Принстон, Нью-Джерси: Ван Ностранд, стр. 252–285.
↑ Casella, G. и Berger, RL (2002), «Статистический вывод» (2-е издание), Cengage, ISBN 978-0-534-24312-8 , стр. 558–559.

Внешние ссылки [ править ]

Объяснение Wolfram MathWorld аппроксимации методом наименьших квадратов и того, как его вычислить
Математика простой регрессии (Роберт Нау, Университет Дьюка)

[1] Seltman, Говард J. (2008-09-08). Экспериментальный дизайн и анализ (PDF) . п. 227.

[:0-2] «Статистическая выборка и регрессия: простая линейная регрессия» . Колумбийский университет . Проверено 17 октября 2016 . Когда в регрессии используется одна независимая переменная, это называется простой регрессией; (...)

[3] Лейн, Дэвид М. Введение в статистику (PDF) . п. 462.

[4] Zou KH; Tuncali K; Сильверман С.Г. (2003). «Корреляция и простая линейная регрессия». Радиология . 227 (3): 617–22. DOI : 10,1148 / radiol.2273011499 . ISSN 0033-8419 . OCLC 110941167 . PMID 12773666 .

[5] Альтман, Наоми; Кшивинский, Мартин (2015). «Простая линейная регрессия». Методы природы . 12 (11): 999–1000. DOI : 10.1038 / nmeth.3627 . ISSN 1548-7091 . OCLC 5912005539 . PMID 26824102 .

[6] Кинни, ДФ и уход, Е. С. (1962) «линейная регрессия и корреляция.» Гл. 15 по математике статистики , Pt. 1, 3-е изд. Принстон, Нью-Джерси: Ван Ностранд, стр. 252–285.

[7] Casella, G. и Berger, RL (2002), «Статистический вывод» (2-е издание), Cengage, ISBN 978-0-534-24312-8 , стр. 558–559.

vтеКоличественные методы прогнозирования
Прогнозы исторических данных Скользящее среднее Экспоненциальное сглаживание Анализ тренда Разложение временного ряда Наивный подход
Ассоциативные (причинные) прогнозы Скользящее среднее Простая линейная регрессия Регрессивный анализ Эконометрическая модель