Коэффициент детерминации и линейная регрессия

Квадрат коэффициента корреляции выборки, как правило, обозначается  и называется коэффициентом детерминации.

Коэффициент детерминации оценивает долю дисперсии (изменчивости) Y, которая объясняется с помощью X в простой линейной регрессионной модели.

Итак, пусть мы наблюдаем значения X_i и соответствующие значения Y_i , например, доза лекарственного препарата, назначенного пациенту и эффект, доля примеси в меди и проводимость и тд.

Выборочный коэффициент корреляции вычисляется по формуле:

Покажем, как коэффициент корреляции и коэффициент детерминации связан с линейной регрессией.

Пусть по наблюдениям   построена линейная регрессионная модель:

где коэффициенты a,b оценки по методу наименьших квадратов.

Общее изменение Y_i относительно среднего значения можно разложить следующим образом:

(*)

где   - предсказанные значения Y. Формула (*) это основное тождество регрессионного анализа.

Выражение (*) можно преобразовать:

Затем мы применяем свойство наименьших квадратов регрессионной модели, что ковариация выборки между предсказанными значениями и остатками  и  равна нулю.

Таким образом, коэффициент корреляции выборки между наблюдаемыми и предсказанными значениями равен:

Отсюда получаем, что квадрат коэффициента корреляции между наблюдаемыми и предсказанными равен доле дисперсии, которая объясняется X в линейной регрессионной модели.

Связанные определения:
Выборочный коэффициент корреляции
Корреляционный анализ
Корреляция
Коэффициент корреляции
Некоррелированный

В начало

Содержание портала