4. Коэффициент детерминации и корреляционное отношение.

Согласно основной идее дисперсионного анализа

,

где - групповая средняя для i-го уровня фактора.

Последнее равенство запишем в виде:

Q = Q_R + Q_e ,

где Q – общая сумма квадратов отклонений зависимой переменной от средней, Q_R – сумма квадратов, обусловленная регрессией, а Q_e - остаточная сумма квадратов, характеризующая влияние неучтенных факторов.

Схему дисперсионного анализа представим в виде таблицы:

Часто возникает необходимость в достоверном показателе интенсивности связи при любой форме зависимости. Для получения такого показателя запишем правило сложения дисперсий:

s_y² = s_iy^{/ 2} + δ_iy ²,

где s_y² – общая дисперсия переменной y, s_iy^{/ 2} – средняя групповых дисперсий s_iy² или остаточная дисперсия и δ_iy ² – межгрупповая дисперсия. Остаточная диспесия измеряет ту часть колеблемости Y, которая возникает из-за изменчивости неучтенных факторов, не зависящих от Х. Межгрупповая дисперсия выражает ту часть вариации Y, которая обусловлена изменчивостью Х.

Величина называется эмпирическим корреляционным отношением Y по Х. Чем теснее связь, тем большее влияние на вариацию переменной Y оказывает изменчивость Х по сравнению с неучтенными факторами, тем выше η_ух. Величина η_ух² , называемая эмпирическим коэффициентом детерминации, показывает, какая часть общей вариации Y обусловлена вариацией Х. Аналогично вводится эмпирическое корреляционное отношение Х по Y.

Основные свойства корреляционных отношений:

1. Корреляционное отношение есть неотрицательная величина, не превосходящая 1: 0 ≤ η ≤ 1.

2. Если η = 0, то корреляционная связь отсутствует.

3. Если η = 1, то между переменными существует функциональная зависимость.

Эмпирическое корреляционное отношение η_ух является показателем рассеяния точек корреляционного поля относительно эмпирической линии регрессии, которое преувеличивает тесноту связи. Поэтому рассматривается показатель тесноты связи R_yx, характеризующий рассеяние точек корреляционного поля относительно линии регрессии у_х. Показатель R_yx получил название теоретического корреляционного отношения или индекса корреляции Y по Х:

.

Можно показать, что R_yx = .

Коэффициент детерминации R², равный квадрату индекса корреляции, показывает долю общей вариации зависимой переменной, обусловленной регрессией или изменчивостью объясняющей переменной. Чем ближе R² к 1, тем теснее наблюдения примыкают к линии регрессии, тем лучше регрессия описывает зависимость переменных.

Расхождение между η² и R² может быть использовано для проверки линейности корреляционной зависимости.