4. Ковариация и коэффициент корреляции

Две дискретные случайные величины называются независимыми, если закон распределения одной из них не зависит от того, какое конкретное значение приняла вторая случайная величина. Теперь можно дать общее определение независимости непрерывных случайных величин Х и У.

Определение 1. Случайные величины Х и У называются независимыми, если их совместную функцию распределения F(х,у) можно представить в виде произведения двух функций распределения F₁(x) и F₂(y) этих случайных величин, т.е.

F(х,у) = F₁(x) F₂(y).

Если равенство не выполняется, то случайные величины называются зависимыми.

При изучении двумерных случайных величин иногда достаточно знать числовые характеристики их одномерных составляющих Х и У: математические ожидания и дисперсии, которые вычисляются по формулам:

а_х = М(Х) = х (х,у)dxdy,

а_у = М(У) = у (х,у)dxdy,

D(Х) = (х- а_х )² (х,у)dxdy,

D(У) = (у- а_у )² (х,у)dxdy.

Для определения степени зависимости между случайными величинами Х и У, вычисляют ковариацию и коэффициент корреляции.

Определение 2. Ковариацией (или корреляционным моментом) К_ху случайных величин Х и У называют математическое ожидание произведения отклонений этих величин от своих математических ожиданий, т.е.

К_ху = М[(Х – М(Х))(У – М(У))] = М[Х - а_х)(У - а_у)].

Из определения следует, что К_ху = К_ух.

Последняя формула принимает вид:

а) для дискретных случайных величин:

К_ху = (x_i - а_х)(y_j - а_у)p_ij ;

б) для непрерывных случайных величин:

К_ху = (х - а_х)(у - а_у) (х,у)dxdy.

Ковариация двух случайных величин характеризует как степень зависимости между ними, так и их рассеяние вокруг точки (а_х, а_у). Об этом же свидетельствуют свойства ковариации случайных величин.

1. Ковариация двух независимых случайных величин равна нулю.

2. Ковариация двух случайных величин равна математическому ожиданию их произведения без произведения их математических ожиданий, т.е.

К_ху = М(ХУ) – М(Х)М(У) = М(ХУ) - а_х а_у.

3. Ковариация двух случайных величин по модулю не превосходит произведения их средних квадратических отклонений, т.е.

≤ _{х у}.

Ковариация величина размерная и определяется размерностью случайных величин. Это затрудняет использование ковариации для оценки степени зависимости для различных случайных величин. Этих недостатков лишён коэффициент корреляции.

Определение 3. Коэффициентом корреляции двух случайных величин называют отношение ковариации к произведению их средних квадратических отклонений:

_ху = .

Из определения следует, что _ху = _ух = и коэффициент корреляции – величина безразмерная.

Основные свойства коэффициента корреляции.

1. Коэффициент корреляции по модулю не превосходит единицу, т.е.

-1 ≤ ≤ 1.

2. Если случайные величины независимы, то их коэффициент корреляции равен нулю, т.е. = 0.

Случайные величины называются некоррелированными, если их коэффициент корреляции равен нулю. Итак, из независимости случайных величин следует их некоррелированность.

Обратное утверждение, вообще говоря, неверное: из некоррелированности двух случайных величин ещё не следует их независимость.

3. Если коэффициент корреляции двух случайных величин равен 1 (по модулю), то между ними существует линейная функциональная зависимость.