15. Матричная форма мнк при построении модели (этап оценки коэффициентов модели).

МНК имеет три этапа: = (a₀...a_k) - вектор- столбец x = (x₁...x_k) - вектор- столбец f(x) = (1, x₁,.., x_k) - наблюдаемые значения, – оценки, - истинные значения Эксперимент проводится в N точках, т.о. фиксируем x и y. x₁, x₂,..., x_N - точки экспериментов. xⁱ = (xⁱ₁, xⁱ₂,..., xⁱ_n) 1  i  N - вектор наблюдений функции отклика.

Для оценки адекватности модели в любой точке xⁱ эксперимент повторяется  раз.

Информационная матрица

- ошибка, погрешность.

Требуемые условия. 1. Результаты наблюдений свободны от систематических ошибок E - математическое ожидание. 2. Результат наблюдений в точке x^j не зависит от результата наблюдений в точке xⁱ . 3. Дисперсия результатов наблюдений во всех точках одинакова. для любых i. 4. Оценка является несмещенной

5. Дисперсия оценки должна быть минимальна где - оценка, которая еще пока не найдена.

Так как S/a = 0 то следовательно

x ⁱ

14. Корреляционное отношение Применение коэф. корреляции ограничивается случаем линейной связи. Для оценки нелинейной связи используют корреляционное отношение. Корреляционное отношение требует расчета условных дисперсий. Зависимость D_у׀х = φ(х) – скедастическая функция. Если φ(х)=const, то условная дисперсия переменной У –постоянна, не зависит от х и говорят, что связь между случайными переменными у и х гомоскедастическая. Чтобы получить представление о рассеянии случайной переменной у во всем диапазоне изменения переменной Х₁ используют вероятностную, называемую средней условной дисперсией . По гомоскедастической связи, когда D_у׀х =const, то ничем не отличается от D_у׀х . По определению Установим соотношение между полной дисперсией D_y и средней условной дисперсией . Формула полной дисперсии случайной переменной у записывается в виде D_y= M[ y² ]-m²_y, m_y= M[y] Cделаем искусственное преобразование. Прибавим и отнимем от правой части M[m²_ylx], где m_ylx= M[y l x] -условное мат.ожидание D_y= M[ y² ] - M[m²_ylx] + M[m²_ylx] - m²_y Вспомним, что = M[ y² ] - M[ m²_ylx] M[m²_ylx] - m²_y = D{M[ylx]} Это следует из D{M[ylx]} = D[m_ylx] = M[m²_ylx] - {M[m_ylx]}² = M[m²_ylx]-m²_y, т.е. D_y= + D{M[ylx]} Это формула разбиения дисперсий.

Т.е. полная дисперсия является суммой средней условной дисперсии и дисперсии условного математического ожидания. Поясним это. Если х – входная, а у – выходная переменные, то дисперсия условного мат. ожидания D{M[ylx]} представляет собой ту часть полной дисперсии D_y выходной переменной у, которая связана с влиянием входной переменной х. Вторая часть полной дисперсии – средняя условная дисперсия – определяется влиянием совокупности всех остальных переменных, кроме учтенной переменной х. Так как = D_y – D{M[ylx]} , то ≤D_y Равенство имеет место, когда D{M[ylx]} = 0 В качестве меры корреляц. отношения принято η²_yx=1 - / D_y ; η_yx – корреляц. отношение

Свойства: 1. 0 ≤ η_yx ≤ 1 ; 0 ≤ η_xy ≤1. Это свойство следует из формул η_yx=1- /D_y η_xy = 1- /D_x

аналогично η²_yx= D{ M[ylx] } / D_y η²_xy = D{ М[xly] } / D_x 2. Величина η всегда положительна. 3. Равенство η_yx= 0 означает, что переменная y не коррелированна с переменной x. Если x и y – независимы, то η_yx= 0. 4. Равенство η_yx=1 соответствует функциональной связи между y и x. 5. В общем случае η_yx ≠ η_xy, т.е. данная связь несимметрична

6. Если связь между переменными x и y линейна, то η_yx= η_xy. 7. При линейной регресии η_yx= ׀r_yx ׀, т.е. корреляционное отношение служит характеристикой и линейной связи. 8. При нелинейной регрессии всегда η_yx> ׀r_yx ׀, т.е. коэффициент корреляции при нелинейной стохастической связи дает заниженные оценки. Разность η²_yx-r²_yx=h²_yx – индикатор степени нелинейности стохастической связи.