Регрессионный анализ

курсовая работа

1. Основные понятия.

С целью математического описания конкретного вида зависимостей с использованием регрессионного анализа подбирают класс функций, связывающих результативный показатель y и аргументы x1, x2,…,хk , отбирают наиболее информативные аргу-менты, вычисляют оценки неизвестных значений параметров уравнения связи и анализируют точность полученного уравнения.[8]

Функция f(x1, x2,…,хk ), описывающая зависимость условного среднего значения результативного признака у от заданных значений аргументов, называется функцией (уравнением) регрессии.

Термин "регрессия" (лат. - "regression" - отступление, возврат к чему-либо) введен английским психологом и антропологом Ф.Гальтпном и связан только со спецификой одного из первых конкретных примеров, в котором это понятие было использовано.

Обрабатывая статистические данные в связи с вопросом о наследственности роста, Ф.Гальтон нашел, что если отцы отклоняются от среднего роста всех отцов на x дюймов, то их сыновья отклоняются от среднего роста всех сыновей меньше, чем на x дюймов. Выявленная тенденция была названа «регрессией к среднему состоянию». ?????? ?????????????? ??????? ??????? ? ?????????? ??????, ??????????? ?? ????????? ??????????? ??????????? ???????? ?????? ???????? ????????? ??????????. ????????????? ?????? ???????? ???????? ????????? ???????????? ???????????? ????? ?????????-?????????????? ???????????. ??? ?????? ?? ?????????? ? ?????? ????? ???????????????? ? ?????????????? ??????? ???????????? ?????? ???????? ?????????. ????????? ??????????????? ???????????? ??????? ? ???, ??? ????? ????? ?????????? ??????? ? ????????????? ?????????? ???????. ?????? ????? ?????? ????? ????? ????????? ?????????, ????? ??????? ???????? ?????????? ???????, ??????????????? ??????????? ???????. ???????? ?????????? ??????? ?????????. ?????? ?????????????? ??????????, ????????? ? ????????????? ????????, ??????? ? ?????????????, ??? ????????????? ?????? ???????????? ????????? ? ???????????, ?????? ??? ????????? ???????? ????????? ????????????. ????? ????, ? ?????? ?????? ?? ????????????? ?????????? ??? ??????????? ????????. ?????, ?? ????????, ??????????, ????? ???? ???????? ???????????, ? ??????? ?????? ???????? (????????, ????????? ???????? ?????????), ? ????? ???????? (???????, ????? ????? ?????????????????? ?????).

Для точного описания уравнения регрессии необходимо знать услов-ный закон распределения результативного показателя у. В статистической практике такую информацию получить обычно не удается, поэтому ограничиваются поиском подходящих аппроксимаций для функции f( x1, x2,…,хk ), основанных на исходных статистических данных.

В рамках отдельных модельных допущений о типе распределения век-тора показателей (у, x1, x2,…,хk ) может быть получен общий вид уравнения регрессии f(x)=M(y/x) x=( x1, x2,…,хk ). Например, в предложении, что исследуемая совокупность показателей подчиняется (k + 1) - мерному нормальному закону распределения с вектором математических ожиданий

M =,

где Mx = , y = MY

и ковариационной матрицей = ,

где yy = 2у = M (y-My);

yx = ; xx = ;

ij = M (xi - Mxi);(xj - Mxj); jj = j = M (xj - Mxj).[12]

Из этого следует, что уравнение регрессии (условное математическое ожидание) имеет вид:

M(y/x) = y + (x - Mx).

Таким образом, если многомерная случайная величина (у, x1, x2,…,хk ) подчиняется (k +1)-мерному нормальному закону распределения, то уравнение регрессии результативного показателя у по объясняющим переменным x1, x2,…,хk имеет линейный по х вид. ????? ????????? ? ?????????? ?????????? ??????? ? ?????????. ?? ????????? ????????, ??????????????? ?????????????? ??? ????????? ????????? ?????????????? ?????????, ?????????? ????, ??????? ????? ????? ?????? ?????????????? ????????????. ????? ?????????? ?? ?? ????????? ??? ???? ????????? ??????????, ??? ???? ? ?.?. ????????? ??????????? ?? ??? ???, ???? ? ????????? ?? ????? ???????? ??? ????????? ?????????? ??????????????, ??????????????? ????????? ?????????? ?????????. ?????????: ?? ????????? ???????????? ???????? ????????? ?????????? ?????????? ????????? ??????????????? ?????? ?????????? ??????????. ??????????, ??????????? ????????????? ??????????. ?????????? ??????????, ??????????? ??????????, ???????????? ???????????. ????????? ?????????? ??????? ????????????? ????????? ????????? ????? ???? ??????? ?????????? ???????? ????????? ??????????, ?????? ??? ????? ???? ????????? ? ???, ??? ???????? ??????????, ? ??? ??? ??? ?? ??????????.

Однако в статистической практике обычно приходится ограничиваться поиском подходящих аппроксимаций для неизвестной истинной функции регрессии f(x), так как исследователь не располагает точным знанием условного закона распределения вероятностей анализируемого результатирующего показателя у при заданных эначениях аргументов х=х.

Рассмотрим взаимоотношение между истиной f(х)= M(y/x), модельной у и оценкой у регрессии. ?????? ??? ????????? ??????????? ????? ???????????, ???? ??????????????? ?????????? ? ?????????? ????????? ????????? ??? ????????????????? ??????????, ?? ?????? ????????????? ????????? ???????? ?? ?? ?????????? ???????? ?????? ? ???, ????? ???????? ? ??????? ??????? ?????? ?? ???????. ?????????????? ??????????. ???? ????????????. ???????????? ? ????????? ????????? ???????? ??? ?????????? ????????? ????????? ???? ?????????? ? ????????. ? ?????? ??????????? ????? ??????????? ? ?????? ????? ????????? ????? ??????????? ???????? ????. ?????????? ? ?????????? ???????????? ?????????. ????? ????????? ??????????? ????????????, ?????????? ??? ?????????? ????????? ?????????, ? ??????? ? ???????? ????????? ?????????? ????? ?????? ??????????. ?? ????????? ?????, ??? ???????? ???????????? ??? ????????????, ??? ??????? ?????????? ??????? ? ?????????? ???????????. ??? ?????????? ????? ????????????? ?????????. ? ?????? ?????? ?????????? ??????????? ?? ???????????? ?????????? - ??????????? ???????? ??? ??????? ????????????? ???????????? ???????? ???????? ??????????, ??????? ?? ?????????? ????????, ??? ??????????. ?????????? ????????? ?????????? ? ?????????. ??? ???????????????? ??????? ?????????? ????????????? ?????????????, ?????????? ?? ?????????? ????????? ? ?????????? ??????????.

Пусть результативный показатель у связан с аргументом х соотноше-нием::

y = + ,

где - случайная величина, имеющая нормальный закон распределения, при-чем М = 0 и

D = .

Истинная функция регрессии в этом случае имеет вид:

F(x) = M(y/x) = 2x.

Предположим, что точный вид истинного уравнения регрессии нам не известен, но мы располагаем девятъю наблюдениями над двумерной случайной величиной, связанной соотношением уi = 2x+ i, и предcтавленной на рисунке:

у

70

60

50

40

30

20

10

0

0 2 4 6 8 10

Взаимное расположение истинной f(x) и теоритической у модели регрессии.

Расположение точек на рисунке позволяет ограничиться классом линейных зависимостей вида: у = 0 + 1 x.[2]

С помощью метода наименьших квадратов найдем оценку уравнения регрессии

у = b0 +b1 x.

Дли сравнения на рисунке приводятся графики истинной функции регрессии f{х) =2x, теоретической аппроксимирующей функции рег-рессии = 0 + 1 x. К последней сходится по вероятности оценка уравнения регрессии при неограниченном увеличении объема выборки (n ).

Поскольку мы ошиблись в выборе класса функции регрессии, что, к сожалению, достаточно часто встречается в практике статистических исследований, то наши статистические выводы и оценки не будут обла-дать свойством состоятельности, т.е., как бы

мы не увеличивали объем наблюдений, наша выборочная оценка не будет сходиться к истинной функции регрессии f(х). ?????? ?????????????? ??????? ??????? ? ?????????? ??????, ??????????? ?? ????????? ??????????? ??????????? ???????? ?????? ???????? ????????? ??????????. ????????????? ?????? ???????? ???????? ????????? ???????????? ???????????? ????? ?????????-?????????????? ???????????. ??? ?????? ?? ?????????? ? ?????? ????? ???????????????? ? ?????????????? ??????? ???????????? ?????? ???????? ?????????. ????????? ??????????????? ???????????? ??????? ? ???, ??? ????? ????? ?????????? ??????? ? ????????????? ?????????? ???????. ?????? ????? ?????? ????? ????? ????????? ?????????, ????? ??????? ???????? ?????????? ???????, ??????????????? ??????????? ???????. ???????? ?????????? ??????? ?????????. ?????? ?????????????? ??????????, ????????? ? ????????????? ????????, ??????? ? ?????????????, ??? ????????????? ?????? ???????????? ????????? ? ???????????, ?????? ??? ????????? ???????? ????????? ????????????. ????? ????, ? ?????? ?????? ?? ????????????? ?????????? ??? ??????????? ????????. ?????, ?? ????????, ??????????, ????? ???? ???????? ???????????, ? ??????? ?????? ???????? (????????, ????????? ???????? ?????????), ? ????? ???????? (???????, ????? ????? ?????????????????? ?????).

Если бы мы правильно выбрали класс функций регрессии, то неточность в описании f(x) с помощью объяснялась бы только ограниченностью выборки и, следовательно, она могла бы быть сделана сколько угодно малой при n .

С целью наилучшего восстановления по исходным статистическим данным условного значения результатирующего показателя у(х) и неизвестной функции регрессии f(x) = M(y/x) наиболее часто используют следующие критерии адекватности (функции потерь).[7]

1. Метод наименьших квадратов, согласно которому минимизируется квадрат отклонения наблюдаемых значений результативного показателя yi(i=1,2,…,n) от модельных значений i = f(xi, ), где = (0, 1,…,k)- коэффициенты уравнения регрессии, xi - значение вектора аргументов в i-м наблюдении:

.

Решается задача отыскания оценки вектора . Получаемая регрессия называется среднеквадратической. ?? ??? ?????? ????????? ?????????? ???????? ????????. ?????? ????????????? ????????? ?? ?????????? ???????????? ??????????? ???????, ?? ????????, ???, ??? ??????? ????? ??????????, ????????????? ?????? ?????????????? ?????????. ??? ????????? ?????? ????????????? ????????? ?????????????? ????? ????????? ?????? ?????????. ? ?????? ??????????? ??????????, ??????????? ?????? ??? ??????. ?????????? ?? ???????? ????????????? ???????????? ??? ???????? ?????????????? ??????? ???? ????????????? ????????? ?? ???? ???????? ?????? ????????????? ???????? ???????? ????????? ?????????? ???????????? ????????. ??? ????? ????????? ?? ??? ????? ????????? ???????. ?????????? ? ???????? ???????? ????????? ???? ????????????? ????????????? ????? ????????????? ?????? ?, ???????????, ?? ???? ?????????? ?????????, ???????? ?? ???????????? ???????????? ????????. ???????????? ???????????? ? ????????????? ??????????. ??? ????????? ???????? ?????????, ????????? ?? ????????? ????????? ??????????, ??????? ??????????? ???? ??????????? ? ????????????? ?????????. ?????? ?? ???????????? ???????????? ?????????? ????????????? ??????????. ??????? ????? ? ????, ??? ???????? ????????? ???????. ?????????? ???????? ????????????? ?? ????????? ??????? ????? ?????.

Делись добром ;)