Построение краткосрочного прогноза в рамках адаптивной модели

дипломная работа

1.4.2 Авторегрессия второго порядка AR(2)

Текущее значение процесса AR(2) в момент t формируется как линейная комбинация его значений в предыдущие моменты (t-1) и (t-2), и независимой от них случайной величины . Как и ранее, процесс будем считать белым шумом. Процессы AR(2) обладают большей «памятью», чем процессы AR(1).

Определение. Случайный процесс X(t) называют процессом авторегрессии второго порядка (коротко AR(2)), если для X(t) выполняется соотношение

(12)

где и - некоторые константы.

С помощью соотношения (12) значения X(t) можно определить в любой момент через посредство последовательности и значений X(t) в моменты t0 и

Условие стационарности. Так же, как это было для AR(1), из условия стационарности X(t) вытекает, что MX(t)=0. Условие стационарности накладывает также определенные ограничения на параметры , Ниже будет показано, что для стационарного процесса AR(2)

(13)

Ограничения (13) задают на плоскости треугольную область. Верно и обратное если точка с координатами попадает внутрь этого треугольника, то с помощью (12) можно задать стационарный процесс AR(2) с параметрами .

Определим числовые характеристики и их оценки. Пусть . Для стационарного процесса AR(2) с нулевым средним для любого t. С использованием (12) для выводим соотношения

Вычисляя , таким же образом получим, что

Для автокорреляционной функции эти равенства дают

(14)

Соотношения (14) называют уравнениями Юла-Уолкера. Они связывают параметры процесса AR(2) со значениями его автокорреляционной функции:

(15)

Аналогичным путем для произвольного целого k получаем соотношение:

(16)

Рассмотрим это соотношение как уравнение, и найдем все последовательности, скажем , которые ему удовлетворяют. Решения уравнения (16) связаны с корнями квадратного уравнения (его называют характеристическим)

(17)

Пусть - корни (17), которые сейчас предположим различными. Случай рассмотрим позже. Легко проверить, что последовательности удовлетворяют (16). Более того, нетрудно доказать, что любое решение (16) является их линейной комбинацией, т.е. любое решение (16) имеет вид:

(18)

где -- произвольные числа.

Теперь рассмотрим случай, когда уравнение (17) имеет кратный корень Легко проверить, что в этом случае линейно-независимыми решениями (16) служат последовательности . Поэтому общее решение (16) в случае кратного корня (17) имеет вид

(19)

Заметим, что последовательности (18) и (19) неограниченно возрастают с ростом k, если хотя бы одно из чисел превосходит 1. Поскольку -коэффициент корреляции, и не может превосходить по модулю 1, необходимо, чтобы .Более аккуратный анализ показывает, что если X(t) - стационарная последовательность, не являющаяся постоянной, то

(20)

Последнее условие -- не только необходимое следствие стационарности X(t), но и достаточное: если выполнено (20), то существует стационарная последовательность X(t), удовлетворяющая (16).

Формулы (18), (19) указывают общее решение уравнения (16). Чтобы полностью задать автокорреляционную функцию rk стационарного процесса AR(2), надо еще правильно подобрать значения неопределенных коэффициентов .

Начнем со случая, когда корни - действительные числа. В этом случае надо взять такие действительные числа чтобы выполнялись соотношения (см. (14)).

(21)

При таком выборе формулы (18), (19) дают явное выражение для rk при любом . Корни уравнения (17) могут быть и комплексными (комплексно-сопряженными) числами. В этом случае надо дополнительно позаботиться о том, чтобы формула (18) при всяком k определяла бы действительное значение для автокорреляции rk, . Для этого числа следует взять тоже комплексными и сопряженными. При таком выборе выражение (18) преобразуется так, что в нем участвуют только действительные числа и действительные функции переменного k:

(22)

Действительные числа b и f определяются значениями . Роль неопределенных параметров в (22), которые надо подбирать, играют и . Для того, чтобы получить окончательную формулу для rk, их надо выбрать с помощью условия (21). Видно, что формула (22) задает экспоненциально затухающую синусоиду. Условие стационарности (20) можно выписать в явном виде через значения коэффициентов и AR(2) процесса. Для этого надо записать значения . в виде корней квадратного уравнения (17) через и . Решение получаемых таким образом неравенств приводит к указанным в (13) условиям для и .

Определение. Процесс авторегрессии второго порядка с ненулевым средним определяют соотношением

Здесь .

Также как и ранее учитывая стационарность рассматриваемого процесса, в качестве оценки можно взять , где .

Оценки и можно получить из (15), заменяя истинные значения их выборочными оценками и :

(23)

Для оценки дисперсии белого шума может быть использована остаточная сумма квадратов S, а именно:

(24)

Откуда получаем:

(25)

где значение знаменателя в (25) получено уменьшением исходного числа слагаемых в (24) на 3, за счет оценки параметров и .

1.4.3 Авторегрессия порядка р -- AR(p)

Выше для простейших моделей авторегрессии были довольно подробно выведены и разобраны их свойства. В этом пункте мы приведем без доказательства сводку основных результатов, касающихся AR(p) процессов.

Определение. Случайный процесс X(t) со средним значением называется процессом авторегрессии порядка р или кратко AR(p), если для него выполняется соотношение:

(26)

Поведение автокорреляционной функции АR(р) процесса. По аналогии с тем, как мы поступали с AR(2) процессом, рассмотрим корреляцию между X(t) и X(t-k). Получаем:

(27)

Укажем общее решение уравнения (27) относительно . Оно задается с помощью корней характеристического уравнения:

Пусть - корни этого уравнения, которые мы предполагаем различными. Так же, как и в случае AR(2) процесса общее решение системы разностных уравнений (27) относительно может быть записано в виде:

Из требования стационарности AR(p) процесса вытекает, что все . Рассмотрим возможное поведение автокорреляционной функции в случае несовпадающих корней . При этом возможны два случая.

1. Корень вещественный. При этом член экспоненциально затухает с ростом k.

2. Пара корней - комплексно-сопряженные числа. Как и в случае AR(2), они вносят в rk слагаемые типа которые являются экспоненциально затухающими синусоидами.

Таким образом, в общем случае автокорреляционная функция стационарного AR процесса является суммой затухающих экспонент и затухающих синусоидальных волн.

Оценим коэффициенты AR(p) процесса. Рассмотрим выражение (27) для значений . При этом мы получим систему уравнений Юла-Уолкера (аналогичную (14) для AR(2) процесса).

(28)

Решая эту систему относительно неизвестных значений параметров и подставляя вместо неизвестных значений их оценки по наблюденному временному ряду, получаем искомые оценки коэффициентов AR(p) модели.

Частная автокорреляционная функция (ЧАКФ) полезна, когда по наблюденному отрезку временного ряда мы пытаемся подобрать для его описания подходящую ARMA-модель. Подобно автокорреляционной функции, ЧАКФ определяется для каждого натурального k и представляет собой бесконечную последовательность. Ее элементы мы обозначим через , Определение ЧАКФ и ее значений тесно связано с AR(p) моделями. Дадим определение для произвольного р. Систему уравнений Юла-Уолкера (28) можно формально рассмотреть как систему уравнений, связывающих неизвестные со значениями автокорреляции . Эта система - линейная; при заданных она легко может быть решена численно. Пусть - решение системы (28). Из этого набора чисел нам нужно всего одно число, а именно . По определению, мы полагаем значением ЧАКФ при k=p.

С уравнениями Юла-Уолкера и их решениями для мы уже встречались в п. 1.4.1 и 1.4.2. По результатам этих подразделов мы можем найти при :

(29)

Формальное определение ЧАКФ дано. Посмотрим, каковы ее свойства. Рассмотрим для примера стационарный процесс авторегрессии первого порядка (1). Согласно (2), в этом случае , причем . По определению ЧАКФ, здесь . Чтобы найти , надо рассмотреть систему Юла-Уолкера (28) при р=2 и ее решение . С учетом (2), получаем, что удовлетворяют условиям

Умножим первое уравнение на и вычтем из второго. Получим, что . Так как , то это равенство возможно лишь при . Подобным способом находим, что для AR(1)

(30)

Обратно, если выполняется (30), то процесс является процессом авторегрессии первого порядка.

Приведем без доказательства некоторые свойства частной автокорреляционной функции.

1. Для любого .

2. При имеет место .

3. Если рассматриваемый стационарный процесс является AR(p) процессом, то все при .

Для того, чтобы получить оценки по реализации , следует для каждого k решить соответствующую систему уравнений Юла-Уолкера (28), в которой значения автокорреляционной функции заменены их выборочными оценками . На практике в статистических пакетах для вычисления оценок используется специальные рекурсивные процедуры, позволяющие быстро осуществить вычисления оценок. Мы не будем подробнее останавливаться на этом вопросе. Последовательность оценок называют выборочной частной автокорреляционной функцией.

Укажем некоторые статистические свойства оценок при условии, что они построены по реализации AR(p) процесса. При

M

(31)

Указанные аппроксимации справедливы, если k много меньше длины реализации n. Это свойство оценок позволяет использовать выборочную частную автокорреляционную функцию для подбора порядка p модели процесса авторегрессии.

Подбор порядка р модели AR(p) процесса. Правило предварительного выбора порядка модели AR(p) процесса с использованием выборочной частной автокорреляционной функции звучит так. В качестве предварительного порядка модели AR(p) можно рассматривать такое число р, начиная с которого все последующие оценки выборочной частной автокорреляционной функции отклоняются от нуля не более чем на . То есть

для всех

Окончательный подбор порядка модели AR(p) процесса связан со статистической значимостью полученных коэффициентов модели и детальным изучением поведения остатков, получаемых вычитанием из исходного ряда значений подобранной AR(p) модели . Пусть - оценки коэффициентов подобранной модели. Для удобства записи формул обозначим первые р значений реализации через . Тогда подобранное значение AR(p) с номером можно записать в виде:

(32)

Подобранное значение с номером имеет вид:

(33)

где значение в (33) вычислено с помощью (32). Продолжая этот итеративный процесс, можно получить все значения при a также спрогнозировать дальнейшее поведение процесса, то есть вычислить значение и т.д. Если полученные остатки для ведут себя как белый шум, то процесс подбора модели можно считать завершенным. В противном случае, следует изменить порядок подбираемой модели или перейти к более сложным комбинированным моделям авторегрессии-скользящего среднего.

Делись добром ;)