По построению АКФ является четной функцией, т.е. . Ввиду четности АКФ обычно рассчитывается лишь для .

При значение АКФ представляет собой оценку дисперсии изучаемого поля, при АКФ выражает связь значений поля для соседних пикетов (дискретов) и представляет собой оценку коэффициента корреляции для этих значений, при АКФ выражает связь между значениями поля, отстоящими друг от друга на два дискрета и т.д.

На практике часто используются нормированные значения автокорреляционных функций R н. (m) . При этом нормирование осуществляется на R(0) :

(4.5)

Можно показать, что оценка нормированных значений автокорреляционной функции, при достаточном объеме выборки (количестве точек на профиле) обладает следующими свойствами :

3. Автокорреляционная функция является четной, то есть R н. (m)= R н. (-m), поэтому при оценках автокорреляционных функций обычно ограничиваются ее значениями для неотрицательных значений аргумента m>=0.

4.Два случайных процесса F 1 ={f 1 , f 2 ,…..f n } и F 2 ={kf 1 , kf 2 ,…..kf n } отличающиеся только постоянным множителем k, имеют один и тот же вид нормированной автокорреляционной функции R н (m).

5.Два случайных процесса F 1 ={f 1 , f 2 ,…..f n } и F 2 ={f 1 +k, f 2 +k,…..f n +k} смещенные относительно друг друга на постоянную величину k, имеют один и тот же вид нормированной автокорреляционной функции R н (m).

Анализируя выражения 4.1 и 4.5 можно сделать вывод о том, что нормированные значения автокорреляционной функции R н. (m) есть не что иное, как коэффициент корреляции, рассчитанный для точек удаленных друг от друга на m пикетов. Таким образом, значения корреляционной функции, для конкретного аргумента m показывает насколько значения поля, удаленные друг от друга на m пикетов, коррелированны между собой. Так, если R(5)=0.85 , то это свидетельствует о том, что значения поля, удаленные друг от друга на 5 пикетов, в целом, достаточно коррелированны, если R(9)=0.05 , то значения поля удаленные на 9 пикетов практически независимы (некоррелированны). Наконец, если, например, R(13)=-0.9 , то между значениями поля, отстоящими друг от друга на 13 пикетов, существует сильная обратная корреляционная связь. Случайный процесс, для которого даже при единичном смещении R(1)<=0 , получил название абсолютно некоррелируемого процесса (“белый шум”) .

На рисунке 4.1 приведены примеры расчета нормированных автокорреляционных функций для различных случайных процессов, близких по форме к константе (1), синусоиде (2), абсолютно некоррелируемому процессу (3), квадратичной (4) и линейной (5) функциям. Из второго рисунка следует, что автокорреляционная функция периодического процесса является также периодической. При этом период автокорреляционной функции совпадает с периодом процесса. Для абсолютно некоррелируемого сигнала значения автокорреляционной функции близки к нулю при любых значениях аргумента, отличных от нуля.

Нормированные значения автокорреляционной функции постоянного процесса тождественно равны единице, так как при любых смещениях m значения случайного процесса полностью совпадают, то есть абсолютно коррелируемы.

По АКФ определяется такой важный атрибут, как интервал корреляции. Под интервалом или радиусом корреляции понимают такое расстояние между значениями поля r , начиная с которого значения поля и можно считать некоррелированными, а при нормальном законе распределения – независимыми между собой. Для оценки интервала корреляции используются разные эвристические приемы. Наиболее распространенным приемом является оценка величины r по заданному значению , где . При этом r принимается равным аргументу АКФ, m , начиная с которого выполняется соотношение .

Для оценки интервала корреляции используются также соотношения:

или .

На практике, радиус корреляции оценивают по минимальному значение аргумента m, при котором автокорреляционная функция первый раз пересекает ось абсцисс.

Форма АКФ и интервал корреляции используются при решении различных задач обработки геофизических данных, из них выделим следующие:

1) Оценка корреляционных свойств сигналов и помех. При отсутствии корреляции между сигналом помехой , что обычно постулируется, т.е. появление сигнала не зависит от помехи, АКФ представляется суммой АКФ сигнала и АКФ помехи, поскольку :

Из этого выражения следует, что при малой интенсивности помехи по сравнению с интенсивностью сигнала АКФ представляет оценку корреляционных свойств сигнала, и, наоборот, на интервале, где отсутствует сигнал, АКФ оценивает свойства помехи;

2) АКФ сигнала и помех является основой расчета всех оптимальных фильтров, рассматриваемых в главе VII;

3) При совпадении формы сигнала и формы АКФ помехи никакая дополнительная обработка по их разделению не внесет ничего нового, поскольку при этом частотные диапазоны сигнала и помехи полностью перекрываются между собой;

4) Разделение на однородные в статистическом отношении участки с целью геологического картирования. С этой целью используются обычно одновременно среднее значение, дисперсия и интервал корреляции, рассчитываемые в скользящих окнах;

5) Оценка разрешающей способности сейсмической записи по величине отношения , где Т - период записи. При Н , близком к единице, разрешающая способность велика, при Н £0,5 - низкая;

6) Использование интервала корреляции для оценки глубины залегания h объектов по потенциальным полям .

На этом простом соотношении между глубиной h и интервалом корреляции r , точно выполняемом для объектов в виде цилиндров бесконечного простирания, основаны приемы гравитационного, предложенного А.М.Петрищевским, и корреляционного, предложенного А.В.Петровым, зондирований потенциальных полей;

7) Оценка длительности реализации, например, длины профиля, для которой рассчитывается АКФ. В общем случае дисперсия АКФ определяется выражением , из которого следует возможность оценивания длительности самой реализации n .

Корреляционный анализ используется при необходимости оценить временные свойства сигнала без применения спектрального анализа, например, для оценки скорости изменения или длительности сигнала, временной связи (корреляции) одного сигнала с другим.

Взаимная корреляционная функция определяет временную связь двух сигналов во времени. Если сигналы не зависимы друг от друга, их корреляционная функция равна нулю. Чем шире корреляционная функция, тем большая степень связи двух сигналов друг с другом.

Взаимная корреляционная функция определяется соотношением

Пример получения взаимной корреляционной функции показан на рис.1. Значение корреляционной функции в любой момент x определяется площадью пересечения функцийи сдвинутой копии.

Взаимная корреляционная функция не обязательно симметрична и её максимум может оказаться не в точке x=0.

Автокорреляционной функцией (АКФ) ограниченного во времени сигнала называется выражение вида

где x – временной сдвиг исходного сигнала.

Геометрический смысл автокорреляционной функции заключается в определении площади пересечения функции и её копии, сдвинутой на времяx (Рис.2)

Изменяя время сдвига x до тех пор, пока сигнал и его копия перестанут пересекаться (в данном случае), получим АКФ. Очевидно, что при изменении знака сдвига при одинаковой его величине функция автокорреляции одинакова, т.е., что говорит о четном её характере. Ясно, что приx=0 автокорреляционная функция имеет максимум, при этом

а в свою очередь полная энергия сигнала равна

Таким образом, максимум автокорреляционной функции определяет полную энергию сигнала. При увеличении сдвига x АКФ убывает до нуля.

Примеры

Прямоугольный импульс (рис. 3 ).

Для x >0 имеем

и интеграл для x <0

Максимум АКФ равен энергии сигнала:

2) Треугольный импульс. Построение АКФ показано на рис. 4 .

Произведение представляет собой нелинейную функцию от t . Полная энергия сигнала (максимум АКФ) равнаДлительность АКФ равна удвоенной длительности сигнала.

3. Сигнал представляет собой пачку из идентичных импульсов, расположенных на равных расстояниях друг относительно друга. АКФ также будет иметь вид пачки импульсов, удаленных друг от друга на те же расстояния, причем амплитуды импульсов в пачке будут убывать от центра к краям (см. рис. 5 )

14. Общая теория радиосигналов. Понятие узкополосного и широкополосного сигнала. Понятие частоты и фазы радиосигнала, их взаимосвязь. Понятие базы сигнала.

Общие определения

К радиосигналам относят высокочастотные почти гармонические (квазигармонические) колебания, в которых амплитуда или мгновенная частота или фаза медленно меняются по некоторому закону. Процесс изменения одного или нескольких параметров высокочастотного гармонического колебания называется модуляцией. В системе радиосвязи закон модуляции должен соответствовать закону изменения передаваемого низкочастотного сообщения.

Частота исходного высокочастотного гармонического колебания называется несущей частотой. Устройство, создающее это колебание, называется генератором несущей частоты или задающим генератором. К нему предъявляются высокие требования к стабильности амплитуды и частоты.

Несущее колебание имеет вид

где -амплитуда,-частота, 0 -начальная фаза.

Различают амплитудную (АМ),частотную (ЧМ) и фазовую (ФМ) модуляцию. При амплитудной модуляции по закону низкочастотного сигнала меняется мгновенная амплитуда, при частотной модуляции – частота, при фазовой модуляции – фаза. Бывают и смешанные виды модуляции. В отдельный класс можно выделить импульсные виды модуляции и манипуляции, при которых происходит дискретное изменение параметра высокочастотного колебания.

Основные понятия о базе сигнала

В системах связи используется такое понятие как база сигнала, которое определяется теоремой Котельникова. То есть исходя из нее любой сигнал с финитным спектром можно разложить на несколько отсчетов, взятых через интервалы времени , где F – верхняя граничная частота спектра сигнала (рис. 1).

Рис. 1. Пояснение к тереме Котельникова

В данном случае, если сигнал существует только в течение времени - Т ‚ то количество отсчетов будет равно

Эта величина определяет размерность пространства, в котором представляется сигнал координатами (отсчетами мгновенных значений через временные интервалы ). В этой связи в теории связи эту величину называют базой сигнала:

. (2.2)

В иных случаях говорят, что величина определяет базис сигнала, т.е. количество осей координат, в котором раскладывается сигнал.

Сравнительный анализ узкополосных и

широкополосных сигналов

В действующих системах связи, использующих дискретные сигналы значение базы для простых сигналов равно (рис. 2). Этот же сигнал можно представить в виде сложного сигнала, база которого будет равна -(см. рис. 2).

Рис. 2. Простой и сложный сигналы

База сигнала указывает на зависимость ширины спектра от длительности сигнала. В случае применения простых сигналов ширина его спектра мала:

в связи с чем такие сигналы называют узкополосными. Следует заметить, что спектр узкополосного сигнала после модуляции не намного отличается от спектра первичного сигнала.

Для сложных сигналов

В этом случае спектр сложного сигнала как до, так и после модуляции намного превышает спектр первичного сигнала, поэтому его принято называть широкополосным.

Для начала вспомним понятие полной фазы радиосигнала

Сигналы, у которых изменяется полная фаза в соответствии с модулирующим сигналом называются сигналами с угловой модуляцией.

Для начала рассмотрим сигналы с фазовой модуляцией (phase modulation PM). У сигналов с PM полная фаза изменяется в соответствии с модулирующим сигналом:

а сам радиосигнал может быть представлен следующим образом:

где называется индексом частотной модуляции или девиацией частоты, а модулирующий сигнал по модулю не превосходит единицыТогда полную фазу радиосигнала можно рассчитать как интеграл от мгновенной частоты:

где - произвольная постоянная интегрирования полной фазы (8). Обратите внимание, что абсолютно не верно подставлять выражение для мгновенной частоты вместо несущей частоты в выражение для полосового сигнала:

так как Правильным является выражение (9)!

16. Сигналы с внутриимпульсной модуляцией. Сигналы с линейной частотной модуляцией. Фазо-кодо-манипулированные сигналы. Математические модели, спектральные характеристики, особенности применения.

Фазо-кодо-манипулированные импульсы (ФКМ)

ФКМ радиоимпульсы характеризуются скачкообразным изменением фазы внутри импульса по определенному закону, например (рис. 1.66):

код трехэлементного сигнала

закон изменения фазы

трехэлементный сигнал

или семиэлементный сигнал (рис. 1.67)

Таким образом, можно сделать выводы:

· АЧС сигналов с ЛЧМ является сплошным.

· Огибающая АЧС определяется формой огибающей сигнала.

· Максимальное значение АЧС определяется энергией сигнала, которая в свою очередь, прямопропорциональна амплитуде и длительности сигнала.

· Ширина спектра равна гдедевиация частоты и не зависит от длительности сигнала.

· База сигнала (коэффициент широкополостности) может бытьn >>1.Поэтому ЛЧМ сигналы называют широкополосными.

ФКМ радиоимпульсы длительностью представляют собой совокупность следующих друг за другом без интерваловэлементарных радиоимпульсов,длительность каждого из них одинакова и равна.Амплитуды и частоты элементарных импульсов одинаковы, а начальные фазы могут отличаться на(или какое-либо другое значение). Закон (код) чередования начальных фаз определяется назначением сигнала. Для ФКМ радиоимпульсов, используемых в радиолокации разработаны соответствующие коды, например:

1, +1, -1 - трехэлементные коды

-два варианта четырехэлементного кода

1 +1 +1, -1, -1, +1, -2 - семиэлементный код

Спектральную плотность кодированных импульсов определяют,используя свойство аддитивности преобразований Фурье, в виде суммы спектральных плотностей элементарных радиоимпульсов.

Графики АЧС для трехэлементного и семиэлементного импульсов приведены на рисунке 1.68

Как видно из приведенных рисунков, ширина спектра ФКМ радиосигналов определяется длительностью элементарного радиоимпульса

Коэффициент широкополостности

Где N -количество элементарных радиоимпульсов.

ФКМ сигналы применяются в широкополосных системах связи, радиолокации, в устройствах идентификации обьектов.

6. Понятие нормированной функции. Понятие ортонормированной системы функций.

Нормирование метрических параметров . Норма функций в пространстве L 2 определяется выражением:

Нетрудно заключить, что чем больше интервал в этой формуле, тем больше (при прочих равных условиях) будет значение нормы. При анализе и сравнении сигналов (как аналоговых, так и многомерных дискретных) такое понятие не всегда удобно, и вместо него очень часто используют понятие нормы, нормированной относительно длины интервала. Для символьного обозначения нормирования будем применять знак  :

||s(t)|| =, ||s n || =.

Метрика сигналов (расстояние между сигналами) при аналогичном нормировании:

d (s(t), v(t)) =, d (s n , v n) =

Эти выражения применяются для вычисления среднеквадратического расхождения сигналов или среднеквадратической погрешности выполнения какой-либо операции при сравнении ее результата с теоретически ожидаемым или априорно известным.

Нормированное скалярное произведение сигналов:

б s(t), v(t)  =s(t)v(t) dt = ||s(t)|| ||v(t)|| cos .

б s n , v n   =(1/N)s n v n = ||s n || ||s n || cos .

Косинус угла (коэффициент корреляции) между сигналами – функциями не изменяет своих значений при вычислении как по нормированным, так и по ненормированным значениям скалярного произведения и нормы сигналов (значения нормировки в числителе и знаменателе выражения (2.1.8) сокращаются). Взаимная перпендикулярность функций определяется аналогично взаимной перпендикулярности векторов условием нулевого значения скалярного произведения.

Норма, метрика и скалярное произведение периодических функций обычно нормируются на длину главного периода Т.

Ортогональные сигналы. Два сигнала называются ортогональными (orthogonal), если имеют нулевое скалярное произведение

б u(t), v(t) =u(t)v(t) dt = 0.

Соответственно, два таких сигнала в своем функциональном пространстве являются взаимно перпендикулярными (угол между сигналами равен  = 90 о), полностью независимыми друг от друга (некоррелированными, r = cos , и имеют нулевую энергию взаимодействия (E uv = 0).

На рисунке 2.3.1 приведены примеры взаимно ортогональных сигналов. Нулевое скалярное произведение двух левых сигналов обеспечивается их формой (равна нулю сумма положительных и отрицательных значений произведения сигналов), а двух правых - взаимным расположением (ненулевые значения сигналов не имеют общих координат).

Рис. 2.3.1. Ортогональные сигналы.

Попутно заметим, что энергия и мощность суммы ортогональных сигналов обладают свойством аддитивности, т.к. имеют нулевое значение скалярного произведения и, соответственно, энергии взаимодействия.

Ортонормированный базис пространства. Множество сигналов – векторов {v k , k = 1, 2, …, N} в N-мерном декартовом пространстве при единичной норме и выполнении условий взаимной ортогональности:

б v m , v n  = (2.3.1)

могут быть приняты в качестве ортонормированного базиса данного пространства. Выражение (2.3.1) обычно записывается в следующей форме:

б v m , v n  =  mn , (2.3.1")

где  mn – импульс Кронекера, равный правой части выражения (2.3.1).

С использованием ортонормированного базиса любой произвольный сигнал можно представить в виде линейной комбинации взвешенных базисных векторов:

s = c 1 v 1 + c 2 v 2 + … + c N v N ,

где весовое значение с k определяется проекцией вектора s на соответствующее координатное направление:

c k =  s, v k  .

При распространении данных положений на функциональное пространство L 2 в качестве координатного базиса пространства мы должны использовать совокупность функций {u 0 (t), u 1 (t), u 2 (t), …}, в пределе - бесконечную, которая должна быть системой ортогональных функций {u k (t), k=0, 1, 2, …}, т.е. все функции на этом отрезке должны быть взаимно ортогональны:

б u m (t), u n (t) =u m (t) u n (t) dt = 0, m = 1, 2, ... ; n = 1, 2, ... ; m  n.

Система ортогональных функций на интервале будет ортонормированной (orthonormal functions), если все функции системы при m=n имеют единичную норму, т.е. выполняются условия:

б u m (t), u m (t) = ||u m (t)|| 2 =(u m (t)) 2 dt = 1, ||u m (t)|| = 1, m = 1, 2, ....

Эти условия можно записать в следующей обобщенной форме:

u m (t)·u n * (t) dt =  m,n .

Система ортогональных функций всегда может быть превращена в ортонормированную путем нормировки, т.е. деления всех функций на их норму.

Автокорреляционная функция - зависимость взаимосвязи между функцией (сигналом) и ее сдвинутой копией от величины временного сдвига.

Для детерминированных сигналов автокорреляционная функция (АКФ ) сигнала f (t) {\displaystyle f(t)} определяется интегралом :

где E { } {\displaystyle \mathbb {E} \{\ \}} - математическое ожидание , звездочка означает комплексное сопряжение.

Если исходная функция строго периодическая , то на графике автокорреляционной функции тоже будет строго периодическая функция. Таким образом, из этого графика можно судить о периодичности исходной функции, а следовательно, и о её частотных характеристиках. Автокорреляционная функция применяется для анализа сложных колебаний , например, электроэнцефалограммы человека.

Энциклопедичный YouTube

1 / 3

Автокорреляционная функция

Что такое Автокорреляция?

Частная автокорреляционная функция

Субтитры

К сожалению, коэффициенты процесса скользящего среднего плохо интерпретируемы. Что означает 2ε(t- 1) + 3ε(t- 2) совершенно непонятно. И для интерпретации используют так называемую автокорреляционную функцию процесса: ρk или Corr(Yt, Yt- k) - эта функция называется автокорреляционной функцией процесса. По смыслу для стационарного процесса с нормально распределенными игриками ρk показывает, насколько в среднем изменится сегодняшний Y, если Y k-периодов назад, то есть Yt- k, вырос на 1. Давайте на примере того же самого МА (2)-процесса, процесса скользящего среднего порядка 2, посчитаем и проинтерпретируем автокорреляционную функцию на этот раз. Значит, нас интересует ρk, то есть это Corr (корреляция) между Yt и Y k-периодов назад. Сначала мы заметим какие-то общие соображения, как считать автокорреляционную функцию для любого процесса. По определению корреляции: Corr(Yt, Yt- k) это есть Cov(Yt, Yt- k), деленная на корень из произведения дисперсий: Var(Yt) * Var(Yt- k). Однако у нас стационарный процесс. Здесь мы пользуемся тем, что процесс стационарный, а именно – у него дисперсии одинаковые. Var(Yt) = Var (Yt -k). Ну, соответственно, раз эти две дисперсии равны, то корень из них просто равен - одной из них, любой - Cov(Yt, Yt- k) в числителе так и остается, а в знаменателе корень из произведения двух одинаковых чисел дает просто первое из этих чисел. И, соответственно, мы договорились, что вот это - это автоковариационная функция - это γk, а это дисперсия или γ0. Соответственно, мы получили, что ρk, на самом деле, автокорреляционная функция. Это просто отмасштабированная автоковариационная. Я напомню предыдущие результаты. В предыдущем упражнении мы выяснили, что γk = 14ς квадрат, если k = 0, это дисперсия; - 3ς квадрат, если k = 1;- 2ς квадрат, если k = 2 и 0 при больших значениях k, а именно больше либо равным 3. Исходя из общей формулы, мы получаем, что ρ0 - это и есть γ0 на γ0, это всегда 1 для любого процесса, поэтому это неинтересный показатель, а вот остальные уже более интересные. ρ1- это есть γ1/γ0, в нашем случае мы получаем- 3/14. ρ2 - это есть γ2/γ0, это есть - 2/14. И, соответственно, ρ3 = ρ4 =... = 0. Соответственно, мы можем проинтерпретировать эти коэффициенты. Что означает ρ1? Он означает, что если нам известно, что Yt-1 (вчерашний Y) вырос на одну единицу, то это приводит к тому, что в среднем Yt падает на 3/14. Это мы можем проинтерпретировать ρ1. Ну и, соответственно, ρ2 мы интерпретируем аналогично. Если известно, что Yt- 2 (то есть позавчерашнее значение Y) оказалось, скажем, больше среднего на 1, то есть по сравнению с каким-то средним значением выросло на одну единицу, то мы можем сделать вывод, что Yt в среднем упадет на 2/14. Это мы интерпретируем вот этот коэффициент. Ну а, соответственно, ρ3, ρ4 и так далее интерпретируется следующим образом, что информация о значении Yt- 3 она уже не несет никакой информации о текущем Yt и, в частности, бесполезна при прогнозировании. А вот предыдущие два значения они нам важны.

Применение в технике

Корреляционные свойства кодовых последовательностей, используемых в широкополосных системах, зависят от типа кодовой последовательности, её длины, частоты следования её символов и от её посимвольной структуры.

Изучение АКФ играет важную роль при выборе кодовых последовательностей с точки зрения наименьшей вероятности установления ложной синхронизации.

Другие применения

Автокорреляционная функция играет важную роль в математическом моделировании и анализе временных рядов, показывая характерные времена для исследуемых процессов (см., например: Турчин П. В. Историческая динамика. М.: УРСС , 2007. ISBN 978-5-382-00104-3). В частности, циклам в поведении динамических систем соответствуют максимумы автокорреляционной функции некоторого характерного параметра.

Скоростное вычисление

Часто приходится вычислять автокорреляционную функцию для временного ряда x i {\displaystyle x_{i}} . Вычисление «в лоб» работает за O (T 2) {\displaystyle O(T^{2})} . Однако есть способ сделать это за .

Суть этого способа состоит в следующем. Можно сделать некое обратное взаимно однозначное преобразование данных, называемое преобразованием Фурье, которое поставит им во взаимно однозначное соответствие набор данных в другом пространстве, называемом пространством частот. У операций над данными в нашем обычном пространстве, таких как сложение, умножение и, главное, автокорреляция, есть взаимно-однозначные соответствия в пространстве частот Фурье. Вместо того, чтобы вычислять автокорреляцию «в лоб» на наших исходных данных, мы произведем соответствующую ей операцию над соответствующими данными в пространстве частот Фурье-спектра, что делается за линейное время O(T) - автокорреляции в пространстве частот соответствует простое умножение. После этого мы по полученным данным восстановим соответствующие им в обычном пространстве. Переход из обычного пространства в пространство частот и обратно делается с помощью быстрого преобразования Фурье за O (T log ⁡ T) {\displaystyle O(T\log T)} , вычисление аналога автокорреляции в пространстве частот - за O(T). Таким образом, мы получили выигрыш по времени при вычислениях. и прямо пропорциональна первым n {\displaystyle n} элементам последовательности

Квадрат комплексного модуля берётся поэлементно: | a → | 2 = { Re 2 ⁡ a i + Im 2 ⁡ a i } {\displaystyle \left|{\vec {a}}\right|^{2}=\left\{\operatorname {Re} ^{2}a_{i}+\operatorname {Im} ^{2}a_{i}\right\}} . Если нет погрешностей вычисления, мнимая часть будет равна нулю. Коэффициент пропорциональности определяется из требования Ψ (0) = 1 {\displaystyle \Psi (0)=1} .

Автокорреляционная функция. Коррелограмма.

При наличии во временном ряду тенденции и циклических изменений значения последующего уровня ряда зависят от предыдущих. Зависимость между последовательными уровнями временного ряда называют автокорреляцией уровней ряда.

Количественно ее можно измерить с помощью индекса корреляции между уровнями исходного временного ряда и уровнями этого ряда, сдвинутыми на несколько шагов во времени.

Пусть задан временный ряд: у ,у,…у и пусть имеет место линейная корреляция между y t и y t -1 .

Определим коэффициент корреляции между рядами у t и у t -1 .

Для этого воспользуемся следующей формулой:

Пологая x j = у t -1 , y j = у t -1 , получим

(5.1)

Аналогично определяются коэффициенты автокорреляции второго и более высоких порядков. Так, коэффициент автокорреляции 2-го порядка характеризует тесноту связи между уровнями у и у и определяется по формуле:

(5.2)

Порядок уровня ряда автокорреляции называют лагом.

Для формулы (5.1) лаг равен единице, для (5.3) –двум.

Последовательность коэффициентов автокорреляции уровней первого, второго и т.д. порядков называют автокорреляционной функцией временного ряда (АКФ).

График зависимости ее значений от величины лага называется коррелограмой.

АКФ и коррелограмма позволяют определить лаг, при котором автокорреляция наиболее высокая, а, следовательно, и лаг, при котором связь между текущим и предыдущим уровнями ряда наиболее тесная, т.е. с их помощью можно выявить структуру ряда.

Коэффициент автокорреляции и АКФ целесообразно использовать для выявления во временном ряде наличия или отсутствия трендовой компоненты и циклической компоненты:

­ если наиболее высоким оказался коэффициент автокорреляции 1-го порядка, то исследуемый ряд содержит только тенденцию;

­ если наиболее высоким оказался коэффициент автокорреляции к-го порядка, то ряд содержит циклические колебания с периодичностью в к-моментов времени;

­ если, ни один из коэффициентов не является значимым, то можно сделать одно из двух предположений, относительно структуры этого ряда: либо ряд не содержит тенденции и циклических изменений и имеет структуру, сходную со структурой ряда, изображенного на рис.5.1в, либо ряд содержит сильную нелинейную тенденцию, для выявления которой нужно провести дополнительный анализ.

49. Обобщенная модель регрессии. Обобщенный метод наименьших квадратов. Теорема Айткена

При построении модели, например, линейного вида

У = а + b 1 * x 1 + b 2 * x 2 +… + b p * x p + ε (59.1)

случайная величина  представляет собой ненаблюдаемую величину. Для разных спецификаций модели разности между теоретическими и фактическими значениями могут меняться. В задачу регрессионного анализа входит не только построение самой модели, но и исследование случайных отклонений  i т.е. остаточных величин. После построения уравнения регрессии проводится проверка наличия у оценок  i некоторых свойств. Эти свойства оценок, полученных МНК, имеют очень важное практическое значение в использовании результатов регрессии и корреляции.

Коэффициенты регрессии b­ i , найденные на основе системы нормальных уравнений и представляющие собой выборочные оценки характеристики силы связи, должны обладать свойством несмещености. Несмещенность оценки означает, что математическое ожидание остатков равно нулю.

Это означает, что найденный параметр регрессии b­ i , можно рассматривать как среднее значение возможных значений коэффициентов регрессии с несмещенными оценками остатков.

Для практических целей важны не только несмещенность, но и эффективность оценок. Оценки считаются эффективными,если они характеризуются наименьшей дисперсией.

Для того, чтобы доверительные интервалы параметров регрессии были реальными, необходимо, чтобы оценки были состоятельными. Состоятельность оценок характеризует увеличение их точности с увеличением объема выборки.

Исследования остатков  i предполагают проверку наличия следующих пяти предпосылок МНК:

­ случайный характер остатков;

­ нулевая средняя величина остатков, не зависящая от х i ;

­ гомоскедастичность–дисперсия каждого отклонения  i одинакова для всех значений х;

­ отсутствие автокорреляции остатков. Значения остатков  i распределены независимо друг от друга;

­ остатки подчиняются нормальному распределению.

Если распределение случайных остатков  i не соответствует некоторым предпосылкам МНК, то следует корректировать модель.

Прежде всего, проверяется случайный характер остатков  i .

Если на графике получена горизонтальная полоса распределения остатков, то остатки представляют собой случайные величины и МНК оправдан, теоретические значения у x хорошо аппроксимируют фактические значения у.

Возможны следующие случаи: если  i . зависит от у x то:

­ остатки  i . не случайны

­ остатки  i . не имеют постоянной дисперсии

­ остатки  i . носят систематический характер

В этих случаях необходимо либо применить другую функцию, либо вводить дополнительную информацию и заново строить уравнение регрессии до тех пор, пока остатки  i не будут случайными величинами.

Вторая предпосылка означает равенство нулю средней величины остатков:

. (59.2)

В соответствии с третьей предпосылкой МНК требуется, чтобы дисперсия остатков была гомоскедастичной. Это значит, что для каждого значения фактора х j остатки  i имеют одинаковую дисперсию. Если это условие применения МНК не соблюдается, то имеет место гетероскедастичность.

50. Доступный обобщенный метод наименьших квадратов

Метод наименьших квадратов. Некоторые более общие типы регрессионных моделей рассмотрены в разделе Основные типы нелинейных моделей. После выбора модели возникает вопрос: каким образом можно оценить эти модели? Если вы знакомы с методами линейной регрессии (описанными в разделе Множественная регрессия) или дисперсионного анализа (описанными в разделе Дисперсионный анализ), то вы знаете, что все эти методы используют оценивание по методу наименьших квадратов. Основной смысл этого метода заключается в минимизации суммы квадратов отклонений наблюдаемых значений зависимой переменной от значений, предсказанных моделью. (Термин наименьшие квадраты впервые был использован в работе Лежандра - Legendre, 1805.)
Метод взвешенных наименьших квадратов. Третьим по распространенности методом, в дополнение к методу наименьших квадратов и использованию для оценивания суммы модулей отклонений (см. выше), является метод взвешенных наименьших квадратов. Обычный метод наименьших квадратов предполагает, что разброс остатков одинаковый при всех значениях независимых переменных. Иными словами, предполагается, что дисперсия ошибки при всех измерениях одинакова. Часто, это предположение не является реалистичным. В частности, отклонения от него встречаются в бизнесе, экономике, приложениях в биологии (отметим, что оценки параметров по методу взвешенных наименьших квадратов могут быть также получены с помощью модуля Множественная регрессия).

Например, вы хотите изучить связь между проектной стоимостью постройки здания и суммой реально потраченных средств. Это может оказаться полезным для получения оценки ожидаемых перерасходов. В этом случае разумно предположить, что абсолютная величина перерасходов (выраженная в долларах) пропорциональна стоимости проекта. Поэтому, для подбора линейной регрессионной модели следует использовать метод взвешенных наименьших квадратов. Функция потерь может быть, например, такой (см. книгу Neter, Wasserman, and Kutner, 1985, стр.168):

Потери = (наблюд.-предск.) 2 * (1/x 2)

В этом уравнении первая часть функции потерь означает стандартную функцию потерь для метода наименьших квадратов (наблюдаемые минус предсказанные в квадрате; т.е., квадрат остатков), а вторая равна “весу” этой потери в каждом конкретном случае - единица деленная на квадрат независимой переменной (x) для каждого наблюдения. В ситуации реального оценивания, программа просуммирует значения функции потерь по всем наблюдениям (например, конструкторским проектам), как описано выше и подберет параметры, минимизирующие сумму. Возвращаясь к рассмотренному примеру, чем больше проект (x), тем меньше для нас значит одна и та же ошибка в предсказании его стоимости. Этот метод дает более устойчивые оценки для параметров регрессии (более подробно, см. Neter, Wasserman, and Kutner. 1985).

51. Тест Чоу

Формальный статистический тест для оценки модели тенденции временного ряда при наличии структурных изменений был предложен Грегори Чоу*. Применение этого теста предполагает расчет параметров уравнений трендов. Введем систему обозначений, приведенную в табл.

Таблица 3 –Условные обозначения для алгоритма теста Чоу

Предположим, гипотеза Н0 утверждает структурную стабильность тенденции изучаемого временного ряда. Остаточную сумму квадратов по кусочно-линейной модели (C кл ост) можно найти как сумму С 1 ост и C 2 ост

C кл ост = С 1 ост + C 2 ост (62.1)

Соответствующее ей число степеней свободы составит:

(n 1 - k 1) + (n 2 – k 2) = n – k 1 - k 2 (62.2)

Тогда сокращение остаточной дисперсии при переходе единого уравнения тренда к кусочно-линейной модели определить следующим образом:

DС ост = C 3 ост - С кл ост (62.3)

Число степеней свободы, соответствующее DС с учетом соотношения (23) составит:

n – k 3 - (n – n 1 – k 2) = k 1 + k 2 - k 3 (62.4)

Затем, в соответствии с Г. Чоу методикой Г. Чоу находится фактическое значение F-критерия по следующим дисперсиям на одну степень свободы вариации:

(62.5)

Найденное значение F факт сравнивают с табличным, (таблица распределения Фишера для уровня значимости α ‚ а и числа степеней свободы (k 1 + k 2 – k 3) и (n - k 1 - k 2)

Если F факт > F табл ‚ то гипотеза о структурной стабильности тенденции отклоняется, а влияние структурных измен на динамику изучаемого показателя признают значимым. В этом случае моделирование тенденции временного ряда следует произвести с помощью кусочно-линейной модели. Если

F факт < F табл то нулевая гипотеза структурной стабильности тенденции не отвергается. Ее моделирование следует осуществлять с помощью единого для всей совокупности уравнения тренда.

Особенности применения теста Чоу.

1. Если число параметров во всех уравнениях из таблицы 3 (1), (2), (3) одинаково и равно k, то формула (56) упрощается:

(62.6)

2. Тест Чоу позволяет сделать вывод о наличии или отсутствии структурной стабильности в изучаемом временном ряде. Если F факт < F табл, то это означает, что уравнения (1) и (2) описывают одну и ту же тенденцию, а различия численных оценок их пара метров а 1 и а 2 , а также b 1 и b 2 соответственно статистически не значимы. Если же F факт > F табл то гипотеза о структурной стабильности отклоняется, что означает статистическую значимость различий в оценках параметров уравнений (1) и (2).

З. Применение теста Чоу предполагает соблюдение предпосылок о нормальном распределении остатков в уравнениях (1) и (2) и независимость их распределений.

Если гипотеза о структурной стабильности тенденции ряда у, отклоняется, дальнейший анализ может заключаться в, исследовании вопроса о причинах этих структурных различий и более де 1 изучении характера изменения тенденции. В принятых обозначениях эти причины обусловливают различия в оценках параметров уравнений (1) и (2).

Возможны следующие сочетания изменений числейных оценок параметров этих уравнений:

Изменение численной оценки свободного члена уравнения Тренда а 2 по сравнению с а 1 при условии, что различия b 1 и b 2 статистически незначимы. Геометрически это означает, что прямые (1) (2) параллельны. Происходит скачкообразное изменение уровня ряда у t , в момент времени t ‚ и неизменном среднем абсолютном приросте за период;

Изменение численной оценки параметра b 2 по сравнению с b 1 при условии, что различия между а 1 и а 2 статистически незначимы. Геометрически это означает, что прямые (1) и (2) пересекают ось координат в одной точке. Изменение тенденции происходит посредством изменение среднего абсолютного прироста временного ряда, начиная с момента времени t ‚ при неизменном начальном уровне ряда в момент времени t =0

Изменение численных оценок параметров а 1 и а 2 , а так же b 1 и b 2 . На графике это отображается изменением начального уровня и счреднего за период абсолютного прироста