Modelos AR, MA & ARMA

Características dos Processos ARMA

Bueno, 2011, Capítulos 2 e 3

Enders, 2009, Capítulo 2.2 a 2.6

Morettin e Toloi, 2006, Capítulo 5.2

Aula 02

A expressão geral de uma série temporal, para o caso

univariado, é dada por

xt = f(xt-1, xt-2, ..., at). (1)

Para que (1) se torne operacional, é necessário

especificarmos três fatos: a forma funcional de f(), o número

de lags, e uma estrutura para o termo aleatório.

Introdução

PROCESSOS ARMA

Se por exemplo, especificarmos uma função linear nos

parâmetros com apenas uma defasagem (lag) e uma

perturbação do tipo ruído branco estacionário (média zero,

variância constante e não-autocorrelacionada), o resultado

será o seguinte processo autorregressivo de primeira ordem,

AR(1):

xt = 0 + 1xt-1 + at. (2)

O processo autorregressivo de ordem p, AR(p), pode ser

escrito da seguinte forma:

xt = 0 + 1xt-1 + 2xt-2 + ...+ pxt-p + at. (3)

Processos AR

OPERADOR LAG

O operador lag (ou, operador defasagem), representado por

L, aplicado a uma variável indexada em t (tempo), dá o valor

anterior na série temporal.

Tem-se, assim,

Lxt = xt-1

L2xt = xt-2

(1 – L)xt = xt – Lxt = xt – xt-1 = xt

em que,

é conhecido como operador diferença.

Usando os resultados do slide anterior, em (3), podemos

escrever um modelo AR(p), como,

(1 – 1L – 2L2 – ... – pLp)xt

= 0 + at (4)

em que

(L) = 1 – 1L – 2L2 – ... – pLp

(polinômio autorregressivo de grau p)

Processos AR

Considere que xt siga o seguinte processo

xt = 0 + 1xt-1 + 2xt-2 + ...+ pxt-p + t

em que

t ~ RB(0,2).

Condições de Estacionariedade:

As raízes da equação característica (L) = 0, devem ser, em

módulo, maiores do que 1 (raízes fora do círculo unitário).

CONDIÇÃO DE ESTACIONARIEDADE

PROCESSO AR(p)


xt = 0 + 1xt-1 + t

em que

t ~ RB(0,2).

Prova-se que, se

|1| < 1,

então xt será considerado estacionário.

PROPRIEDADES DOS PROCESSOS AR

PROCESSO AR(1)

Caso |1| < 1, tem-se que

E(xt) = 0 / (1 – 1) = .

Ou seja, a esperança incondicional de xt é constante e

invariante no tempo.

Prova-se, também, que, se |1| < 1, a variância incondicional

de xt é constante e igual a


PROCESSO AR(1) – cont.

2

1

222

1)(

tx xE

Exercício*

a) Encontre a FACV do processo AR(1), que foi apresentado

nos slides anteriores.

b) Verifique que a FAC do processo é dada por

..., , h hhh 321

111 ,




xt = 0 + 1xt-1 + 2xt-2 + t

em que

t ~ RB(0,2).

Condições de Estacionariedade

2 + 1 < 1

2 - 1 < 1

-1 < 2 < 1


PROCESSO AR(2)

Baseando-se no resultado anterior, tem-se que

E(xt) = 0 / (1 – 1 – 2).



Prova-se, também, que, sob as mesmas condições do slide

anterior, a variância incondicional de xt é constante e igual a

))()((

)(

21121121

221

0



Exercício

Prove que a FACV do processo AR(2) é dada por:

2211

2

01

0 ,2211 jjjj

com



221

21

221

11

5432211

e

com

hhhh ...,,,,



Exercício

Prove que a FAC do processo AR(2) é dada por:

pp

...1 2211

2

0


0 ,...2211 jpjpjjj

Do resultado anterior, prove que a FAC é dada por:

com

0 ,...2211 jpjpjjj

Exercício

Prove que a FACV do processo AR(p) é dada por:

PROCESSO AR(p)

FATO

Muitas vezes é difícil fazer a distinção entre processos AR de

diferentes ordens com base apenas nos correlogramas. (Pq?)

Função de Auto-correlação Parcial (FACP)

Essa distinção é possível com base no cálculo dos

coeficientes de correlação parcial.

Por exemplo, num processo AR(2), o parâmetro 2 é o

coeficiente de correlação parcial entre xt e xt-2, mantendo xt-1

constante.


Observação

De maneira geral, esperamos que:

a FAC empírica de uma série temporal estacionária que

seja modelada por um processo AR(p) amorteça para zero;

já a FACP, esperamos que seja aproximadamente zero para

todas as ordens superiores à ordem p do processo.


PROCESSO AR(p) – cont.

Exemplos

Observando os correlogramas, a seguir, indique um modelo

inicial para cada série temporal.


PROCESSOS ARMA

É possível assumir que o termo de perturbação at tenha uma

estrutura expressa por

at = t – 1t-1 – ... – qt-q (5)

em que

t é um processo ruído branco estacionário.

Ou seja, aqui estamos assumindo que at não é um processo

ruído branco.

Processos MA

Voltando à expressão geral de uma série temporal,

xt = f(xt-1, xt-2, ..., at). (1)

Dessa forma, uma possível especificação para o processo xt

é dada por um processo de médias móveis de ordem q,

MA(q):

xt = 0 + t – 1t-1 – ... – qt-q. (6)

Usando os resultados do slide 5, em (6), podemos escrever

xt = 0 + (1 – 1L – 2L

2 – ... – qLq)t (7)

em que

(L) = 1 – 1L – 2L2 – ... – qLq

(polinômio de médias móveis de grau q)

As equações (6) e (7) especificam um processo MA(q) puro.

Processos MA

O processo MA(1) é dado por

xt = 0 + t – 1t-1

em que

t ~ RB(0,2).

Não é difícil mostrar que

E(xt) = E(0 + t – 1t-1) = 0.



PROPRIEDADES DOS PROCESSOS MA

PROCESSO MA(1)

Ainda, a variância incondicional de

xt = 0 + t – 1t-1

é dada por:


PROCESSO MA(1) – cont.

2

1

222

1

2

111

2

1

111100

1

,2)()(

)()(

tttt

ttttt

CovVarVar

VarVarxVar

Ainda, a FACV é dada por



2 ,0

1 ,

0 ,)1(

2

1

22

1



Baseado no resultado anterior, não é difícil ver que a FAC fica

dada por

0... )1(

322

1

11

Ou seja, no caso do MA(1) a FAC trunca no lag 1.

O processo MA(1) pode ser invertido para dar t como uma

série infinita em função de xt, xt-1, ...

t = xt + 1xt-1 + 12xt-2 + ...

xt = t – 1xt-1 – 12xt-2 – ...

ou, ainda,

que é um processo AR().



Observação

Todavia, a equação

xt = t – 1xt-1 – 12xt-2 – ...

só fará sentido se

| 1 | < 1.

Se tal restrição não for observada, então os valores mais

distantes de xt terão um maior efeito no valor presente.



Observação (cont.)

A condição |1| < 1, é conhecida por condição de

invertibilidade. É semelhante à condição de estacionariedade

para um processo AR(1), mas a estacionariedade de um

processo MA(1) não impõe nenhuma condição para 1.




Ainda, como a equação xt = t – 1xt-1 – 12xt-2 – ... denota um

AR(), as auto-correlações parciais não caem bruscamente,

mas, decrescem, amortecendo gradualmente para zero; mas,

como vimos anteriormente, as auto-correlações são iguais a

zero a partir da segunda, inclusive.




As propriedades de um processo MA(1) puro são exatamente

ao contrário das de um processo AR(1) puro. Ou seja, a FAC

de um processo MA(1) é nula após o lag 1 e a FACP decai

exponencialmente para zero.




O processo MA(q) é dado por

xt = 0 + t – 1t-1 – 2t-2 – ... – qt-q

em que

t ~ RB(0,2)

Condições de Invertibilidade:

As raízes da equação característica (L) = 0 devem estar fora

do círculo unitário, em que

(L) = 1 – 1L – 2L2 – ... – qLq.


PROCESSO MA(q)

Em geral, num processo estacionário MA(q), os q primeiros

coeficientes da FAC são diferentes de zero, e os restantes

iguais a zero. Já os coeficientes da FACP, apresentam um

decaimento amortecido para zero.

Observação


PROCESSO MA(q) – cont.

Exercício

Considere o processo MA(2) dado por

xt = 0 + t – 1t-1 – 2t-2

em que

t ~ RB(0,2).

(i) Encontre a média, a variância, a facv e a fac de xt.

(ii) Quais devem ser as condições de invertibilidade de um

processo MA(2)? Justifique a sua resposta.


PROCESSO MA(2)

Exemplos Observando os correlogramas, a seguir, indique um modelo inicial para cada série temporal.


PROCESSOS ARMA

e combinando as equações

xt = 0 + 1xt-1 + 2xt-2 + ...+ pxt-p + at. (3)

e

xt = 0 + t – 1t-1 – ... – qt-q. (6)

teremos um processo misto, autorregressivo e de médias

móveis, ARMA(p, q):

xt = + 1xt-1 + 2xt-2 + ...+ pxt-p + t – 1t-1 – ... – qt-q (8)

Processos ARMA

Voltando à expressão geral de uma série temporal,

xt = f(xt-1, xt-2, ..., at). (1)

Ainda, utilizando os resultados do slide 5, em (8), podemos

escrever um modelo ARMA(p, q), como,

(1 – 1L – 2L2 – ... – pLp)xt

= + (1 – 1L – 2L2 – ... – qLq)t (9)

em que

(L) = 1 – 1L – 2L2 – ... – pLp

(L) = 1 – 1L – 2L2 – ... – qLq

Processos ARMA

• A estacionariedade do processo exige que as raízes de (L)

se situem fora do círculo unitário;

• A invertibilidade requer a mesma condição para as raízes

de (L);

• Verificadas estas condições, o processo ARMA(p, q) pode

ser expresso quer como um processo AR puro de ordem

infinita quer como um processo MA puro de ordem infinita.

PROPRIEDADES DOS PROCESSOS ARMA

PROCESSO ARMA(p,q)

Observação

O processo misto, sem constante, de ordem mais baixa é o

processo ARMA(1, 1):

xt = xt-1 + t – t-1.

Para esse caso, admitindo || < 1, é possível provar que:

221

2210


PROCESSO ARMA(1,1)

, ..., , h γ γ e σθ)θ)((

γ hhε 321

11

2

21

E a FAC do processo fica dada por,

, ... , hhρh ρ θθ

θ)θ)((ρ 321221

11

Já a FACV do processo ARMA(1, 1) é dada por


PROCESSO ARMA(1,1) – cont.

• 1 depende tanto do parâmetro da parte AR como do

parâmetro da parte MA.

• Os coeficientes seguintes decrescem exponencialmente,

com uma taxa de decréscimo dada pelo parâmetro AR.

• Contudo, e por comparação com o processo AR puro, os

coeficientes da FACP não decaem rapidamente, mas têm

um decrescimento amortecido para zero.


PROCESSO ARMA(1,1) – cont.

Observação

Padrões de Correlação

Processo FAC FACP

AR(p) Infinita: decai para zero

(exponencialmente ou segundo

uma senóide amortecida).

Finita: decai

bruscamente para zero a

partir do lag p.

MA(q) Finita: decai bruscamente para

zero a partir do lag q.

Infinita: decai para zero

(exponencialmente ou

segundo uma senóide

amortecida).

ARMA(p, q) Infinita: decai para zero

(exponencialmente ou segundo

uma senóide amortecida).

Infinita: decai para zero

(exponencialmente ou

segundo uma senóide

amortecida).

RESUMÃO

EXERCÍCIOS

Considere o modelo

yt = -0,2yt-1 + 0,48yt-2 + t + 0,6t-1 –0,16t-2, t = 1, 2, ...

a) Escreva o modelo de interesse, utilizando os polinômios

característicos.

b) Encontre as raízes dos polinômios característicos.

c) Escreva o modelo de interesse na forma fatorada.

Comente o resultado encontrado.

Exercício 1

Considere o processo

yt = 0,5yt-1 + t – 0,5t-1, t = 1, 2, ...

(a) O processo é estacionário?

(b) O processo é invertível?

(c) A memória deste processo é semelhante à memória

de um processo ruído branco?

Exercício 2


yt = t –0,6t-1 –0,1t-2, t = 1, 2, ...

Verifique se as condições de estacionariedade e

invertibilidade deste processo estão satisfeitas.

Exercício 3

Leitura Complementar I

Modelos Lineares Estacionários

Morettin e Toloi, 2006, Capítulo 5.2

Os modelos que aqui serão estudados são casos

particulares de um modelo de filtro linear.

Tal modelo supõe que a série temporal seja gerada através

de um filtro linear (ou sistema linear), cuja entrada é um

ruído branco (RB).

Na figura, a seguir, temos o exemplo de um esquema que

representa um filtro linear com série de entrada at, função

de transferência (L) e série de saída Zt.


Figura 1 - Filtro linear com série de entrada at, função de

transferência (L) e série de saída Zt.


at Zt

(L)

Filtro Linear

Apenas para lembrar


Ou seja, at é um RB estacionário.

tsaaEaaCov

taVar

taE

stst

at

t

,0)(),(

,,)(

,,0)(

2


Formalmente, temos que

Zt = µ + at + 1at-1 + 2at-2 + ... =

= µ + at + 1Lat + 2L2at + ... = µ + (L)at (1)

em que

L – operador defasagem

(L) = 1 + 1L + 2L2 + ... é denominada

função de transferência do filtro.

µ – parâmetro determinando o nível da série

Zt, dado em (1), é um processo linear (discreto).

Se a seqüência de pesos {j, j ≥ 1} for finita ou

infinita e convergente, o filtro é estável (somável) e

Zt é estacionária. Neste caso, µ é a média do

processo.

Caso contrário Zt é não estacionária e µ não tem

significado específico, a não ser como um ponto de

referência para o nível da série.


A condição anterior também pode ser expressa na

condição de que (L), que é a função geradora dos pesos

, deve convergir para |L| ≤ 1, isto é, dentro de e sobre o

círculo unitário. Esse resultado é discutido em detalhes no

Apêndice A3.1 do livro de Box, Jenkins e Reinsel (1994,

pag. 85-86).

Condições de Estacionariedade e Invertibilidade

e como

E(at) = 0, para todo t,

temos que

E(Zt) = µ

se a série

j

convergir.

Não é difícil, de (1), ver que,


1

)(j

jtjtt aaEZE

Também não é difícil ver que a facv, j, de Zt é

dada por

com 0 = 1.


0

2 ,i

jiiaj

Em particular, para j = 0, obtemos a variância de Zt,

A condição para que as duas expressões anteriores

existam é que


.)(0

22

0

j

jatZVar

.0

2

j

j

Assim verificamos que a média e a variância

de Zt são constantes e a covariância só

depende de j, logo, Zt é estacionária.


Podemos escrever

em uma forma alternativa, como uma soma ponderada

de seus valores passados mais um ruído at:

Segue-se que


tt ZZ~

1

2211

~...

~~~

j

tjtjtttt aZaZZZ

tt

j

j

j aZL

~1

1

ou

em que (L) é o operador


tt aZL ~

)(

...1)( 2

21 LLL

Mas,

de modo que

Esta relação pode ser usada para obter os pesos j em

função dos pesos j e vice-versa.


ou seja,

, )(~

tt aLZ

,)()(~

)( tttt aaLLaZL

)()(1)()( 1 LLLL

Exemplo 1



Zt = µ + (L)at

em que

j = ()j, j = 1, 2, 3, ...,

0 = 1;

|| < 1; e

at como definido anteriormente.

Exemplo 1 (cont.)


Temos que

logo, E(Zt) = µ.

,1

1

00

j

j

j

j

Exemplo 1 (cont.)


Ainda, dado que j2 converge, obtemos

e

2

2

01

a

0 ,1

2

2

ja

j

j

Exemplo 2

Para o modelo dado no Exemplo 1, considere, agora,

que = 1 e µ = 0; então

Não é difícil ver que j não converge. Dessa forma, o

processo será não-estacionário.


...1 ttt aaZ

Exemplo 3

O modelo dado no Exemplo 2 deriva da equação

Assim, da equação anterior, não é difícil observar que

Ou seja, a primeira diferença de Zt é um RB estacionário.

Dizemos que Zt é um passeio aleatório; seu valor no

instante t é uma soma de choques aleatórios que entraram

no sistema desde o passado remoto até o instante t.


.1 ttt aZZ

.1 ttt aZZ

Exercício


Zt = (L)at

em que

j = ()j, j = 1, 2, 3, ...,

0 = 1; e

|| < 1.

Encontre (L) e escreva (L)Zt = at. Interprete.


Exemplo 4


Zt = at + at-1,

ou seja,

1 = , j = 0, j > 1.

Assim, é possível afirmar que o processo é estacionário

para qualquer valor de ?


Exemplo 5

Utilizando o modelo proposto no Exemplo 4, vejamos como

deve ser para que possamos escrever Zt em termos de

seus valores passados.

Assim, vem que


....)1()1(

1)1( 22

tttttt aZLLaZL

aLZ

1,)()(...1)(0

22

jeLLLL j

j

j j

Exemplo 5 (cont.)

A seqüência formada pelos pesos j será

convergente se | | < 1 e neste caso dizemos que o

processo é invertível. Segue-se que para o

processo ser invertível o operador (L) deve

convergir para |L| ≤ 1, e


....2

2

1 tttt aZZZ

Proposição

Um processo linear geral será estacionário

se (L) convergir para |L| ≤ 1; será

invertível se (L) convergir para |L| ≤ 1. A

demonstração deste fato pode ser

encontrada, por exemplo, em Box, Jenkins

& Reinsel (1994).


O Teorema de Wold

Leitura Complementar II

Todo processo estacionário de segunda ordem,

puramente não-determinístico, pode ser escrito como

um Polinômio Linear Geral (PLG), dado a seguir:

(a) ,10

0

,

j

jtjtX

com {t} uma sequência de v.a. não correlacionadas,

de média zero e variância 2 constante (ruído branco

estacionário - RB) e j são constantes satisfazendo

j2 < .

Teorema de Wold

0

2

0

2

0

2

0

22

j

j

j

hjj

h

j

j

hjjh

j

jtt

ψ

XVarXE

,

)( )(

Ainda,

Teorema de Wold

Processos ARMA são casos particulares de (a).

Exemplos:

;, ρ

),AR(εXXψ

h

h

ttt

j

j

1

1~1

;, hρ ρ,)θ(

ρ

), ,ARMA(θεεXXθψ

hh

tttt

j

j

1 21

)1(

1 1~)(

121

11

1

;, j, ρθ)(

θ)( ρ

), MA(θεεX, jθ, ψψ

h

tttj

101

1~10

21

11

Teorema de Wold

Exercícios

O processo

Zt = (L)at

em que

j = ()j, j = 1, 2, 3, ...,

0 = 1; e

|| < 1.

é invertível?

Exercício 1

com

Considere o seguinte processo

t ~ RB(0 ; 2)

Exercício 2

0

,

j

jtjtX

10 ψ

1,)( 1 jθψ j

j

a) O processo é estacionário? Justifique.

b) O processo é invertível? Justifique.

Exercício 2 (cont.)

De acordo com as suposições feitas no exercício

anterior para obter a estacionariedade do processo,

encontre a FACV e a FAC do mesmo.

Exercício 3

Exercício 4

O processo

é estacionário e/ou invertível? Justifique a sua

resposta. Construa a FAC teórica desse processo.

Ainda, simule esse processo e construa a FAC do

processo simulado. Compare e comente os resultados.

em que

t ~ NID(0;1)

11 80,080,0 tttt XX

Modelos AR, MA & ARMA

Documents

Transcript of Modelos AR, MA & ARMA