Disciplina: Processamento Estat stico de Sinais (ENGA83 ... · Programa de P os-Gradua˘c~ao em...

32
Disciplina: Processamento Estat´ ıstico de Sinais (ENGA83) - Aula 06 / Classes Especiais de Processos Aleat´ orios Prof. Eduardo Simas ([email protected]) ProgramadeP´os-Gradua¸c˜ ao em Engenharia El´ etrica/PPGEE Universidade Federal da Bahia ENGA83 - Semestre 2012.1 Prof. Eduardo Simas (PPGEE/UFBA) Aula 06 - Classes Especiais de Proc. Aleat. ENGA83 - Semestre 2012.1 1 / 28

Transcript of Disciplina: Processamento Estat stico de Sinais (ENGA83 ... · Programa de P os-Gradua˘c~ao em...

Disciplina: Processamento Estatıstico de Sinais(ENGA83) - Aula 06 / Classes Especiais de Processos

Aleatorios

Prof. Eduardo Simas([email protected])

Programa de Pos-Graduacao em Engenharia Eletrica/PPGEEUniversidade Federal da Bahia

ENGA83 - Semestre 2012.1

Prof. Eduardo Simas (PPGEE/UFBA) Aula 06 - Classes Especiais de Proc. Aleat. ENGA83 - Semestre 2012.1 1 / 28

Conteudo

1 Introducao

2 Modelos Lineares DiscretosProcessos ARProcessos MAProcessos ARMA

3 Processos de Markov

4 Processos Gaussianos

Prof. Eduardo Simas (PPGEE/UFBA) Aula 06 - Classes Especiais de Proc. Aleat. ENGA83 - Semestre 2012.1 2 / 28

Introducao

Na analise de sinais determinısticos, tipos especiais de sinais comoimpulsos, exponenciais complexas, degraus, sao particularmenteimportantes.

No caso dos processos aleatorios (PA), tambem existem classesespeciais de PAs que desempenham papel fundamental nodesenvolvimento da teoria e em aplicacoes praticas como por exemplo:

- processos auto regressivos (AR);

- processos de media movel (MA);

- processos Gaussianos;

Prof. Eduardo Simas (PPGEE/UFBA) Aula 06 - Classes Especiais de Proc. Aleat. ENGA83 - Semestre 2012.1 3 / 28

Modelos Lineares Discretos

Prof. Eduardo Simas (PPGEE/UFBA) Aula 06 - Classes Especiais de Proc. Aleat. ENGA83 - Semestre 2012.1 4 / 28

Processos Auto Regressivos

Um processo auto regressivo (AR) de ordem p pode ser descrito pelaequacao a diferencas a seguir:

X (n) =

p∑i=1

hiX (n − i) + e(n)

sendo e(n) um ruıdo branco gaussiano.

Um processo AR pode ser modelado a partir de um filtro recursivo,conforme mostrado no proximo slide.

Prof. Eduardo Simas (PPGEE/UFBA) Aula 06 - Classes Especiais de Proc. Aleat. ENGA83 - Semestre 2012.1 5 / 28

Processos Auto Regressivos

Diagrama em blocos do modelo AR:

sendo ∆ o operador atraso unitario (z−1).

Prof. Eduardo Simas (PPGEE/UFBA) Aula 06 - Classes Especiais de Proc. Aleat. ENGA83 - Semestre 2012.1 6 / 28

Processos Auto Regressivos

Pode-se mostrar que um processo aleatorio X (n) que descrito por ummodelo AR de ordem p apresenta:

- µX = 0; σ2X =

p∑i=1

hiRXX (i) + σ2N ;

- rXX (k) =

p∑i=1

hi rXX (k − 1);

- SXX (f ) =σ2N

|1−∑p

i=1 hi exp(−j2πfi)|2, |f | < 1

2.

sendo σ2N a variancia de e(n).

Prof. Eduardo Simas (PPGEE/UFBA) Aula 06 - Classes Especiais de Proc. Aleat. ENGA83 - Semestre 2012.1 7 / 28

Processos de Media Movel

Um processo de media movel (MA - Moving Average) pode serdefinido por:

X (n) = θ0e(n) + θ1e(n − 1) + ...+ θqe(n − q)

observa-se que se∑

θi = 1 e θi ≥ 0, X (n) e uma media ponderada

de e(n).

Relaxando-se as condicoes acima pode-se reescrever a equacao como:

X (n) =

q∑i=1

θie(n − i) + e(n) =

q∑i=0

θiz−1e(n)

sendo θ0 = 1.

Prof. Eduardo Simas (PPGEE/UFBA) Aula 06 - Classes Especiais de Proc. Aleat. ENGA83 - Semestre 2012.1 8 / 28

Processos de Media Movel

Diagrama em blocos do modelo MA (com θi = hi ):

Prof. Eduardo Simas (PPGEE/UFBA) Aula 06 - Classes Especiais de Proc. Aleat. ENGA83 - Semestre 2012.1 9 / 28

Processos de Media Movel

Para um processo aleatorio X (n) de media movel de ordem q pode-seprovar que:

- µX = 0;

- σ2X = σ2

N

[1 +

q∑i=1

θ2i

];

- RXX (k) = σ2N

[θm +

q∑j=m+1

θjθj−m

], m < q;

- SXX (f ) = σ2N

∣∣∣∣1 +

q∑i=1

θi exp(−j2πfi)

∣∣∣∣2, |f | < 1

2.

Prof. Eduardo Simas (PPGEE/UFBA) Aula 06 - Classes Especiais de Proc. Aleat. ENGA83 - Semestre 2012.1 10 / 28

Processos Auto Regressivos de Media Movel

Um processo auto regressivo de media movel (ARMA - AutoRegressive Moving Average) de ordem (p, q) pode ser definido por:

X (n) =

p∑i=1

hiX (n − i) +

q∑k=1

θke(n − k) + e(n)

Observa-se que o modelo ARMA e composto pelo somatorio de umaparte auto regressiva (AR) com outra de media movel (MA).

Prof. Eduardo Simas (PPGEE/UFBA) Aula 06 - Classes Especiais de Proc. Aleat. ENGA83 - Semestre 2012.1 11 / 28

Processos Auto Regressivos de Media Movel

Diagrama em blocos do modelo ARMA (com hi = −ai e θi = bi ):

Prof. Eduardo Simas (PPGEE/UFBA) Aula 06 - Classes Especiais de Proc. Aleat. ENGA83 - Semestre 2012.1 12 / 28

Processos Auto Regressivos de Media Movel

Para um processo ARMA pode-se provar que:

- RXX (m) =

p∑i=1

hiRXX (m − i), m ≥ q + 1;

- SXX (f ) =σ2N |1 +

∑qk=1 θk exp(−j2πfk)|2

|1−∑p

i=1 hi exp(−j2πfi)|2, |f | < 1

2.

Prof. Eduardo Simas (PPGEE/UFBA) Aula 06 - Classes Especiais de Proc. Aleat. ENGA83 - Semestre 2012.1 13 / 28

Processos de Markov

Prof. Eduardo Simas (PPGEE/UFBA) Aula 06 - Classes Especiais de Proc. Aleat. ENGA83 - Semestre 2012.1 14 / 28

Processos de Markov

De um modo geral pode-se definir um modelo de processo aleatorio noqual a ocorrencia de um valor futuro X (m + 1) depende da ocorrenciade K valores anteriores (X (m), X (m − 1), ..., X (m − k + 1)).

Nos processos de Markov a ocorrencia de um valor futuro X (m + 1)depende apenas do valor imediatamente anterior X (m).

Embora apresentem uma formulacao simples, os processos de Markovpodem ser utilizados para modelar diversos problemas praticos deengenharia, conforme sera mostrado a seguir.

Os processos de Markov podem ser classificados em:

- De tempo contınuo ou de tempo discreto;

- De valores X (t) contınuos ou de valores X (t) discretos.

Prof. Eduardo Simas (PPGEE/UFBA) Aula 06 - Classes Especiais de Proc. Aleat. ENGA83 - Semestre 2012.1 15 / 28

Processos de Markov

Os processos de Markov com valores de X (t) discretos sao chamadosCadeias de Markov (Markov chain).

Exemplo de diagrama de estados de uma cadeia de Markov:

S1

S2

S3

.6

.4

.7.1

.9

.3

Neste caso existem 03 valores possıveis para X (t) (S1, S2 e S3) e asprobabilidades P{X (m + 1) = Si |X (m) = Sj) estao indicadas noslacos de conexao entre Sj e Si .

Prof. Eduardo Simas (PPGEE/UFBA) Aula 06 - Classes Especiais de Proc. Aleat. ENGA83 - Semestre 2012.1 16 / 28

Processos de Markov Discretos no Tempo

Em processos de Markov discretos no tempo pode-se definir aprobabilidade de ocorrencia de um estado j no instante m a partir dasprobabilidades de ocorrencia dos estados i no instante m − 1 e dasprobabilidades condicionais de ocorrencia do estado j dado queocorreu o estado i :

pj(m) =∑

todo i

pi (m − 1)Pij(m − 1,m)

A expressao acima tambem pode ser escrita na forma matricial:

pT (m) = pT (m − 1)P(m − 1,m)

sendo pT (m) = [p1(m), p2(m), ..., pk(m)] e P(n,m) = [Pij(n,m)].

Prof. Eduardo Simas (PPGEE/UFBA) Aula 06 - Classes Especiais de Proc. Aleat. ENGA83 - Semestre 2012.1 17 / 28

Exemplo - Processos de Markov

Considerando que num sistema de comunicacao tres mensagenspodem ser transmitidas e que elas seguem as propriedades de umprocesso de Markov cujas probabilidades de transicao entre os estadossao descritas a seguir:

Mensagem Atual Proxima MensagemMsg. 1 Msg. 2 Msg. 3

Msg. 1 .5 .1 .4Msg. 2 .1 .6 .3Msg. 3 .1 .2 .7

encontre as probabilidades de ocorrencia da proxima mensagemsabendo que as probabilidades iniciais de cada mensagem sao:p1(0) = .5, p2(0) = .3 e p3(0) = .2

Prof. Eduardo Simas (PPGEE/UFBA) Aula 06 - Classes Especiais de Proc. Aleat. ENGA83 - Semestre 2012.1 18 / 28

Exemplo - Processos de Markov

Calculando individualmente temos:

p1(1) =3∑

i=1

pi (0)Pi1(0, 1) = (.5)(.5) + (.3)(.1) + (.2)(.1) = .30

p2(1) =3∑

i=1

pi (0)Pi2(0, 1) = (.5)(.1) + (.3)(.6) + (.2)(.2) = .25

p3(1) =3∑

i=1

pi (0)Pi3(0, 1) = (.5)(.4) + (.3)(.3) + (.2)(.7) = .45

Usando a expressao matricial:

pT (1) =[.5 .3 .2

] .5 .1 .4.1 .6 .3.1 .2 .7

=[.30 .25 .45

]

Prof. Eduardo Simas (PPGEE/UFBA) Aula 06 - Classes Especiais de Proc. Aleat. ENGA83 - Semestre 2012.1 19 / 28

Exemplo - Processos de Markov

Calculando individualmente temos:

p1(1) =3∑

i=1

pi (0)Pi1(0, 1) = (.5)(.5) + (.3)(.1) + (.2)(.1) = .30

p2(1) =3∑

i=1

pi (0)Pi2(0, 1) = (.5)(.1) + (.3)(.6) + (.2)(.2) = .25

p3(1) =3∑

i=1

pi (0)Pi3(0, 1) = (.5)(.4) + (.3)(.3) + (.2)(.7) = .45

Usando a expressao matricial:

pT (1) =[.5 .3 .2

] .5 .1 .4.1 .6 .3.1 .2 .7

=[.30 .25 .45

]

Prof. Eduardo Simas (PPGEE/UFBA) Aula 06 - Classes Especiais de Proc. Aleat. ENGA83 - Semestre 2012.1 19 / 28

Exemplo - Processos de Markov

Calculando individualmente temos:

p1(1) =3∑

i=1

pi (0)Pi1(0, 1) = (.5)(.5) + (.3)(.1) + (.2)(.1) = .30

p2(1) =3∑

i=1

pi (0)Pi2(0, 1) = (.5)(.1) + (.3)(.6) + (.2)(.2) = .25

p3(1) =3∑

i=1

pi (0)Pi3(0, 1) = (.5)(.4) + (.3)(.3) + (.2)(.7) = .45

Usando a expressao matricial:

pT (1) =[.5 .3 .2

] .5 .1 .4.1 .6 .3.1 .2 .7

=[.30 .25 .45

]

Prof. Eduardo Simas (PPGEE/UFBA) Aula 06 - Classes Especiais de Proc. Aleat. ENGA83 - Semestre 2012.1 19 / 28

Exemplo - Processos de Markov

Calculando individualmente temos:

p1(1) =3∑

i=1

pi (0)Pi1(0, 1) = (.5)(.5) + (.3)(.1) + (.2)(.1) = .30

p2(1) =3∑

i=1

pi (0)Pi2(0, 1) = (.5)(.1) + (.3)(.6) + (.2)(.2) = .25

p3(1) =3∑

i=1

pi (0)Pi3(0, 1) = (.5)(.4) + (.3)(.3) + (.2)(.7) = .45

Usando a expressao matricial:

pT (1) =[.5 .3 .2

] .5 .1 .4.1 .6 .3.1 .2 .7

=[.30 .25 .45

]

Prof. Eduardo Simas (PPGEE/UFBA) Aula 06 - Classes Especiais de Proc. Aleat. ENGA83 - Semestre 2012.1 19 / 28

Processos de Markov

A expressao matricial pode ser utilizada para encontrar p(n) a partirde p(0) fazendo:

pT (1) = pT (0)P(0, 1)

pT (2) = pT (1)P(1, 2) = pT (0)P(0, 1)P(1, 2)

pT (3) = pT (2)P(2, 3) = pT (0)P(0, 1)P(1, 2)P(2, 3)

......

...

Ou seja: pT (n) = pT (0)n∏

i=1

P(i − 1, i)

Prof. Eduardo Simas (PPGEE/UFBA) Aula 06 - Classes Especiais de Proc. Aleat. ENGA83 - Semestre 2012.1 20 / 28

Processos de Markov

A expressao matricial pode ser utilizada para encontrar p(n) a partirde p(0) fazendo:

pT (1) = pT (0)P(0, 1)

pT (2) = pT (1)P(1, 2) = pT (0)P(0, 1)P(1, 2)

pT (3) = pT (2)P(2, 3) = pT (0)P(0, 1)P(1, 2)P(2, 3)

......

...

Ou seja: pT (n) = pT (0)n∏

i=1

P(i − 1, i)

Prof. Eduardo Simas (PPGEE/UFBA) Aula 06 - Classes Especiais de Proc. Aleat. ENGA83 - Semestre 2012.1 20 / 28

Cadeias de Markov Homogeneas

Quando a matriz de transicao de estados P(t − 1, t) nao varia com otempo t, a cadeia de Markov e dita homogenea.

Para as cadeias de Markov homogeneas e possıvel provar que:

- pT (n) = pT (0)P(1)n;

- P(n3 − n1) = P(n2 − n1)P(n3 − n2) com n3 > n2 > n1 (Equacao deChapman-Kolmogorov);

- As probabilidades assintoticas em regime permanentelimn→∞

pT (n) = πT podem ser obtidas a partir de: πT = πTP(1)

Prof. Eduardo Simas (PPGEE/UFBA) Aula 06 - Classes Especiais de Proc. Aleat. ENGA83 - Semestre 2012.1 21 / 28

Processos Gaussianos

Prof. Eduardo Simas (PPGEE/UFBA) Aula 06 - Classes Especiais de Proc. Aleat. ENGA83 - Semestre 2012.1 22 / 28

Processos Gaussianos

Na analise de sistemas de instrumentacao e comunicacao um dosmodelos mais comuns e o processo aleatorio Gaussiano.

Devido ao teorema do limite central pode-se aproximar com boaprecisao diversos fenomenos fısicos (inclusive o ruıdo) a partir de umprocesso Gaussiano.

Um processo X (t) e dito Gaussiano se todas as suas funcoesdensidade de n-esima ordem forem Gaussianas n-variadas:

fX(x) = [2πn/2|ΣX|1/2]−1 exp

[− 1

2(x− µx)TΣX

−1(x− µx)

]

Prof. Eduardo Simas (PPGEE/UFBA) Aula 06 - Classes Especiais de Proc. Aleat. ENGA83 - Semestre 2012.1 23 / 28

Processos Gaussianos

Uma propriedade interessante dos processos Gaussianos:

Se X (t) e Gaussiano e WSS (wide-sense stationary),isso implica que X (t) e SSS (strict-sense stationary).

Ou seja, para garantir a estacionaridade (em sentido estrito) de umprocesso aleatorio Gaussiano X (t) basta verificarmos se:

- E X (ti ) = µX

- RXX (t, t + τ) = RXX (τ)

Prof. Eduardo Simas (PPGEE/UFBA) Aula 06 - Classes Especiais de Proc. Aleat. ENGA83 - Semestre 2012.1 24 / 28

Processos Gaussianos - Ruıdo Branco

Conforme definido anteriormente (na Aula ) o ruıdo branco e umprocesso aleatorio que, por definicao, tem uma densidade espectral depotencia constante para todas as frequencias:

SN(f ) =N0

2, −∞ < f <∞

Convem notar que o fato do processo ser branco nao implica que sejaGaussiano.

O ruıdo branco nao e fisicamente realizavel, senao a potencia media

do processo dada por

∫ ∞−∞

SN(f )df seria infinita.

Prof. Eduardo Simas (PPGEE/UFBA) Aula 06 - Classes Especiais de Proc. Aleat. ENGA83 - Semestre 2012.1 25 / 28

Processos Gaussianos - Ruıdo Branco

O ruıdo branco de banda limitada no qual:

SN(f ) =N0

2para −B < f < B e zero caso contrario

e uma boa representacao de diversas fontes de ruıdo existentes como:

- o ruıdo termico de sistemas eletricos no qual SN(f ) = kT/2 onde

k e a constante de Boltzman (1, 38× 10−23 Joules/Kelvin) e

T e a temperatura em Kelvin da fonte de ruıdo.

Prof. Eduardo Simas (PPGEE/UFBA) Aula 06 - Classes Especiais de Proc. Aleat. ENGA83 - Semestre 2012.1 26 / 28

Processos Gaussianos - Ruıdo Branco

A respeito do ruıdo branco N(t) de banda limitada pode-se provarque:

- E{N2(t)} = N0B

- RNN(τ) = N0Bsin 2πBτ

2πBτ

- N(t) e N(t + kτ0) onde k e inteiro 6= 0 e τ0 =1

2Bsao independentes.

Prof. Eduardo Simas (PPGEE/UFBA) Aula 06 - Classes Especiais de Proc. Aleat. ENGA83 - Semestre 2012.1 27 / 28

Exercıcios de Fixacao

Os exercıcios listados abaixo do livro: Random Signals: Detection Estimation and Data Analysis de Shanmugan eBreipohl devem ser resolvidos e entregues no dia 22/05. Neste dia, alunos serao “sorteados” para resolverem algunsdestes exercıcios para a turma.

01 Exercıcios de Fixacao do Cap. 05 (a partir da pagina 333): 5.8, 5.11, 5.15, 5.26, 5,30, 5.32, 5.52.

Prof. Eduardo Simas (PPGEE/UFBA) Aula 06 - Classes Especiais de Proc. Aleat. ENGA83 - Semestre 2012.1 28 / 28