III Simpósio Brasileiro de Engenharia de Avaliações Redes Neurais Artificiais: Fundamentos e...
Transcript of III Simpósio Brasileiro de Engenharia de Avaliações Redes Neurais Artificiais: Fundamentos e...
![Page 1: III Simpósio Brasileiro de Engenharia de Avaliações Redes Neurais Artificiais: Fundamentos e Aplicação na Previsão de Séries Temporais Prof. Dr. Cairo.](https://reader035.fdocumentos.tips/reader035/viewer/2022081505/552fc10c497959413d8c4114/html5/thumbnails/1.jpg)
III Simpósio Brasileiro de Engenharia de AvaliaçõesIII Simpósio Brasileiro de Engenharia de Avaliações
Redes Neurais Artificiais: Redes Neurais Artificiais: Fundamentos e Aplicação na Fundamentos e Aplicação na Previsão de Séries TemporaisPrevisão de Séries Temporais
Prof. Dr. Cairo L. Nascimento Jr.Prof. Dr. Cairo L. Nascimento Jr.Divisão de Engenharia EletrônicaDivisão de Engenharia Eletrônica
Instituto Tecnológico de AeronáuticaInstituto Tecnológico de AeronáuticaE-mail: [email protected]: [email protected]
Home Page: http://www.ele.ita.br/~cairo/Home Page: http://www.ele.ita.br/~cairo/
![Page 2: III Simpósio Brasileiro de Engenharia de Avaliações Redes Neurais Artificiais: Fundamentos e Aplicação na Previsão de Séries Temporais Prof. Dr. Cairo.](https://reader035.fdocumentos.tips/reader035/viewer/2022081505/552fc10c497959413d8c4114/html5/thumbnails/2.jpg)
RNAs: Fundamentose Aplicação na Previsão de Séries Temporais
• Problema atacado:– assumindo-se que existe a relação não-
linear y = f(x), onde a função f é desconhecida,
– conhecendo-se N pontos de pares (x,y),
– deseja-se reconstruir a função f.
Reconstrução de hipersuperfícies
![Page 3: III Simpósio Brasileiro de Engenharia de Avaliações Redes Neurais Artificiais: Fundamentos e Aplicação na Previsão de Séries Temporais Prof. Dr. Cairo.](https://reader035.fdocumentos.tips/reader035/viewer/2022081505/552fc10c497959413d8c4114/html5/thumbnails/3.jpg)
RNAs: Fundamentose Aplicação na Previsão de Séries Temporais
• Abordagem Linear:
• Abordagem Neural:
P
jjj xwy
1
i
P
jjij
M
ii xwghy
11
![Page 4: III Simpósio Brasileiro de Engenharia de Avaliações Redes Neurais Artificiais: Fundamentos e Aplicação na Previsão de Séries Temporais Prof. Dr. Cairo.](https://reader035.fdocumentos.tips/reader035/viewer/2022081505/552fc10c497959413d8c4114/html5/thumbnails/4.jpg)
RNAs: Fundamentose Aplicação na Previsão de Séries Temporais
• Modelo Linear com q saídas:y
1x
W 1 1
L
u n i d a d el i n e a r
LL L
y1
q p
c a m a d ad e e n t r a d a
2x x p
L L
W
q
L
y2 3
L
y
c a m a d ad e s a í d a
![Page 5: III Simpósio Brasileiro de Engenharia de Avaliações Redes Neurais Artificiais: Fundamentos e Aplicação na Previsão de Séries Temporais Prof. Dr. Cairo.](https://reader035.fdocumentos.tips/reader035/viewer/2022081505/552fc10c497959413d8c4114/html5/thumbnails/5.jpg)
RNAs: Fundamentose Aplicação na Previsão de Séries Temporais
• Modelo Neural com q saídas:
N L
U n i d a d eN ã o L i n e a rN L ==
L
+ 1x x1 2
L
N L
+ 1N L
LU n i d a d eL i n e a r=
1 2
L L
y y
c a m a d ae s c o n d i d a
c a m a d ad e e n t r a d a
L
x3
L
x p
N L
3
LL c a m a d ad e s a í d a
y y q
![Page 6: III Simpósio Brasileiro de Engenharia de Avaliações Redes Neurais Artificiais: Fundamentos e Aplicação na Previsão de Séries Temporais Prof. Dr. Cairo.](https://reader035.fdocumentos.tips/reader035/viewer/2022081505/552fc10c497959413d8c4114/html5/thumbnails/6.jpg)
RNAs: Fundamentose Aplicação na Previsão de Séries Temporais
• Parâmetros do modelo linear:– w1 até wp ,
– total: P+1 parâmetros
• Parâmetros do modelo neural:– função g (ex. tangente hiperbólica)
– h1 até hM, ; para cada hi: wi1 até wip, i
– total: M (P+1) + 1
![Page 7: III Simpósio Brasileiro de Engenharia de Avaliações Redes Neurais Artificiais: Fundamentos e Aplicação na Previsão de Séries Temporais Prof. Dr. Cairo.](https://reader035.fdocumentos.tips/reader035/viewer/2022081505/552fc10c497959413d8c4114/html5/thumbnails/7.jpg)
RNAs: Fundamentose Aplicação na Previsão de Séries Temporais
• Cada unidade da camada escondida implementa um hiperplano.
• As funções AND e OR não precisam de camada escondida e são ditas funções linearmente separáveis.
• A função XOR não é linearmente separável.
![Page 8: III Simpósio Brasileiro de Engenharia de Avaliações Redes Neurais Artificiais: Fundamentos e Aplicação na Previsão de Séries Temporais Prof. Dr. Cairo.](https://reader035.fdocumentos.tips/reader035/viewer/2022081505/552fc10c497959413d8c4114/html5/thumbnails/8.jpg)
RNAs: Fundamentose Aplicação na Previsão de Séries Temporais
• Funções OR, AND e XOR:
A N D
S . D .
0
0= 0 o r - 1
1X
10
2
1
S . D .
X O R 2
1
X
01
= 11
X0
S . D . 21
X1
1
2XS . D . 1
X O R
![Page 9: III Simpósio Brasileiro de Engenharia de Avaliações Redes Neurais Artificiais: Fundamentos e Aplicação na Previsão de Séries Temporais Prof. Dr. Cairo.](https://reader035.fdocumentos.tips/reader035/viewer/2022081505/552fc10c497959413d8c4114/html5/thumbnails/9.jpg)
RNAs: Fundamentose Aplicação na Previsão de Séries Temporais
• XOR:
1x x 2
x + x
00
3
x2
1x
4
- 0 . 5 1 1
- 1- 0 . 5
+ 1
- 11L
- 0 . 53
+ 1
x
1L
4x
y
3
o u ( 1 , 1 )( 0 , 0 ) 0
0x
1
( 1 , 0 )
S . D .
( x , x ) = ( 0 , 1 )1
1
x4
2= 1= 0
1
1
1 0
1
0
0 0
1 10
0 00
0 11
0 00
2xx 1 xx 3 y4
![Page 10: III Simpósio Brasileiro de Engenharia de Avaliações Redes Neurais Artificiais: Fundamentos e Aplicação na Previsão de Séries Temporais Prof. Dr. Cairo.](https://reader035.fdocumentos.tips/reader035/viewer/2022081505/552fc10c497959413d8c4114/html5/thumbnails/10.jpg)
RNAs: Fundamentose Aplicação na Previsão de Séries Temporais
• XOR:
( x , x ) = ( 0 , 1 )
o u ( 1 , 0 )
1 2
x
0 x1
0
2
x - x4 3
1
1
- 0 . 5
+ 1
+ 1
- 1 . 5
3 4
L11 1
x
L
- 0 . 5
1
x
- 1x
1
y
x
( 1 , 1 )
S . D .
( 0 , 0 ) 0
0
1
21
x4
= 0
x3
= 1
1
1
0
111 0
1
1
0
00
1 1
1
xx
0
1
0
x
00
x2 3
0
y4
![Page 11: III Simpósio Brasileiro de Engenharia de Avaliações Redes Neurais Artificiais: Fundamentos e Aplicação na Previsão de Séries Temporais Prof. Dr. Cairo.](https://reader035.fdocumentos.tips/reader035/viewer/2022081505/552fc10c497959413d8c4114/html5/thumbnails/11.jpg)
RNAs: Fundamentose Aplicação na Previsão de Séries Temporais
• XOR com ligação direta entrada-saída:
0
0
0
1
x ( 1 , 1 , 1 )
- 2
- 1 . 5
+ 1x 1
1L
- 0 . 5x 3
1
x 2
1L 11
01
1
00
10
xx 1 2
y
x
( 0 , 1 , 0 )
x
( 0 , 0 , 0 )0
1 2
0
1
y33
( 1 , 0 , 0 ) x 1
= 0 = 1
![Page 12: III Simpósio Brasileiro de Engenharia de Avaliações Redes Neurais Artificiais: Fundamentos e Aplicação na Previsão de Séries Temporais Prof. Dr. Cairo.](https://reader035.fdocumentos.tips/reader035/viewer/2022081505/552fc10c497959413d8c4114/html5/thumbnails/12.jpg)
RNAs: Fundamentose Aplicação na Previsão de Séries Temporais
• Princípio do método para obtenção dos pesos a partir dos N pares (x,y):– selecionar um par (x,y) do conjunto de
treinamento,
– calcular este x a saída da RNA = yRNA,
– calcular E = y - yRNA,
– alterar o peso na direção que diminui E2.
![Page 13: III Simpósio Brasileiro de Engenharia de Avaliações Redes Neurais Artificiais: Fundamentos e Aplicação na Previsão de Séries Temporais Prof. Dr. Cairo.](https://reader035.fdocumentos.tips/reader035/viewer/2022081505/552fc10c497959413d8c4114/html5/thumbnails/13.jpg)
RNAs: Fundamentose Aplicação na Previsão de Séries Temporais
Problema de Reconhecimento de Imagens Ruidosas
![Page 14: III Simpósio Brasileiro de Engenharia de Avaliações Redes Neurais Artificiais: Fundamentos e Aplicação na Previsão de Séries Temporais Prof. Dr. Cairo.](https://reader035.fdocumentos.tips/reader035/viewer/2022081505/552fc10c497959413d8c4114/html5/thumbnails/14.jpg)
RNAs: Fundamentose Aplicação na Previsão de Séries Temporais
• Abordagem Neural:
biasbiasxwghy i
N
jjij
M
ii
11
biasbiasjtxwghty i
N
jij
M
ii
11
1)(
biasbiasjtxwghty i
N
jij
M
ii
11
1)(
![Page 15: III Simpósio Brasileiro de Engenharia de Avaliações Redes Neurais Artificiais: Fundamentos e Aplicação na Previsão de Séries Temporais Prof. Dr. Cairo.](https://reader035.fdocumentos.tips/reader035/viewer/2022081505/552fc10c497959413d8c4114/html5/thumbnails/15.jpg)
RNAs: Fundamentose Aplicação na Previsão de Séries Temporais
• Abordagem Linear:
biasxwyN
iii
1
biasitxwtyN
ii
0
biasjtyhitxwtyM
jj
N
ii
10
![Page 16: III Simpósio Brasileiro de Engenharia de Avaliações Redes Neurais Artificiais: Fundamentos e Aplicação na Previsão de Séries Temporais Prof. Dr. Cairo.](https://reader035.fdocumentos.tips/reader035/viewer/2022081505/552fc10c497959413d8c4114/html5/thumbnails/16.jpg)
RNAs: Fundamentose Aplicação na Previsão de Séries Temporais
• Abordagem Neural:
biasbiasxwghy i
N
jjij
M
ii
11
biasbiasjtxwghty i
N
jij
M
ii
11
1)(
biasbiasjtxwghty i
N
jij
M
ii
11
1)(
![Page 17: III Simpósio Brasileiro de Engenharia de Avaliações Redes Neurais Artificiais: Fundamentos e Aplicação na Previsão de Séries Temporais Prof. Dr. Cairo.](https://reader035.fdocumentos.tips/reader035/viewer/2022081505/552fc10c497959413d8c4114/html5/thumbnails/17.jpg)
Como Tornar uma Máquina Inteligente
Entertainment Robot AIBO (http://www.aibo.com)
![Page 18: III Simpósio Brasileiro de Engenharia de Avaliações Redes Neurais Artificiais: Fundamentos e Aplicação na Previsão de Séries Temporais Prof. Dr. Cairo.](https://reader035.fdocumentos.tips/reader035/viewer/2022081505/552fc10c497959413d8c4114/html5/thumbnails/18.jpg)
Como Tornar uma Máquina Inteligente
• Inteligência das máquinas atuais
• Estudo da Inteligência
• Tipos e Medição de Inteligência– Humana, Animal, das Máquinas,
– Extra-terrestre (SETI@home)
![Page 19: III Simpósio Brasileiro de Engenharia de Avaliações Redes Neurais Artificiais: Fundamentos e Aplicação na Previsão de Séries Temporais Prof. Dr. Cairo.](https://reader035.fdocumentos.tips/reader035/viewer/2022081505/552fc10c497959413d8c4114/html5/thumbnails/19.jpg)
Como Tornar uma Máquina Inteligente
• Comportamento Inteligente– Importante para Competição (Seleção Natural)– Adaptação (mudanças no meio-ambiente) – Reconhecimento de Padrões (visão, fala,
diagnóstico de falhas/doenças, aplicações financeiras)
– Planejamento (Modelos, Otimização) e Auxílio a Tomada de Decisões
– Cooperação e Comunicação com outros indivíduos
![Page 20: III Simpósio Brasileiro de Engenharia de Avaliações Redes Neurais Artificiais: Fundamentos e Aplicação na Previsão de Séries Temporais Prof. Dr. Cairo.](https://reader035.fdocumentos.tips/reader035/viewer/2022081505/552fc10c497959413d8c4114/html5/thumbnails/20.jpg)
Como Tornar uma Máquina Inteligente
Exemplos de desenvolvimento de
Equipamento Inteligente no ITA
![Page 21: III Simpósio Brasileiro de Engenharia de Avaliações Redes Neurais Artificiais: Fundamentos e Aplicação na Previsão de Séries Temporais Prof. Dr. Cairo.](https://reader035.fdocumentos.tips/reader035/viewer/2022081505/552fc10c497959413d8c4114/html5/thumbnails/21.jpg)
Como Tornar uma Máquina Inteligente
Exemplos de desenvolvimento de
Equipamento Inteligente no ITA
![Page 22: III Simpósio Brasileiro de Engenharia de Avaliações Redes Neurais Artificiais: Fundamentos e Aplicação na Previsão de Séries Temporais Prof. Dr. Cairo.](https://reader035.fdocumentos.tips/reader035/viewer/2022081505/552fc10c497959413d8c4114/html5/thumbnails/22.jpg)
Como Tornar uma Máquina Inteligente
Exemplos de desenvolvimento de
Equipamento Inteligente no ITA
http://www.ele.ita.br/~kawakami/barco/
![Page 23: III Simpósio Brasileiro de Engenharia de Avaliações Redes Neurais Artificiais: Fundamentos e Aplicação na Previsão de Séries Temporais Prof. Dr. Cairo.](https://reader035.fdocumentos.tips/reader035/viewer/2022081505/552fc10c497959413d8c4114/html5/thumbnails/23.jpg)
Como Tornar uma Máquina Inteligente
X
O
![Page 24: III Simpósio Brasileiro de Engenharia de Avaliações Redes Neurais Artificiais: Fundamentos e Aplicação na Previsão de Séries Temporais Prof. Dr. Cairo.](https://reader035.fdocumentos.tips/reader035/viewer/2022081505/552fc10c497959413d8c4114/html5/thumbnails/24.jpg)
Como Tornar uma Máquina Inteligente
![Page 25: III Simpósio Brasileiro de Engenharia de Avaliações Redes Neurais Artificiais: Fundamentos e Aplicação na Previsão de Séries Temporais Prof. Dr. Cairo.](https://reader035.fdocumentos.tips/reader035/viewer/2022081505/552fc10c497959413d8c4114/html5/thumbnails/25.jpg)
Como Tornar uma Máquina Inteligente
Redes Neurais
![Page 26: III Simpósio Brasileiro de Engenharia de Avaliações Redes Neurais Artificiais: Fundamentos e Aplicação na Previsão de Séries Temporais Prof. Dr. Cairo.](https://reader035.fdocumentos.tips/reader035/viewer/2022081505/552fc10c497959413d8c4114/html5/thumbnails/26.jpg)
Como Tornar uma Máquina Inteligente
Conclusões
• Estamos aos poucos aumentando o nível de inteligência das nossas máquinas.
• Área altamente multi-disciplinar e desafiadora.
![Page 27: III Simpósio Brasileiro de Engenharia de Avaliações Redes Neurais Artificiais: Fundamentos e Aplicação na Previsão de Séries Temporais Prof. Dr. Cairo.](https://reader035.fdocumentos.tips/reader035/viewer/2022081505/552fc10c497959413d8c4114/html5/thumbnails/27.jpg)
Como Tornar uma Máquina Inteligente
Conclusões
• Aplicações extremamente práticas. Alguns exs:– classificação de empresas de telecomunicações,
– classificação de sinais eletrocardiográficos,
– temporarização de semafóros de tráfego urbano,
– otimização de sequências de montagens,
– previsão de preços de produtos
• Grandes benefícios para a indústria nacional.
![Page 28: III Simpósio Brasileiro de Engenharia de Avaliações Redes Neurais Artificiais: Fundamentos e Aplicação na Previsão de Séries Temporais Prof. Dr. Cairo.](https://reader035.fdocumentos.tips/reader035/viewer/2022081505/552fc10c497959413d8c4114/html5/thumbnails/28.jpg)
Como Tornar uma Máquina Inteligente
Para mais detalhes:Livro “Inteligência Artificial em
Controle e Automação”, 2000Cairo L. Nascimento Jr. eTakashi YoneyamaEd. Edgard Blücher e FAPESP
http://www.ele.ita.br/ia_contaut/