Inteligência ArtificialInteligência Artificial

Estratégias de Busca Informada

Huei Diana Lee

2

In which we see how informationabout the state space can

prevent algorithms from blunderingabout in the dark

3

Busca InformadaBusca InformadaBusca exaustiva (cega)

encontram soluções para problemas pela geração sistemática de novos estados, que são comparados ao objetivo;

são ineficientes na maioria dos casos:são capazes de calcular apenas o custo de caminho do nó atual ao nó inicial (função g), para decidir qual o próximo nó da fronteira a ser expandido;essa medida não necessariamente conduz a busca na direção do objetivo.

Como encontrar um barco perdido?não podemos procurar no oceano inteiro...

4

Busca Heurísticautiliza conhecimento específico do problema na escolha do próximo nó a ser expandidofunção de avaliação estima o custo do caminho do nó atual até o objetivo (conhecida como heurística), ie, essa estimativa indica o quanto o nó é promissor com relação a atingir a meta estabelecida

5

Funções HeurísticasFunções HeurísticasFunção heurística h

nome vem do grego heuriskein – arquimedes(heureka)introduzida em IA por George Polya em 1957 (livro How to Solve It)estima o custo do menor caminho do estado atual até o estado final mais próximo

Funções heurísticas são específicas para cada problema

rota mais barata de Corumbá a Campo Grandehdd(n) = distância direta entre n e o nó final

6

Funções HeurísticasFunções Heurísticas

Como escolher uma boa função heurística?ela deve ser admissível (nunca superestimar o custo real da solução)distância direta (hdd) é admissível porque o caminho mais curto entre dois pontos é sempre uma linha reta

7

Funções HeurísticasFunções HeurísticasFunção heurística (h)

estima o custo do caminho mais barato do estado atual até o estado final mais próximo.são específicas para cada problema

Exemplo: encontrar a rota mais curta entre duas cidadeshdd(n) = distância direta entre o nó n e o nó final.

Como escolher uma boa função heurística?ela deve ser admissível, i.e., nunca superestimar o custo real da soluçãoex. distância direta (hdd) é admissível porque o caminho mais curto entre dois pontos é sempre uma linha reta

8

Busca genérica onde o nó de menor custo “aparente” na fronteira do espaço de estados é expandido primeiroA idéia básica é prosseguir com a busca sempre a partir do nó mais promissorDuas abordagens básicas:1. Busca Gulosa (Greedy search) 2. Algoritmo A* e suas variantes

Estratégia Estratégia BestBest--FirstFirst

9

Algoritmo:FunçãoFunção--InsereInsere - ordena nós com base na

FunçãoFunção--AvaliaçãoAvaliação

função BuscaBusca--MelhorMelhor--EscolhaEscolha(problema,FunçãoFunção--AvaliaçãoAvaliação)

retorna uma soluçãoBuscaBusca--GenéricaGenérica (problema, FunçãoFunção--InsereInsere)

Estratégia Estratégia BestBest--FirstFirst

10

Estratégia Estratégia BestBest--FirstFirstA função f(n) será construída como: f(n) = g(n) + h(n)

g(n) é uma estimativa do custo do caminho ótimo de s até nh(n) é uma estimativa do custo do caminho ótimo de n até t

s

n

t

g(n)

h(n)

11

Estratégia Estratégia BestBest--FirstFirstQuando um nó n é encontrado pelo processo de busca temos a seguinte situação

Um caminho de s até n já foi encontrado e seu custo pode ser calculado como a soma dos custos dos arcos no caminho

Este caminho não é necessariamente um caminho ótimo de saté n (pode existir um caminho melhor de s até n ainda não encontrado pela busca) mas seu custo serve como uma estimativa g(n) do custo mínimo de s até n

O outro termo, h(n) é mais problemático pois o “mundo” entre n e t não foi ainda explorado

Portanto, h(n) é tipicamente uma heurística, baseada no conhecimento geral do algoritmo sobre o problema em questãoComo h depende do domínio do problema, não há um método universal para construir h

12

Busca Gulosa (Busca Gulosa (GreedyGreedy SearchSearch))Semelhante à busca em profundidade com backtracking

Tenta expandir o nó mais próximo do nó final com base na estimativa feita pela função heurística h

Tenta minimizar o custo estimado para se atingir o objetivo

Algoritmo:

função BuscaBusca--GulosaGulosa (problema) retorna uma solução ou falha

BuscaBusca--MelhorMelhor--EscolhaEscolha (problema, h)

Busca Gulosa: ExemploBusca Gulosa: ExemploIr deIr de AradArad aa BucharestBucharest

Busca Gulosa...Busca Gulosa...

15

Busca GulosaBusca GulosaCusto de busca mínimo!

No exemplo, não expande nós fora do caminho Porém não é ótima:

No exemplo escolhe o caminho que é mais econômico à primeira vista, via Fagarasporém, existe um caminho mais curto via RimnicuVilcea

Não é completa:pode entrar em loop se não detectar a expansão de estados repetidospode tentar desenvolver um caminho infinito

Custo de tempo e memória: O(bd)

16

Algoritmo A*Algoritmo A*É ainda a técnica de busca mais usada Tenta minimizar o custo total da solução combinando:

Busca Gulosa: econômica, porém não é completa nem ótimaBusca de Custo Uniforme (Djikstra): ineficiente, porém completa e ótima

Função de avaliação:f (n) = g (n) + h (n)g (n) = distância de n ao nó inicialh (n) = distância estimada de n ao nó finalA* expande o nó de menor valor de f na fronteira do espaço de estados.

17

Algoritmo A*Algoritmo A*

Algoritmo:função BuscaBusca--A*A* (problema)

retorna uma solução ou falhaBuscaBusca--MelhorMelhor--EscolhaEscolha (problema, g+h)

18

Algoritmo A* : exemploAlgoritmo A* : exemploIr deIr de AradArad a a BucharestBucharest

Usando A*Usando A*

20

Propriedades do Algoritmo A*Propriedades do Algoritmo A*Se h é admissível, f(n) nunca irá superestimar o custo real da melhor solução através de nA função f(n) sempre cresce analisando os caminhos de cima para baixoPara provar a otimalidade do algoritmo é necessário que a monotonicidade seja garantida

nunca deve ocorrer que f(n’) < f(n), onde n é o pai de n’para evitar pode se utilizar

f(n’) = max ( f(n), g(n’) + h(n’) ) (pathmax equation)

uma vez que todo caminho que passa por n’ passa também por n (seu pai)

21

MonotonicidadeMonotonicidade

Uma heurística é monotônica se e somente se ela obedece a Desigualdade Triangular;Desigualdade Triangular: dois lados de um triângulo não podem somar menos que o terceiro lado.Pearl, J. (1984) Heuristics: Intelligent Search Strategies for Computer Problem Solving. Addison-Wesley, Reading, Massachusetts.

22

A* define ContornosA* define Contornos

. fator de expansão próximo de 1

23

Algoritmo A* : Algoritmo A* : análise do comportamentoanálise do comportamento

A estratégia é completa e ótima

Custo de tempo:exponencial com o comprimento da solução, porém boas funções heurísticas diminuem significativamente esse custo

Custo memória: O (bd)guarda todos os nós expandidos na memória

para possibilitar o backtracking

24

Algoritmo A* : Algoritmo A* : análise do comportamentoanálise do comportamento

Eficiência ótimasó expande nós com f(n) ≤ f*, onde f* é o custo do caminho ótimo

f é não decrescentenenhum outro algoritmo ótimo garante expandir menos nós

25

BestBest--FirstFirst & A*& A*

se

a

bc

d

f

g

2

2

2

2

3

3 2

2

5

7

5

444

32

t

Distância entre duas cidades através de um

caminho (rodovia)

Distância entre a cidade em questão e a cidade destino (t) em

linha reta

26

BestBest--FirstFirst & A*& A*Dado um mapa, o objetivo é encontrar o caminho mais curto entre a cidade inicial s e a cidade destino tPara estimar o custo do caminho restante da cidade X até a cidade t utilizaremos a distância em linha reta denotada por dist(X,t)f(X) = g(X) + h(X) =

= g(X) + dist(X,t)

se

a

bc

d

f

g

2

2

2

2

3

3 2

2

5

7

5

444

32

t

27

BestBest--FirstFirst & A*& A*Neste exemplo, podemos imaginar a busca best-firstconsistindo em dois processos, cada um explorando um dos caminhos alternativosProcesso 1 explora o caminho via aProcesso 2 explora o caminho via e

se

a

bc

d

f

g

2

2

2

2

3

3 2

2

5

7

5

444

32

t

28

BestBest--FirstFirst & A*& A*f(a)=g(a)+dist(a,t)=2+5=7f(e)=g(e)+dist(e,t)=2+7=9Como o valor-f de a é menor do que de e, o processo 1 (busca via a) permanece ativo enquanto o processo 2 (busca via e) fica em estado de espera

se

a

bc

d

f

g

2

2

2

2

3

3 2

2

5

7

5

444

32

t

f(e)=9

f(a)=7

29

BestBest--FirstFirst & A*& A*f(a)=g(a)+dist(a,t)=2+5=7f(e)=g(e)+dist(e,t)=2+7=9Como o valor-f de a é menor do que de e, o processo 1 (busca via a) permanece ativo enquanto o processo 2 (busca via e) fica em estado de esperaf(b)=g(b)+dist(b,t)=4+4=8

se

a

bc

d

f

g

2

2

2

2

3

3 2

2

5

7

5

444

32

t

f(e)=9

f(a)=7

f(b)=8

30

BestBest--FirstFirst & A*& A*f(a)=g(a)+dist(a,t)=2+5=7f(e)=g(e)+dist(e,t)=2+7=9Como o valor-f de a é menor do que de e, o processo 1 (busca via a) permanece ativo enquanto o processo 2 (busca via e) fica em estado de esperaf(b)=g(b)+dist(b,t)=4+4=8f(c)=g(c)+dist(c,t)=6+4=10Como f(e)<f(c) agora o processo 2 prossegue para a cidade f

se

a

bc

d

f

g

2

2

2

2

3

3 2

2

5

7

5

444

32

t

f(c)=10

f(e)=9

f(a)=7

f(b)=8

31

BestBest--FirstFirst & A*& A*f(f)=g(f)+dist(f,t)=7+4=11Como f(f)>f(c) agora o processo 2 espera e o processo 1 prossegue

se

a

bc

d

f

g

2

2

2

2

3

3 2

2

5

7

5

444

32

t

f(c)=10

f(f)=11

f(e)=9

f(a)=7

f(b)=8

32

BestBest--FirstFirst & A*& A*f(f)=g(f)+dist(f,t)=7+4=11Como f(f)>f(c) agora o processo 2 espera e o processo 1 prosseguef(d)=g(d)+dist(d,t)=9+3=12Como f(d)>f(f) o processo 2 reinicia

se

a

bc

d

f

g

2

2

2

2

3

3 2

2

5

7

5

444

32

t

f(c)=10

f(f)=11

f(d)=12

f(e)=9

f(a)=7

f(b)=8

33

BestBest--FirstFirst & A*& A*f(f)=g(f)+dist(f,t)=7+4=11Como f(f)>f(c) agora o processo 2 espera e o processo 1 prosseguef(d)=g(d)+dist(d,t)=9+3=12Como f(d)>f(f) o processo 2 reinicia chegando até o destino tf(g)=g(g)+dist(g,t)=9+2=11

se

a

bc

d

f

g

2

2

2

2

3

3 2

2

5

7

5

444

32

t

f(c)=10

f(f)=11

f(d)=12f(g)=11

f(e)=9

f(a)=7

f(b)=8

34

BestBest--FirstFirst & A*& A*f(f)=g(f)+dist(f,t)=7+4=11Como f(f)>f(c) agora o processo 2 espera e o processo 1 prosseguef(d)=g(d)+dist(d,t)=9+3=12Como f(d)>f(f) o processo 2 reinicia chegando até o destino tf(g)=g(g)+dist(g,t)=9+2=11f(t)=g(t)+dist(t,t)=11+0=11

se

a

bc

d

f

g

2

2

2

2

3

3 2

2

5

7

5

444

32

t

f(c)=10

f(f)=11

f(d)=12f(g)=11

f(e)=9

f(a)=7

f(b)=8

f(t)=11

35

BestBest--FirstFirst & A*& A*

A busca, começando pelo nó inicial continua gerando novos nós sucessores, sempre expandindo na direção mais promissora de acordo com os valores-fDurante este processo, uma árvore de busca é gerada tendo como raiz o nó inicial e o algoritmo best-first continua expandindo a árvore de busca até que uma solução seja encontrada

36

BestBest--FirstFirst & A*& A*s

ea f(e)=9f(a)=7

37

BestBest--FirstFirst & A*& A*s

ea

b

f(e)=9f(a)=7

f(b)=8

38

BestBest--FirstFirst & A*& A*s

ea

b

c

f(e)=9f(a)=7

f(b)=8

f(c)=10

39

BestBest--FirstFirst & A*& A*s

ea

b

c

f

f(e)=9f(a)=7

f(b)=8

f(c)=10

f(f)=11

40

BestBest--FirstFirst & A*& A*s

ea

b

c

d

f

f(e)=9f(a)=7

f(b)=8

f(c)=10

f(f)=11

f(d)=12

41

BestBest--FirstFirst & A*& A*s

ea

b

c

d

f

g

f(e)=9f(a)=7

f(b)=8

f(c)=10

f(f)=11

f(d)=12

f(g)=11

42

BestBest--FirstFirst & A*& A*s

ea

b

c

d

f

g

t

f(e)=9f(a)=7

f(b)=8

f(c)=10

f(f)=11

f(d)=12

f(g)=11

f(t)=11

43

Busca com Limite de Memória Busca com Limite de Memória MemoryMemory BoundedBounded SearchSearch

IDA* (Iterative Deepening A*)extensão do aprofundamento iterativo, porém seu limite é dado pela função de avaliação (f) (contornos), e não pela profundidade (d).necessita de menos memória do que A* mas continua ótima

SMA* (Simplified Memory-Bounded A*) Similar ao A*O número de nós guardados em memória é fixado previamente

conforme vai avançando, descarta os piores nós (embora guarde informações a respeito deles) e atualiza os melhores valores dos caminhos

É completa e ótima se a memória alocada for suficiente

44

IDA*IDA*

IDA* é similar à busca em profundidade iterativa

Na busca em profundidade iterativa as buscas em profundidade são realizadas em limites crescentes de profundidade; em cada iteração a busca em profundidade é limitada pelo limite de profundidade atualEm IDA* as buscas em profundidade são limitadas pelo limite atual representando valores-f dos nós

45

IDA*IDA*procedure ida(Inicio,Solucao)

Limite ← f(Inicio)repeatIniciando no nó Início, realize busca emprofundidade sujeita à condição que um nó N éexpandido apenas se f(N) <= Limiteif busca em profundidade encontrou nó final then

indique ’Solução encontrada’else

Calcule NovoLimite como o mínimo valor-f dos nósalcançados ao ultrapassar Limite, ou seja, NovoLimite ← min{f(N): N gerado pela busca e f(N) > Limite}

endifLimite ← NovoLimite

until Solução encontrada

46

IDA*IDA*s

ea

b

c

d

f

g

t

f(e)=9f(a)=7

f(b)=8

f(c)=10

f(f)=11

f(d)=12

f(g)=11

f(t)=11

f(s)=6

47

IDA*IDA*s

ea

b

c

d

f

g

t

f(e)=9f(a)=7

f(b)=8

f(c)=10

f(f)=11

f(d)=12

f(g)=11

f(t)=11

48

SM

A*

S

MA

* (( S

impl

ified

Sim

plifi

edM

emor

yM

emor

y --B

ound

edB

ound

edA

*)

A*)

49

Inventando Funções HeurísticasInventando Funções HeurísticasComo escolher uma boa função heurística h?h depende de cada problema particular.h deve ser admissível

não superestimar o custo real da solução Existem estratégias genéricas para definir h:1) Relaxar restrições do problema;2) Usar informação estatística;3) Identificar os atributos mais relevantes do

problema

50

Problema Relaxado:versão simplificada do problema original, onde os operadores são menos restritivos

Exemplo: jogo dos 8 números: operador original: um número pode mover-se de A para B se A é adjacente a B e B está vaziobusca exaustiva ≈ 320 estados possíveis

Fator de ramificação ≈ 3 e d ≈ 20 passos

Operadores relaxados:1. um número pode mover-se de A para B (h1)2. um número pode mover-se de A para B se A é adjacente a B (h2)

4 5 81 6

7 32

(1) Relaxando o problema(1) Relaxando o problema

51

Heurísticas possíveish1 = no. de elementos fora do lugar (h1=7)h2 = soma das distâncias de cada número à posição final (h2=2+3+3+2+4+2+0+2=18)

Manhattan Distance d de dois pontos (x,y) e (u,v), d = |x-u| + |y-v|

Heurísticas para jogo 8 númerosHeurísticas para jogo 8 números

52

(2) Usando informação estatística(2) Usando informação estatística

Funções heurísticas podem ser “melhoradas” com informação estatística:

executar a busca com um conjunto de treinamento (e.g., 100 configurações diferentes do jogo), e computar os resultados.se, em 90% dos casos, quando h (n) = 14, a distância real da solução é 18,então, quando o algoritmo encontrar 14 para o resultado da função, vai substituir esse valor por 18.

53

(2) Usando informação estatística(2) Usando informação estatística

Informação estatística expande menos nós, porém elimina admissibilidade:

em 10% dos casos do problema acima, a função de avaliação poderá superestimar o custo da solução, não sendo de grande auxílio para o algoritmo encontrar a solução mais barata.

54

(3) Usando Atributos/características(3) Usando Atributos/características

Características do problema podem ser usadas para mensurar o quão se está próximo da soluçãoex. xadrez

número de peças de cada ladosomatório dos pesos das peças de cada lado (Peão-1, ..., Rainha-9) número de peças sob ataque

Quando não se conhece a importância das características, pode-se aprendê-las (w1f1+w2f2+...+wnfn)

55

Qualidade da função heurísticaQualidade da função heurística

Qualidade da função heurística: medida através do fator de expansão efetivo (b*).

b* é o fator de expansão de uma árvore uniforme com N nós e nível de profundidaded

N = 1 + b* + (b*)2 + ... + (b*)d , onde N = total de nós expandidos para uma instância de

problemad = profundidade da solução;

56

Qualidade da função heurísticaQualidade da função heurística

Mede-se empiricamente a qualidade de h a partir do conjunto de valores experimentais de N e d.

uma boa função heurística terá o b* muito próximo de 1.

Se o custo de execução da função heurística for maior do que expandir nós, então ela não deve ser usada.

uma boa função heurística deve ser eficiente

Experimento com 100 problemasExperimento com 100 problemas88--númerosnúmeros

Uma boa função heurística terá o b* muito próximo de 1.

58

Escolhendo Funções HeurísticasEscolhendo Funções HeurísticasÉ sempre melhor usar uma função heurística com valores mais altos, contanto que ela seja admissível.

ex. h2 melhor que h1hi domina hk ⇒ hi(n) ≥ hk(n) ∀n no espaço de estados

h2 domina h1 no exemplo anteriorCaso existam muitas funções heurísticas para o mesmo problema, e nenhuma delas domine as outras, usa-se uma heurística composta:

h (n) = max (h1 (n), h2 (n),…,hm(n))Assim definida, h é admissível e domina cada função hi individualmente

59

Heurística... por toda IAHeurística... por toda IAA noção de heurística sempre foi além da busca e de uma formalização via função de um estado Heurística

escolha, prioridade, estratégia na busca de uma solução razoável onde não há solução ótima ou recurso para determiná-laNo dia a dia: heurística para dirigir, namorar, estudar,...

Em IA: em todas as áreas como conhecimento de controle

ex. escolha de regras a serem disparadas (SBC)ex. escolha de viés de generalização (aprendizagem)...

60

Qual seria uma boa heurística Qual seria uma boa heurística para o jogo da velha?para o jogo da velha?

X

0

61

Exercício!Exercício!

s

ba c

d e f

h i

gj k

12

7 8 8

6 4 7

4 5

2 0 1

4 21

1 2 1

3 1

12

2

62

s

ba c

d e f

h i

gj k

Busca em Profundidade (com backtracking)

Ordem de visita:s a d

a eas bs c f h j

h g

63

ReferênciasReferências

Material Didático Prof. Marcílio Souto –UFRN, 2005Material Didático Prof. José Augusto Baranauskas – USP Ribeirão Preto, 2005Material Didático Prof. Huei Diana Lee –Unioeste, 2002Russel, S. e Norvig, P. Artificial Intelligence: A modern approach, Prentice Hall, 1995Referências indicadas no curso