Visão Computacional – 2010q-Entropia e Imagens

Paulo Sérgio RodriguesPEL205

Sumário

• Entropia Tradicional BGS

• q-Entropia

• Aplicações da q-entropia à PDI

Entropia Tradicional BGS - Histórico

Rudolph Clausius (1822-1888)

Clausius foi o primeiro a dar uma definição

para Entropia

Ludwing Boltzmann (1844-1906)

Boltzmann idealizou o conceito moderno de

entropia

wkS lnNo início, a idéia deentropia estava ligadasomente a medidada capacidade de realização de trabalhodos sistemas físicos.

Leis da Termodinâmica

Trabalho

Perdas

Energia

TOTAL

• Primeira Lei: A energia não pode ser criada nem destruída • Segunda Lei: Só pode haver trabalho se houver entropia

Max Plank (1854-1947)

Plank foi o verdadeiro idealizador da fórmula atribuída a Boltzmann

Willard Gibbs (1839-1903)

Gibbs introduziu a conhecida fórmula

w

iii ppkS

1

ln

Com Plank e Gibbsa entropia transcendeua Termodinâmica epassou a se associar à Mecânica Estatística.

Entropia Tradicional BGS - Histórico

Entropia e a Teoria da Informação

Claude Shannon (1916-2001)

Shannon associou a entropia a uma

quantidade de informação

A teoria da informação surgiuna década de 40, com origemna telegrafia e telefonia.

Posteriormente, foi utilizada pela Cibernética no estudo datroca de informação de um organismo vivo ou mecânico.

w

iii ppkS

1

ln

Entropia e a Teoria da Informação

Claude Shannon (1916-2001)

Shannon associou a entropia a uma

quantidade de informação

A teoria da informação encontrou campo fértil em diversas áreas, entreelas na Economia, Estatística, Linguística, Psicologia, Ecologia,Reconhecimento de Padrões, Medicina, Inteligência Artificial, ...

w

iii ppkS

1

ln

Generalização da Entropia Clássica

• Sabe-se há mais de um século que entropia tradicional de BG não é capaz de explicar determinados Sistemas Físicos

• Tais sistemas possuem como características:- interações espaciais de longo alcance- interações temporais de longo alcance- comportamento fractal nas fronteiras

• E são chamados de Sistemas Não-Extensivos

Generalização da Entropia Clássica

• Exemplos

• turbulência• massa e energia das galáxias• Lei de Zipf-Mandelbrot da linguística• Teoria de risco financeiro

Generalização da Entropia Clássica

• Lei de Zipf-Mandelbrot da linguística

1

1

q

ARfrequencia

Don Quijote (Miguel di

Cervantes)

Extração de

Palavras

Relevantes

Rank ordenado

Generalização da Entropia Clássica

• Massa e Energia da Galáxias

)2(2)2(8

)2(82

2

DD

Dq

Generalização da Entropia Clássica

• Teoria do Risco Financeiro

• Quando se tem expectativa de perda, algumas pessoas preferem arriscar

• Quando se tem expectativa de ganho, algumas pessoas preferem não arriscar

Generalização da Entropia Clássica

• Citação de Artigos Científicos

)/( 0)0()( xxeNxN

)1/()1(1

)0()(

qqxq

NxN

Generalização da Entropia Clássica

• Sinais de Eletroencefalograma de Eplepsia

Generalização da Entropia Clássica

• Psicologia da Visão

W

i i

i

W

i i

W

i i

W

i i

W

i

qi

W

i iqi

qO

Op

W

pq

W

O

p

OpO

1

111

1

1lnln

1~

Entropia Não-Extensiva

q

p

S

W

k

qi

1

11

Constantino Tsallis

Entropia Não-Extensiva

w

ikii

w

ikii

qi

q

w

iki

w

ik

qii

q

w

ik

qii

w

ik

qii

W

iki

W

k

qi

pp

ppq

pp

q

pp

q

pp

q

ppp

q

p

S

ln

ln1

1lim

1

1

lim

1

1

11

1

1

1

1

1

11

1

Entropia Não-Extensiva

BABABA SSqSSS *)1(

Aplicação 1 -> Diagnóstico Assistido Por Computador

A

B

C

D

A = Original B = NESRA C = Morphology D = Level Set

1 2 3 4 5

Aplicação 1-> Diagnóstico Assistido Por Computador

Maligno

Benigno