intro DM UNIP.ppt [Modo de Compatibilidade] · DNA/RNA, proteínas , expressão, ... filosofia que...

Introdução ao

Data MiningIntrodução ao

Data MiningCom breve apêndice sobre cognição humana e novos

caminhos de pesquisa

IAIR-Intelliwise AI Research www.intelliwise.com [email protected] 1

Sergio [email protected]

Mestrado Eng. ProduçãoUnip/Maio 2010

caminhos de pesquisa

ConteúdoConteúdo

Introdução Filosófica

Ontologias

Dedução versus Indução


Dedução versus Indução

Data Mining

Cognição e Caminhos Futuros

Qual a Origem do Conhecimento?Qual a Origem do Conhecimento?

Posição EmpiristaVem dos Sentidos

Posição RacionalistaVem do Pensamento


Vem do Pensamento

Com o estudo da cognição e da neurociência temos hoje informações suficientes para entender melhor o processo cognitivo e assim descobrir

mais sobre essa questão

O Problema de PlatãoO Problema de Platão

Pessoas parecem aprender mais do que a informação

contida naquilo que recebem

Platão afirmava que isto se devia ao fato de que as pessoas nasciam equipadas com muito conhecimento, bastando apenas leves sugestões e


bastando apenas leves sugestões e alguma contemplação para despertá-los; esse era um conhecimento inato do “perfeito” e do “absoluto” Platão (427-347 AC)

As idéias de Platão sobre esse assunto não sobreviveram ao tempo, mas o mistério acerca de

nossas habilidades ainda nos faz pensar

Racionalismo: Conhecimento da RazãoRacionalismo: Conhecimento da Razão


Baruch SpinozaRene DescartesSocrates Gottfried Leibniz

Enfatiza a importância da Razão, incluindo a Intuição, minorando a influência das

experiências sensórias (incluindo emoções) como fatores de obtenção de conhecimento. Os

sentidos são frequentemente não confiáveis, sujeitos a ilusões.

Empirismo: Conhecimento dos SentidosEmpirismo: Conhecimento dos Sentidos


Aristoteles John Locke David Hume John Stuart Mill

Enfatiza a importância das experiências sensórias. Nada em torno de nós pode ser dito como sendo real a não ser que sua existência

possa ser inferida do que captamos com nossos sentidos ou via introspecção sobre

nossos estados subjetivos

A Teoria da InformaçãoA Teoria da Informação


http://www.bell-labs.com/news/2001/february/26/1.html

Shannon foi um dos primeiros a se preocupar com

aprendizado por mecanismos eletromecânicos, um dos primeiros experimentos

práticos da ainda não nascida inteligência artificial

Claude Shannon(1916-2001)

O Conceito de Informação (Shannon)O Conceito de Informação (Shannon)

Informação é uma medida da probabilidade de um evento ocorrer

)log( ipI −= )(log2 ipI −=

Informação em bits, quando se usa


Eventos IMPROVÁVEIS contém MUITA informação.

Eventos ESPERADOS contém POUCA informação

quando se usa base 2

Nosso grau de surpresa é uma indicação do volume de informação da mensagem recebida.

Se algo é surpreendente, então temos muito a aprender com isso!

Breve Parêntesis: Wolfram Alpha!Breve Parêntesis: Wolfram Alpha!


www.wolframalpha.com

Livros Têm Conhecimento?Livros Têm Conhecimento?

Notes on Quantum MechanicsBy Enrico Fermi

Mir Publishers, 1968


Podemos dizer

que este livro tem

“Conhecimento”?

Não! Porquê?

Importância dos Níveis de AnáliseImportância dos Níveis de Análise

OrganelasEnzimas, membranas, transporte, etc

CélulasMitose, meiose, genética, etc

OrganismosBiologia, morfogênese, anatomia, etc

EcosistemasSimbiose, predação, populações, etc

EmergênciaEmergência


PartículasQuarks, glúons, múons, etc

ÁtomosElétrons, neutrons, prótons

Sólidos, FluidosGases, pressão, temperatura, fluxo

MoléculasQuímica, ligações, catálise, etc

Enzimas, membranas, transporte, etc

ReducionismoReducionismo

Múltiplos Níveis de AnáliseMúltiplos Níveis de Análise

Sistemas Sociais e EconômicosEstrutura social de seres humanos, estrutura das corporações (empresas), características dos mercados, economia global, Internet, etc.

Sistemas FisiológicosSistema nervoso central, controle neuromuscular, cérebro, córtex, cerebelo, hipocampo, fígado, estômago, etc.

Sistemas Celulares Sistemas Biomoleculares


Sistemas CelularesInterações gene/citoplasma, diferenciação celular, organismos multicelulares, comunicação entre células, etc.

Sistemas BiomolecularesDNA/RNA, proteínas, expressão, transcrição, regulação genética, mutações, recombinações genéticas, sistema imunológico, etc.

Sistemas Fisico-QuímicosHidrodinâmica, dinâmica química, física não-linear, auto-organização molecular, padrões fractais e temporais complexos, etc.

Introduzindo as OntologiasIntroduzindo as Ontologias

Ontologia (Filosofia) Estudo das “coisas que existem”, parte da filosofia que investiga a natureza e organização da realidade

Ontologia para Engenharia do Conhecimento

Uma especificação explícita de uma conceitualização (Gruber)


Teoria sobre quais entidades existem na mente de um agente com conhecimento (Wielinga & Schreiber)

Descrição de uma taxonomia de conceitos para uma tarefa ou domínio específico que define a interpretação semântica do conhecimento (Alberts)

Porção de uma base de conhecimentos que não muda durante a atividade de resolução de problemas (Fikes)

Mais Definições de OntologiasMais Definições de Ontologias

Uma base de conhecimentos descrevendo os fatos assumidos como verdadeiros por uma comunidade de usuários (Guarino)

Um conjunto de acordos sobre um conjunto de conceitos (Mark)


Taxonomia de Conceitos Reutilizável

Especificação parcial de um vocabulário conceitual para ser usado na formulação de teorias no nível do

conhecimento (knowledge level) acerca de um domínio do discurso.

O principal requisito de uma ontologia é suportar o reuso e o compartilhamento de conhecimento (Enrico Motta)

Por Que Precisamos de Ontologias?Por Que Precisamos de Ontologias?

Não é possível representar o universo com níveis exatos de detalhes, é preciso aproximar, categorizarDeve-se restringir a representação a partes específicas do universo (chamadas de domínios) com detalhes suficientes para permitir a resolução de problemas práticosEscolha de um conjunto de conceitos envolve um compromisso ontológico


DomainOntologies

CoreOntologies

Top LevelEmpresa decide criar uma categoria (classe) abstrata que tem importância para a

organização

Perda de DeterioraçãoCusto financeiro da perda

de matéria prima por apodrecimento

Exemplo: OntolinguaExemplo: Ontolingua

;;; -*- Mode:Lisp; Syntax: Common-Lisp; Package:ONTOLINGUA-USER; Base:10 -*-;;; Copyright (c) 1993 Greg Olsen and Thomas Gruber

(define-theory physical-quantities (abstract-algebra)(in-theory 'physical-quantities)(define-class PHYSICAL-QUANTITY (?x);; every physical quantity has a dimension:def (defined (quantity.dimension ?x));; physical quantities are either quantities or quantity functions:axiom-def (and (exhaustive-subclass-partition

PHYSICAL-QUANTITY


PHYSICAL-QUANTITY(setof CONSTANT-QUANTITY FUNCTION-QUANTITY)))

(define-function QUANTITY.DIMENSION (?q) :-> ?dim:def (and (physical-quantity ?q) ; domain constraint

(physical-dimension ?dim)) ; range constraint:issues ((:example

(= (quantity.dimension (height fred)) length-dimension))))(define-relation COMPATIBLE-QUANTITIES (?x ?y):iff-def (and (physical-quantity ?x)

(physical-quantity ?y)(= (quantity.dimension ?x) (quantity.dimension ?y)))

:issues (:example(compatible-quantities (* 6 feet) (* 20 meters))))

Exemplo: LOOMExemplo: LOOM

(loom:defcontext physical-quantities :theory (frame-ontology abstract-algebra))

(loom:defrelation quantity.dimension

:context physical-quantities

:only-if-no-preexisting-definition-p t)

;;; Concept PHYSICAL-QUANTITY

(loom:defconcept physical-quantity


:is-primitive (:exactly 1 quantity.dimension)

:exhaustive-partitions $physical-quantity-partition-1$

:annotations ((documentation "A physical-quantity is a measure...")))


:annotations ((documentation "A physical-quantity is a measure...")))

(loom:defconcept physical-dimension


:only-if-no-preexisting-definition-p t)

;;; Relation QUANTITY.DIMENSION

(loom:defrelation quantity.dimension


:is-primitive loom:binary-tuple

:domain hysical-quantity

:range physical-dimension

:attributes (:single-valued)

:arity 2

Um Exemplo de Ontologia: MikrokosmosUm Exemplo de Ontologia: Mikrokosmos


Mais Um Nível da MikrokosmosMais Um Nível da Mikrokosmos


Um Editor Open SourceUm Editor Open Source


http://protege.stanford.edu/

Dois Lados da QuestãoDois Lados da Questão

Dedução Indução

Garante a verdade Garante a consistência

Conclusões são certeiras Conclusões são prováveis


Conclusões são certeiras Conclusões são prováveis

Aumento do número deproposições

Redução no número deproposições

Racionalismo Empirismo

Dedução Prova a Conclusão Pelas PremissasDedução Prova a Conclusão Pelas Premissas

Todas as Baleias são MamíferosTodos os Mamíferos têm Pulmões

Portanto, Todas as Baleias têm Pulmões

Mamíferosbípedes,


Todos os Homens São MapeludosTodos os Ursos São Mapeludos

Portanto, Todos os Homens São Ursos

Mamíferosbípedes,onívoros

Indução é Parecida (mas nem tanto)Indução é Parecida (mas nem tanto)

Todos cães que vi são amigáveisAqui temos um cão

Portanto, este cão é amigável

Indução Quase Aceitável


Portanto, este cão é amigável

Algumas instâncias são usadas para “justificar” uma regra genérica

Uma Indução Não Muito BoaUma Indução Não Muito Boa

Esta pessoa conhece o SergioEsta outra pessoa conhece o Sergio

Portanto, todas as pessoas desteprédio conhecem o Sergio

Indução Fraca


prédio conhecem o Sergio

O risco de fazer induções fracas é alto, essa é uma grande fonte de discordâncias em argumentações

Uma Indução Muito BoaUma Indução Muito Boa

Saturno tem órbita elípticaTerra tem órbita elíptica, .....Portanto, todos os planetas têm órbita elíptica

Indução Forte


órbita elíptica

A discussão filosófica sobre a validade da indução é tópico aberto mesmo na Filosofia atual. Provavelmente a resposta

está no meio do caminho

Conceituando o Data MiningConceituando o Data MiningBancos de dados corporativos são volumosos e potencialmente cheios de informações valiosas. Técnicas tradicionais de B.D. são inadequadas para gerar novos padrões (são dedutivas).

A extração de informações preditivas “escondidas” em grandes bancos de dados

Extração de padrões interessantes de grandes volumes de dados brutos

“Data Mining é o processo “Nós estamos nos

afogando em dados,


“Data Mining é o processo não trivial de identificação de padrões em dados que sejam válidos, novos, potencialmente úteis e ultimamente compreensíveis”Usama Fayyad (1995)

afogando em dados,

mas morrendo de fome

de conhecimento”

Dr. Jiawei Han, University of Illinois

Uma Visão do Processo InteiroUma Visão do Processo Inteiro

DECISÕES

Data Mining

Visualização

Limpeza* Dinâmicas* Incompletas* Reduntantes* Incoerentes* Ruidosas* Esparsas


Fontes Diversas

Bases de Dados

Data Warehouses

Data Mining

Interface Data Mining - EstatísticaInterface Data Mining - Estatística

DataMining

Estatística

Assim como em estatística, em DM

você tem o privilégio de nunca precisar dizer que

está totalmente certo sobre uma

conclusão!


Objetivo comum de sumarizar quantidades de dados

Identificar estruturas e relações interessantes em conjuntos de dados (data sets)

Construir (ou auxiliar) no desenvolvimento de preditores baseados nos dados coletados

DM Está no Meio de Uma Teia de DisciplinasDM Está no Meio de Uma Teia de DisciplinasSistemas

Operacionais

Ciência daComputação Bancos de

Dados

Algoritmos

MatemáticaLógica

EstatísticaTeoria

ProbabilidadeData

Mining


Linguagens deProgramação

InteligênciaArtificial

MachineLearning

KnowledgeRepresentation

NeurociênciaFilosofiaLinguística

Psicologia

InformationRetrieval

Mining

Manipulação de B.D. é DeduçãoManipulação de B.D. é Dedução

Dedução: Inferências comprovadamente corretas

Funcionários Departamentos Departamentos Gerentes


Operador

Join

Funcionários Gerentes

Dedução é naturalmente suportada pelos B.D.

Data Mining é InduçãoData Mining é Indução

Usando a mesma B.D., uma indução produz:

Funcionários Departamentos Departamentos Gerentes

Indução de


Indução deRegras

Cada Funcionário Tem Um Gerente

),()(, xyGerentexoFuncionáriyx ⇒∴∃∀

ILPInductive

LogicProgramming

Data Miningé a resposta

Novas Técnicas São NecessáriasNovas Técnicas São Necessárias

Indução não égerada por

manipulação dedutivade bases de dados


Perda de informação, compactaçãoPara fazer indução é necessário desprezar algumas características;

Data Mining precisa “perder” alguns dadosEste é um “medo” que precisamos perder!

Em Bancos de Dados, as informações estão

estruturadas em níveis primitivos

Em Bancos de Dados, as informações estão

estruturadas em níveis primitivos

A Questão dos NíveisA Questão dos Níveis

Filial

Divisão Operacional

Gerência Informática

Conhecimento é expresso em níveis

mais elevados

Conhecimento é expresso em níveis

mais elevados


Funcionário

Pessoa

José da SilvaMineração deve se preocupar com o nível de análise

Mineração deve se preocupar com o nível de análise

A Questão dos NíveisA Questão dos Níveis

Filial

Divisão Operacional

Gerência Informática

Funcionário

Pessoa

Nível Baixo DemaisRegras descobertas são muito fracas e

Nível Alto DemaisRegras são óbvias, revelam o senso comum


José da Silvasão muito fracas e suscetíveis a “ruído”

Mineração em múltiplos níveis, provê diversas visões em múltiplos estágios de abstração

Interação providencia (em tempo real) foco em áreas mais interessantes, aprofundando o processo de mineração de forma seletiva e controlada

Mineração em múltiplos níveis, provê diversas visões em múltiplos estágios de abstração

Interação providencia (em tempo real) foco em áreas mais interessantes, aprofundando o processo de mineração de forma seletiva e controlada

Três Principais Focos do DMTrês Principais Focos do DM

Identificar Classes

Achar Padrões em Sequências

Descobrir Regras Associativas


Regras (Rules)

Restrições (Constraints)

Padrões (Patterns)

Três Técnicas ImportantesTrês Técnicas Importantes

Árvores deDecisão

Descobertade Regras

RegrasAssociativas


ID3 (Quinlan 1986)C4.5 (Quinlan 1992)

Piatetsky-Shapiro1991

Agrawal 1993

Existe atualmente um grande número de técnicas, várias delas sendo publicadas no momento em que falamos

Indução de Árvores de DecisãoIndução de Árvores de DecisãoMétodo ID3 já é obsoleto, mas é importante em termos teóricos

Caso Risco Histórico Débito Garantia Salário

1 alto ruim alto nenhuma 15k2 alto desc. alto nenhuma 35k3 moder. desc. baixo nenhuma 35k4 alto desc. baixo nenhuma 15k5 baixo desc. baixo nenhuma >35k


5 baixo desc. baixo nenhuma >35k6 baixo desc. baixo adeq. >35k7 alto ruim baixo nenhuma 15k8 moder. ruim baixo adeq. >35k9 baixo bom baixo nenhuma >35k10 baixo bom alto adeq. >35k11 alto bom alto nenhuma 15k12 moder. bom alto nenhuma 35k

A Árvore Obtida Pelo ID3A Árvore Obtida Pelo ID3

histórico?desc.

garantia?débito? débito?

altorisco

altorisco

altorisco

nenh. adequ.

ruimbom

baixorisco

baixo

altobaixo

alto


garantia?

risco

garantia?

baixorisco

adequ.

salário?

nenh.

baixorisco

>35k

altorisco

15k

riscomoder.

35k

Técnicas Mais ComunsTécnicas Mais Comuns

Regras Caracterizadoras

Regras Discriminantes

Regras Associativas

Regras Classificadoras


Além dessas técnicas existem várias outras que não veremos aqui (algoritmos genéticos, métodos bayesianos, support vector

machine, análise de discriminantes, regressão linear, etc.)

Regras Classificadoras

Métodos Para Clustering

Regras de Evolução Temporal

O Que é Uma Regra?O Que é Uma Regra?

Expressões que relacionam condições iniciais a conclusões. Em argumentação, as condições iniciais são chamadas de premissas e as conclusões são chamadas de alegação. Em

nosso caso, vamos usar esta nomenclatura:

Antecedente 1Antecedente 2


Antecedente 2Antecedente 3...................Antecedente n

Consequente

Se (emprestimo > 5000) e (salário < 1500) então {recusar crédito}

A Indução Orientada a AtributosA Indução Orientada a Atributos

Compressão de dados onde valores de atributos são trocados por conceitos generalizados, de hierarquias superiores

Hierarquias são normalmente fornecidas por um especialista no domínio ou gerados através de sugestões de outros métodos (ID3, C4.5)


sugestões de outros métodos (ID3, C4.5)

Pode-se remover atributos que têm grande número de valores distintos e que não possuam hierarquia superior (Ex: chaves de acesso a B.D.)

Pode-se generalizar atributos que tenham como ser categorizados sob um mesmo nome

Exemplos de IOAExemplos de IOA

Estado Cidade População Orç.Saúde....... ........ ............ .................. ........ ............ .................. ........ ............ .................. ........ ............ .................. ........ ............ .................. ........ ............ ...........

Um banco de dados gigantesco esconde relações valiosas


Estado Norte, Nordeste, Sudeste, Sul, etc.

População Pequena, Média, Grande

Gastos 0-5%, 5-15%, 15-20% arrecadação

Generalização de atributos reduz (comprime) o tamanho do banco de dados

Exemplos de IOAExemplos de IOA

Hobby de Uma Pessoa

Tênis,futebol,piano,

nintendo,ópera,

Esportes,Música,

videogame


ópera,playstation

Redução de atributos promove uma generalização que pode favorecer o

aparecimento de certos padrões

As Regras CaracterizadorasAs Regras Caracterizadoras

Regras que caracterizam um conceito satisfeito por todos (ou pela maioria) dos exemplos. Também conhecidas como Regras de Sumarização.

Aqui usa-se a IOA de forma a sugerir quais são os atributos que caracterizam uma determinada coleção de dados.


de dados.

Exemplos: Sintomas de uma doença específica podem ser sumarizados por uma regra caracterizadora

Características típicas dos estudantes de MBA que decidiram pelo curso logo após terminarem graduação

Regras Caracterizadoras: Análise de CréditoRegras Caracterizadoras: Análise de Crédito

Cliente: 10015Anos cliente: 6Empréstimo:$2800Salário:$4800Possui casa:SimContas em atraso:2Num. Pagtos. Atraso:3Cliente rentável:?

Cliente: 10015Anos cliente: 6Empréstimo:$4200Salário:?Possui casa:SimContas em atraso:2Num. Pagtos. Atraso:4Cliente rentável:?

Cliente: 10015Anos cliente: 7Empréstimo:$6720Salário:?Possui casa:SimContas em atraso:3Num. Pagtos. Atraso:6Cliente rentável:Não

tempo t1 tempo t2 tempo t3


Cliente rentável:? Cliente rentável:? Cliente rentável:Não

Se [contas em atraso] > 2 e [num.pagtos.atraso] > 1 EntãoSe [cliente rentável] = “Não” Então {Recusar Crédito}

Se [contas em atraso] = 0 e ([salário] > 3000 ou ([anos cliente] > 3) Então

{Aceitar Solicitação de Crédito}

Regras DiscriminatóriasRegras Discriminatórias

Regras que discriminam um conceito da classe que está sendo aprendida (classe alvo) em relação a outras classes (classes contrastantes)

Exemplos:


Exemplos:Para distinguir uma doença de outras a regra discriminante iria sumarizar os sintomas que identificam (separam) esta doença das outras

Regras DiscriminatóriasRegras Discriminatórias

Principal preocupação da regra:Remover as classes alvo que tenham sobreposição com alguma das classes contrastantes


Generalizar classes alvo e contrastante sincronizadamente, para excluir as propriedades que se sobrepõe de um mesmo nível conceitual

Regras AssociativasRegras Associativas

Dado um B.D. qualquer, descobrir quais as associações entre itens de forma que a presença de um item em um registro implica na presença de outro(s) item(s) no mesmo registro

Exemplo:Para a maioria das pessoas que adquiriram pão e


Para a maioria das pessoas que adquiriram pão e leite conjuntamente, também foi adquirido manteiga

{pão, leite} manteiga

Características das Regras AssociativasCaracterísticas das Regras Associativas

Em geral, despreza quantidades, só interessando a presença ou ausência de determinada associação. Por isso, é um processo booleano por natureza (Sim/Não)


processo booleano por natureza (Sim/Não)

Jiawei Han propôs algoritmos que desenvolvem associações sobre “faixas” de quantidades

Regras Associativas Multi-NíveisRegras Associativas Multi-Níveis

Dr. Han também propôs descobrir regras em níveis conceituais específicos, como as MLAR (Multiple-Level Association Rules)

leite pão


leite pão

leite desnatado pão integral

leite desnatado Parmalat pão integral Pullman

Market Basket AnalysisMarket Basket Analysis

Esta é uma das mais interessantes aplicações das Regras Associativas, de fundamental importância para marketingEsta é uma das mais interessantes aplicações das Regras Associativas, de fundamental importância para marketing

A) Achar todas as regras que tenham “diet coke” como consequentes. Irá auxiliar no planejamento de lojas para vender melhor esse produto

B) Achar todas as regras com “iogurte” como


B) Achar todas as regras com “iogurte” como antecedente. Irá auxiliar a determinar o impacto nas vendas, caso esse produto seja retirado das prateleiras

C) Achar todas as regras com “salsicha” no antecedentee “mostarda” no consequente. Auxilia na obtenção de melhores regras para determinar que produtos devem ser vendidos em conjunto com salsichas para aumentar as vendas de mostarda

Regras ClassificadorasRegras Classificadoras

Tentam classificar o conjunto de dados disponível baseado no valor de um determinado atributo. Preocupa-se em obter regras que particionem os dados em grupos disjuntos.


Exemplo:Classificar carros de acordo com consumo de combustível, dividir clientes em classes pouco rentável, rentável e muito rentável, efetuar marketing direcionado, etc.

Um Exemplo de Uso da ClassificaçãoUm Exemplo de Uso da Classificação

Classificar lojas de acordo com a localização pode ajudar na escolha do local de uma nova loja

Lojas bem sucedidasLojas medianamente sucedidasLojas mal sucedidas


Lojas mal sucedidas

Classificação pode ser feita através de ID3, C4.5 ou do CART (Breitman et al. 1984)

Métodos SupervisionadosMétodos Supervisionados

Até agora vimos métodos no qual um operador humano deveria apontar que características ou conceitos deveriam

ser examinados. Esses métodos são ditos como supervisionados, pois usam um “professor” para lhes dizer

que fazer com os dados analisados


SistemaDados

Métodos Não-SupervisionadosMétodos Não-Supervisionados

Métodos no qual nós não fazemos idéia do tipo de padrões que podem ser encontrados nos dados. O sistema deve procurar por aquilo que for

possível achar


SistemaDados

O professor não sabe o que procurar

Clustering: Detectando AglomeraçõesClustering: Detectando Aglomerações

Clustering é um processo não-supervisionado no qual se tenta detectar aglomerações nos dados

Em geral, usa algum processo do tipo

Clusters são áreas densamente povoadas de dados


dividir/conquistar

É necessário fornecer alguma medida de distância entre os dados (por exemplo, distância euclideana)

A. K. Jain, R. C. Dubes: Algorithms for ClusteringData, Prentice Hall 1988

Clustering com o K-MeansClustering com o K-Means

x x

x

xx x

x

x

x

x

x

x

xx x

x

xxx

x

x

xxx

xx x


Pontos estão dispostos em uma área. Neste caso, área bidimensional, mas em geral é multidimensional

xx

x x

x

xx x

x

x

x

x

x

x

xx

Clustering com o K-Means - Fase 1Clustering com o K-Means - Fase 1

x x

x

xx x

x

x

x

x

x

x

xx x

x

xxx

x

x

xxx

xx x

fase

12


Escolhe-se dois pontos ao acaso. Esses pontos serão os “centros” de duas classes

xx

x x

x

xx x

x

x

xx

x

xx

1


x x

x

xx x

x

x

x

x

x

x

xx x

x

xxx

x

x

xxx

xx x

fase

22


De cada ponto faz-se uma investigação de todos outros através da distância

xx

x x

x

xx x

x

x

xx

x

xx

1


x x

x

xx x

x

x

x

x

x

x

xx x

x

xxx

x

x

xxx

xx x

fase

3

12


Recalcula-se os novos centros tomando por base aárea delimitada pelo passo anterior

xx

x x

x

xx x

x

x

xx

x

xx


x x

x

xx x

x

x

x

x

x

x

xx x

x

xxx

x

x

xxx

xx x

fase

41

2


Volta ao passo 2, divide novamente os dados deacordo com os novos centros

xx

x x

x

xx x

x

x

xx

x

xx

Regras de Evolução TemporalRegras de Evolução Temporal

Procuram acompanhar a evolução no tempo de um conjunto de dados, tentando obter padrões

Exemplo:Comprou um PC com gravador DVD hoje, poderá comprar um Blu-ray em nove meses

Comprou impressora hoje, precisará de novos suprimentos em dois meses


suprimentos em dois meses

Quem comprou DVD-Player hoje tem 3 vezes mais probabilidade de adquirir uma filmadora 7 meses após a compra

Na Evolução Temporal interessa-nos dados que sofrem variações constantemente. Anti-exemplo: departamento de um funcionário

Usa as Outras Técnicas Como BaseUsa as Outras Técnicas Como Base

As Regras de Evolução Temporal são construídas através das técnicas anteriores (caracterização, classificação, associação, clustering)

Achar as principais características das empresas cujas ações em bolsas de valores tiveram


cujas ações em bolsas de valores tiveram crescimento de 20%

Achar as empresas que tenham ações subindo em conjunto (regras associativas)

Um Exemplo: VideolocadoraUm Exemplo: VideolocadoraCODFITA TITULO GENERO CODPRECOLOCMESLOCTOTALDIASLANCSITUACAO000011 LIGACOES PERIGOSAS ALT. 11 01 6 6 0 0000021 MANSAO DA MEIA NOITE 11 06 6 6 0 0000031 IMPERIO DO SOL 08 06 13 13 0 0000041 DOCTOR DETROIT 01 06 3 3 0 0000051 A PRINCESA E O ROBO 09 03 21 21 0 0000061 EXCALIBUR 07 06 29 29 0 0000071 O SENHOR DAS AGUIAS 07 06 14 14 0 0000081 UM PRINCIPE EM NOVA YORK 01 06 4 4 0 0000091 AS NOVAS AVENTURAS TURMA DA MONICA09 03 16 16 0 0000101 NA HORA DA ZONA MORTA 01 06 2 2 0 0000111 TACADA MORTAL 06 06 11 11 0 0000121 FIREFOX-RAPOSA DE FOGO 06 06 6 6 0 0000131 OSSO DURO DE ROER 01 03 23 23 0 0


000131 OSSO DURO DE ROER 01 03 23 23 0 0000141 LATINOS 03 06 5 5 0 0000151 APRENDIZ DE ASSASSINOS 11 06 6 6 0 0000161 O MERCADOR DE GUERRA 06 06 10 10 0 0000171 O TELEFONE VERMELHO 05 03 17 17 0 0000181 DOVE LIBERDADE 01 03 1 1 0 0000191 O TREM DOS DESESPERADOS 06 06 2 2 0 0000201 HONDCATS 09 03 3 3 0 0000221 FUGA A MEIA NOITE 07 06 20 20 0 0000231 OS DOZE CONDENADOS 03 06 11 11 0 0000241 ATIRANDO PARA MATAR 06 06 1 1 0 0000251 COCKTAIL 01 06 5 5 0 0000261 RED SCORPION 07 03 28 28 0 0000271 CONQUISTA SANGRENTA 07 06 22 22 0 0

Outras Bases de Dados da VideolocadoraOutras Bases de Dados da VideolocadoraFeriadosLocaçõesGêneros

CODGENERO GENERO01 COMEDIA02 FICCAO03 GUERRA04 WESTER05 EROT/PORNO06 ACAO07 AVENTURA

CLI_FITA00001000010005400001000790000100151000010022000001003420000100414000010047300001004800000100484

DATA01/01/0007/03/0021/04/0001/05/0022/06/0007/09/0012/10/0008/10/0002/11/0015/11/0025/12/00


08 DRAMA09 INFANTIL10 TERROR11 SUSPENSE12 POLICIAL13 ROMANCE14 COMEDIA/ROMANCE15 DOCUMENTARIO16 BIBLICO

00001004840000100526000010055600001006260000100628000010065600001006640000100666000010067500001006760000100705000010072700001007430000100744

25/12/0008/12/0006/03/0029/04/0030/04/0001/01/0127/02/0113/04/0121/04/0101/05/0114/06/0107/09/0108/10/0115/11/01

Manipulando as Bases de DadosManipulando as Bases de DadosLocações

+

Isto ainda é manipulação

de B. D. tradicional, ou seja, é

DEDUÇÃO

FilmesCLI_FITA000010000100054000010007900001001510000100220000010034200001004140000100473000010048000001004840000100526

CODFITA TITULO GENERO CODPRECOLOCMESLOCTOTALDIASLANCSITUACAO000011 LIGACOES PERIGOSAS ALT. 11 01 6 6 0 0000021 MANSAO DA MEIA NOITE 11 06 6 6 0 0000031 IMPERIO DO SOL 08 06 13 13 0 0000041 DOCTOR DETROIT 01 06 3 3 0 0000051 A PRINCESA E O ROBO 09 03 21 21 0 0000061 EXCALIBUR 07 06 29 29 0 0000071 O SENHOR DAS AGUIAS 07 06 14 14 0 0000081 UM PRINCIPE EM NOVA YORK 01 06 4 4 0 0000091 AS NOVAS AVENTURAS TURMA DA MONICA09 03 16 16 0 0000101 NA HORA DA ZONA MORTA 01 06 2 2 0 0000111 TACADA MORTAL 06 06 11 11 0 0000121 FIREFOX-RAPOSA DE FOGO 06 06 6 6 0 0000131 OSSO DURO DE ROER 01 03 23 23 0 0000141 LATINOS 03 06 5 5 0 0000151 APRENDIZ DE ASSASSINOS 11 06 6 6 0 0000161 O MERCADOR DE GUERRA 06 06 10 10 0 0000171 O TELEFONE VERMELHO 05 03 17 17 0 0000181 DOVE LIBERDADE 01 03 1 1 0 0000191 O TREM DOS DESESPERADOS 06 06 2 2 0 0000201 HONDCATS 09 03 3 3 0 0000221 FUGA A MEIA NOITE 07 06 20 20 0 0000231 OS DOZE CONDENADOS 03 06 11 11 0 0000241 ATIRANDO PARA MATAR 06 06 1 1 0 0000251 COCKTAIL 01 06 5 5 0 0


Gêneros

+

LocaçõesPor Gênero

DEDUÇÃO

+

000010055600001006260000100628000010065600001006640000100666000010067500001006760000100705000010072700001007430000100744000010074600001007470000100748

000251 COCKTAIL 01 06 5 5 0 0000261 RED SCORPION 07 03 28 28 0 0000271 CONQUISTA SANGRENTA 07 06 22 22 0 0

CODGENERO GENERO01 COMEDIA02 FICCAO03 GUERRA04 WESTER05 EROT/PORNO06 ACAO07 AVENTURA08 DRAMA09 INFANTIL10 TERROR11 SUSPENSE12 POLICIAL13 ROMANCE14 COMEDIA/ROMANCE15 DOCUMENTARIO16 BIBLICO

Minerando Através da InduçãoMinerando Através da Indução

GênerosPreferidos

GênerosMaisRentáveis

Locações Gêneros

+

Classifica ejoga forarestante

Ao “jogar fora” o restante está-se

fazendo uma

CLI_FITA000010000100054000010007900001001510000100220000010034200001004140000100473000010048000001004840000100526000010055600001006260000100628000010065600001006640000100666

CODGENERO GENERO01 COMEDIA02 FICCAO03 GUERRA04 WESTER05 EROT/PORNO06 ACAO07 AVENTURA08 DRAMA09 INFANTIL10 TERROR11 SUSPENSE12 POLICIAL13 ROMANCE


GêneroPreferidopor cadacliente

MarketingDirecionado

LocaçõesPor Gênero

fazendo uma indução, ou seja,

desenvolvendo uma regra que vale “para

a maioria”

0000100666000010067500001006760000100705000010072700001007430000100744000010074600001007470000100748

13 ROMANCE14 COMEDIA/ROMANCE15 DOCUMENTARIO16 BIBLICO

CODFITA TITULO GENERO CODPRECOLOCMESLOCTOTALDIASLANCSITUACAO000011 LIGACOES PERIGOSAS ALT. 11 01 6 6 0 0000021 MANSAO DA MEIA NOITE 11 06 6 6 0 0000031 IMPERIO DO SOL 08 06 13 13 0 0000041 DOCTOR DETROIT 01 06 3 3 0 0000051 A PRINCESA E O ROBO 09 03 21 21 0 0000061 EXCALIBUR 07 06 29 29 0 0000071 O SENHOR DAS AGUIAS 07 06 14 14 0 0000081 UM PRINCIPE EM NOVA YORK 01 06 4 4 0 0000091 AS NOVAS AVENTURAS TURMA DA MONICA09 03 16 16 0 0000101 NA HORA DA ZONA MORTA 01 06 2 2 0 0000111 TACADA MORTAL 06 06 11 11 0 0000121 FIREFOX-RAPOSA DE FOGO 06 06 6 6 0 0000131 OSSO DURO DE ROER 01 03 23 23 0 0000141 LATINOS 03 06 5 5 0 0000151 APRENDIZ DE ASSASSINOS 11 06 6 6 0 0000161 O MERCADOR DE GUERRA 06 06 10 10 0 0000171 O TELEFONE VERMELHO 05 03 17 17 0 0000181 DOVE LIBERDADE 01 03 1 1 0 0000191 O TREM DOS DESESPERADOS 06 06 2 2 0 0000201 HONDCATS 09 03 3 3 0 0000221 FUGA A MEIA NOITE 07 06 20 20 0 0000231 OS DOZE CONDENADOS 03 06 11 11 0 0000241 ATIRANDO PARA MATAR 06 06 1 1 0 0000251 COCKTAIL 01 06 5 5 0 0000261 RED SCORPION 07 03 28 28 0 0000271 CONQUISTA SANGRENTA 07 06 22 22 0 0

Minerando Através do Uso de “Conceitos”Minerando Através do Uso de “Conceitos”

Generalização Indutiva

FL - Filmes Leves

FF - Filmes Fortes

FS - Filmes Suspense

CODGENERO GENERO01 COMEDIA02 FICCAO03 GUERRA04 WESTER05 EROT/PORNO06 ACAO07 AVENTURA08 DRAMA


FA - Filmes Ação

FO - Filmes (Outros)

08 DRAMA09 INFANTIL10 TERROR11 SUSPENSE12 POLICIAL13 ROMANCE14 COMEDIA/ROMANCE15 DOCUMENTARIO16 BIBLICO

Outro Conceito, Outras DescobertasOutro Conceito, Outras Descobertas

Generalização Indutiva

FI - Filmes Infantis

FT - Filmes “Teens”

CODGENERO GENERO01 COMEDIA02 FICCAO03 GUERRA04 WESTER05 EROT/PORNO06 ACAO07 AVENTURA08 DRAMA


FA - Filmes Adultos08 DRAMA09 INFANTIL10 TERROR11 SUSPENSE12 POLICIAL13 ROMANCE14 COMEDIA/ROMANCE15 DOCUMENTARIO16 BIBLICO

Explorando a Evolução TemporalExplorando a Evolução Temporal

Como é o comportamento de cada cliente?

Detectar sequências típicas de consumo

Ação - Romance - Ficção - Infantil

Romance - Erótico - Bíblico - Documentário


Ação - Western - Guerra - Ficção - Terror

O fato é que muitas vezes não dá para “deduzir” que tipo de sequências são “lógicas”. É por isso que o apoio tem que ser sobre nossos dados, pois eles é que são a única referência

empírica da realidade de que dispomos

Uma Colcha de RetalhosUma Colcha de Retalhos

Estado atual do DM: inúmeras técnicas, cuja aplicação requer concentração sobrealgoritmos específicos.

Mas um analista humano tem tudo


integrado em seu cérebro.

Então qual é melhor tipo de futuro quepodemos imaginar para o DM?

Agentes Inteligentes e Seus AmbientesAgentes Inteligentes e Seus Ambientes


O AmbienteO AgenteO Conjunto Ambiente/Agente

Apresentando a Visão TradicionalApresentando a Visão Tradicional


Organismos inteligentes requerem transdutores (órgãos dos sentidos) e sistemas motores para interagir com o

meio ambiente. Entre esse nível e o processamento simbólico há um nível perceptual

Visão já obsoleta

O Sensório, o Perceptual e o ConhecimentoO Sensório, o Perceptual e o Conhecimento

PERCEPÇÃO


Mecanismos InatosDesenvolvidoPor Experiência

Controlede Atenção

PARALELOSERIAL

Empirismo: Conhecimento Dos SentidosEmpirismo: Conhecimento Dos Sentidos


Conhecimento nasce através da percepção das regularidades estatísticas dos sinais sensórios, da

formação de categorias e da indução de regras

Racionalismo: Conhecimento Do PensarRacionalismo: Conhecimento Do Pensar


Conhecimento nasce através da reflexão. Faz-se o pensamento circular por áreas perceptuais já formadas (simulação do mundo), o que leva a novas percepções

Conhecimento Modula Percepção e Vice-VersaConhecimento Modula Percepção e Vice-Versa


A atenção “modula” a percepção. Ao desviar a atenção para uma característica em particular, perdemos

a capacidade de perceber alguns outros detalhes

Das Similaridades Originam-se CategoriasDas Similaridades Originam-se Categorias

Perceptuais


Tangerinas

Maçãs

Frutas

O tipo de característica que define uma categoria pode variar, até mesmo em tempo real

Conceituais

A Hierarquia da MenteA Hierarquia da Mente

Lógico-AssociativoExpressões linguísticas

explícitas

Simbólico

“O gato estádormindo no

tapete”

Gato

Ed

uc

aç

ão

Fo

rma

l


SimbólicoPalavras, ícones,

signos

Sub-SimbólicoNão tem expressão

pública

[mesa]

[gosto

chocolate]

GatoJustiçaÁrvore

Viv

ên

cia

s

Decidi Fazer Um “Experimento”Decidi Fazer Um “Experimento”


Esse é o sofisticado instrumental que utilizei

Cento e Dez Arremessos de MoedaCento e Dez Arremessos de Moeda

A O O A O A O A A A O O O A O A A A O A

A O O O O O A A A O A A A O O A A A O O

A O O A A O O A A A A A A O A A A A O A

O A A O A A A O O A A A A A O A A A A O

O O A O O O A O A O O O A A O O A O A O

A O A O A O O O O O


Organizei em matriz de 10 por 11 elementos, CARA ficou um

quadrado em branco, COROA quadrado preto.

Simples Filtro GaussianoSimples Filtro Gaussiano


Gaussian Blur, 20 pixels

Apresentando os Monstros da MoedaApresentando os Monstros da Moeda


Adição de um pouco de ruído

para dar “textura”

Original

Como Separar Palavras da Fala?Como Separar Palavras da Fala?


Como os bebês conseguem aprender a segmentar palavras se a fala humana raramente

respeita fronteiras?

Um Experimento InstiganteUm Experimento Instigante

A Dra. Jenny Saffran (University of Wisconsin-Madison) é uma das maiores autoridades no aprendizado estatístico de bebês

Bebês de 8 meses de idade foram expostos a estímulos sonoros


bidakupadotigolabubidakutupiropadotitupiro...

Sílabas utilizadas

pa bi go tu pi la da do ti ku bu ro

estímulos sonoros durante 2 minutos

Os Estatísticos de 8 Meses de IdadeOs Estatísticos de 8 Meses de Idade

Diferentes probabilidades transicionais

ro

go

bi

pa


bidakupadotigolabubidakutupibupadotitupiro...

tupirogolabubidakupadoti

Bebês localizam ponto de quebra

Palavras formadas com a sequência de sílabas

Percepção Estatística é MultimodalPercepção Estatística é Multimodal


Segmentou as palavras

corretamente


Um Quase-Exemplo: SISCOLOUm Quase-Exemplo: SISCOLO


Limpeza e Preparação de DadosLimpeza e Preparação de Dados


Base ConvertidaBase Convertida


Um Teste: O Simple MinerUm Teste: O Simple Miner


Avaliação Analítica Citologia Colpocitologia Oncótica

dataestado civilcor

Resultados de 4 IteraçõesResultados de 4 Iterações

Padrão


Padrãoestabilizado

Ideias Fundamentais da Cognição Ideias Fundamentais da Cognição

Variable Binding and Substitution (deduction)

Alignment and Matching of Structures (analogies)

Structures of Coherent Elements (gestaltic structures)


Abstract Representations and Transfer (inner symbols)

Similarity and Category Formation (induction)

Co-occurrence and Covariation (chunks, conditioning)

Information Theory (frequency of occurrence)

Fenômenos Cognitivos RelevantesFenômenos Cognitivos Relevantes

Sensibility to transitional probabilities

Decay of memory traces

Proactive and Retroactive Interference

Semantic, Repetition, Negative and Associative Priming

Chunks, Perceptual Magnet Effect

Primacy and Recency

Spreads of Activation (compound cue)

Selective and Automatic Attention


Selective and Automatic Attention

Detection of Abstract Relational Structures

Transfer of Abstract Structures

LTM, STM, WM, LTWM and CSTM

Binding of Variable to Abstract Structures

Conceptual and Perceptual Categorization

Past Tense, Lexics, Grammars

Mental Models (deductive reasoning)

Analogical Mapping

Gestaltic Structures

Qual o Futuro?Qual o Futuro?

O Data Mining Definitivo


Quando se emula a capacidade conceitual e analítica do ser humano

Para ConcluirPara Concluir

Slides da palestra disponíveis emhttp://www.intelliwise.com.br


Grato Pela Atenção

Sergio [email protected]://www.intelliwise.com/snavega

intro DM UNIP.ppt [Modo de Compatibilidade] · DNA/RNA, proteínas , expressão, ... filosofia que...

Documents

Transcript of intro DM UNIP.ppt [Modo de Compatibilidade] · DNA/RNA, proteínas , expressão, ... filosofia que...