Fontes de Informação em Ciência e Tecnologia

Prof. Dr. Marcelo KnobelIFGW – UNICAMP

Curso de Especialização em Jornalismo Científico – Labjor/NUDECRI/UNICAMP

Baseado em:What is Pseudo-Science? - John Lattanzio ver: http://www.sci.monash.edu.au/subject/sci2010/resources/Sg2.htmPseudoscience in the New Millennium - Michael De Robertis

Ciência e Pseudociência

Introdução

Ciência é difícil de definir…

Mas sabemos quando a vemos…

….não é?

Filme Randi

Aspectos cruciais

Experimento (ou observação) Hipótese Teoria Predição Modificação

Todos esses aspectos são importantes de algum modo…

Pseudociência

“Uma “teoria” não-científica que parece com ciência”

Por que se preocupar?

Aumentar a credibilidade de suas afirmações!

A Ciência funciona, e as pessoas acreditam nela.

Oito pontos importantes

Anédotas NÃO fazem Ciência Linguagem científica NÃO faz Ciência. Frases claras NÃO fazem afirmações

verdadeiras Heresia NÃO é igual à correteza.

Oito pontos importantes

Rumores NÃO são iguais à realidade Inexplicado NÃO é inexplicável. Correlação NÃO significa causa-efeito. Coincidência NÃO implica em

conexão.

Você acha que as pessoas (ou seja, a maioria delas), atuando através dos seus representantes eleitos, tem direito a controlar o que é ensinado nas escolas que pertencem, foram fundadas e são operadas pelo estado?

Se não for a maioria, quem mais vai controlar o que é ensinado nas escolas?

Educação Pública

Ao fazer decisões, que é o papel de pessoas com competência em determinadas áreas, qual é o papel do senso comum, e qual é o papel da tradição?

Deveríamos confiar plenamente em consultores e acadêmicos a que nos digam o que é verdadeiro ou falso, ou o verdadeiro reservatório de conhecimento ainda pertence às pessoas comuns?

Um lugar para entendidos?

Políticas Públicas

Em nossa democracia, o quais são os limites para os direitos da maioria, atuando através de seus políticos eleitos?

“Terapias Alternativas”

Brasil: 50 mil terapeutas alternativos (número que cresce 20%

ao ano). Movimenta em torno de 500 milhões de dólares anuais.

(Nos EUA, 30 bilhões de dólares) Há, por exemplo, 1.500 iridologistas, e o mesmo

número de terapeutas florais do que cardiologistas. Facilidade de formação

Reiki: terapeuta é uma ponte entre a “energia do universo” e a pessoa, e a energia vital poderia curar qualquer doença. Basta um curso de dois dias é suficiente para tornar-se um terapeuta, permitindo inclusive conslutas por telefone.

Fonte: Ciências versus Pseudociências, Paulo Lee, Editora do Chain, 2003. p. 118.

Em que os norte-americanos crêem?

52% dos adultos acreditam em predições astrológicas

46% acreditam em percepção extra-sensorial 42% acreditam que pessoas podem se comunicar

com os mortos 46% acreditam que os homens não se

desenvolveram a partir de outras espécies de animais

43% acreditam que os UFOs existem e que realmente são veículos espaciais de outras civilizações

1/3 dos professores de biologia do ensino médio acreditam que a terra tem menos de 1000 anos de idade

Muitas coisas não são ciência, mas também elas não pretendem ser. Arte Teologia

Pseudociências Afirmações questionáveis de serem científicas Teorias reprovadas que são difíceis de esquecer. Um grande número fatos associados à cobertura

jornalistica, com aspectos folclóricos, crenças e cultos.

Ciência vs. Pseudociência

Como separar a Ciência da Pseudociência?

Como separar a boa ciência Como separar a boa ciência da má-Ciência.da má-Ciência.

ou melhor…ou melhor…

Quem se importa???

Quem se importa?

Pseudociência é mais fácil do que Ciência… Fazer boa ciência é um trabalho árduo. Deve-se constantemente checar:

erros e imprecisões assumpções implícitas Armadilhas devidas à seu próprio viés e

expectativas.

É mais fácil ignorar todas as checagens, balanços e trabalho chato!

É mais fácil acreditar nas coisas sem críticas.

Para a maioria das pessoas, a vida está boa sem entender a diferença entre ciência e pseudociência.

O apelo da Pseudociência

Quem se importa?

VOCÊ deveria se importar… Vocês estão se especializando em JC,

e deveriam saber como distinguir um do outro…

As obrigações dos cientistas

O cientista deve separar o que ele QUER que seja verdade e o que É verdade.

Às vezes isso não é fácil, mas é essencial…

Como separar Ciência de Pseudociência

“FiLCHeRS”

por James Lett, Skeptical Inquirer magazine

Falseável Imagine um teste simples…

Lógica Argumentos devem ser estruturados e consistentes

Compreensível Deve ser consistente com toda evidência

Honesta Deve avaliar todas as evidências sem viés

Replicável testes devem ser repetíveis e dar os mesmos resultados para todos os experimentadores

Suficiente Deve haver evidências suficientes

FiLCHeRS

Algumas vezes rejeitamos os experimentos…

O QUE????? Experimentos podem estar errados... Se um experimento vai contra algo que está bem estabelecido, temos

que ser extremamente cuidadosos e ser céticos com relação a ele.

Ex: Conservação da Energia

Consistente com toda evidência??

Falseabilidade

“Água congela a zero Celsius” Uma afirmação facilmente testável

A maioria das pseudociências não faz afirmações tão específicas…

Muitas pessoas querem que algo se torne realidade, e vão esticar a definição para que o teste se ajuste (ver Honestidade).

Manter as afirmações vagas e amplas ajuda nisso…

Estudo de casos:

Finally, as I was leaving Newman's property, he trotted alongside the car and insisted on adding to his comments that the theory of "vortices" also explained water dowsing, hurricanes, earthquakes, prophecy (Jeanne Dixon, Nostradamus, and the rest), ESP, and psychokinesis. It is a significant indicator, in all crackpot theories, that the inventor claims he has explained most mysteries of mankind all in one unified notion.

http://www.randi.org/

The James Patterson Energy Cell

Adivinhadores muitas vezes não são mentirosos!Eles acham que realmente conseguem fazê-lo

Mas isso não é ciência

Testado… e comprovado!

Estudo de casos:

“fadas” de Cottingley Glen

http://www.randi.org/library/cottingley/index.html

Estudo de Casos

The Art of "Cold Reading" - http://www.randi.org/library/cottingley/index.html

The Matter of Dowsing - http://www.randi.org/library/dowsing/index.html

Ciência Patológica (Pathological Science) – Cientistas enganando-se Ciência Lixo (Junk Science)– Ciência feita de modo errado

Pseudociência – Sem qualquer base científica

Ciência Voodoo ou Borderline Science – Ignorância, inocência, falsidade, etc…

Definições

Definições

Pseudociência: uma doutrina ou crença mascarada de Ciência Hipóteses não-falseáveis investigação de dados não-crítica falha em aprimorar teorias

Paranormal: um subconjunto cujas explicações saem dos cânones científicos

Lógica

Claramente importante Um único contra-exemplo pode

destruir!

Mark Twain

Lógica

Cuidado!

Todos os cães tem pulgas.Rex é um cão.Portanto Rex tem pulgas!

Premissa incorreta: nem TODOS os cães tem pulgas…

Lógica

“Astrologia não pode funcionar pois o efeito gravitacional dos planetas é totalmente desprezível”

Certo….

Mas poderia haver alguma outra interação que ainda não conhecemos?

Melhor examinar a afirmaçao do que argumentar desse modo.

Esse fato é importante, mas evidência empírica é mais importante.

Lógica

No século passado havia afirmações de pedras caindo do céu…

“Loucura!”

Mas depois descobriram-se os meteoros ….

Portanto, seja cuidadoso com seus argumentos….

Compreensível

Devemos considerar toda a evidência. Não podemos simplesmente escolher aquelas

que dão suporte às nossas idéias. A natureza humana não é desse modo:

“Minha teoria deve estar correta!” “Até Einstein disse isso!” Evidência forjada deEric Von Daniken

“Não é minha culpa! As pessoas queriam uma prova! Eu tinha que fazê-la!”

Honestidade

Não devemos ser influenciados pelo que queremos ou o que esperamos!

Ex. UFOs são fascinantes… mas…

Bob Dylan

Honestidade

Erros acontecem… cientistas são humanos.

Exemplos (depois)

S. Harrishttp://www.sciencecartoonsplus.com/gallery.htm

Repetibilidade

Deve ser possível repetir experimentos Podem ocorrer erros experimentais

Pode ser um experimento mal desenhado

Mas: obter resultados inconsistentes….frustrante!O resultado se repete em condições controladas?

Uri Geller repetiu as suas habilidades! -mas não em condições controladas…

Suficiência

Deve haver dados suficientes para confirmar a afirmação.

i.e. uma quantidade razoável, mas de alta qualidade UFOs tem milhares de dados! Mas todos de baixa qualidade

O mundo “real” Astrologia: horoscópos, bioritmos, correlações

lunares UFOs: visões, abduções, híbridos, circulos nas

plantações, mutilações de gado, astronautas antigos...

PSI: ESP, parapsicologia, precognição, psycocinese, clarevidência, visão à distância, telepatia…

Ocultismo: numerologia, tarot, pirâmides, leitura da palma da mão, bola de cristal, triângulo das Bermudas, Nostradamus,…

O mundo “real”

New Age: auras, fotografia Kirlian, cristais, Atlântida, Feng Shui,…

Espiritualidade: Fantasmas, experiências próximas da morte & for a do corpo, levitação, (algumas) aparições & cura pela fé, reencarnação,…

Medicina Alternativa: aromaterapia, iridologia, reflexologia, homeopatia, cinesiologia, terapia dos meridianos, terapia de toque, magnetoterapia, algumas naturopatias & quiropraxias, …

Outros: criptozoologia, grafologia, creacionismo, teorias conspiratórias, cartas em cadeia, cirurgia psiquica, negação do holocausto, …

Por que as pessoas acreditam em Pseudociência?

É mais simples que a Ciência de verdade Nós queremos acreditar em coisas

A maioria das pessoas preferem certezas….

Percepção errônea é normal

Por que as pessoas acreditam em Pseudociência?

Crença em evidência anedótica Correlação não implica em causalidade Importância de uma amostra de controle Papel da aleatoridade e coincidência Efeito placebo Analfabetismo científico Falta de crença na Ciência Incapacidade de sujeitar as próprias crenças a um

teste mais rigoroso.

Teste feito por Dr Shawn Carlson

Publicado na Nature

Enquanto ele era estudante !!

Estudo de caso: Astrologia

"A Double-Blind Test of Astrology," Nature, Vol. 318, pp. 419-425, 1985

http://psychicinvestigator.com/demo/AstroSkc.htmhttp://www.sas.org/CarlsonCV.html

Testando a Astrologia

Como você desenharia esse teste? O que você está querendo testar? O que consitui uma prova? Ou uma

falha?

Testando a Astrologia

Testaremos se a “personalidade” está correlacionada com algum signo.

Nota: Não dizemos NADA sobre conexões casuais ou mecanismos.

Primeiro, veremos se há correlação Se houver, então procuraremos por

um mecanismo.

Testando a Astrologia

Precisamos então signo (fácil!) personalidade (não tão fácil…)

Como medir a personalidade? Abriremos brechas para críticas neste

ponto? Não queremos rotas de escape… para

ninguém!

Testando a Astrologia

Escreva para alguma sociedade reconhecida de Astrologia.

Explique que você quer fazer um teste Deixe claro os benefícios para eles se o teste

for bem sucedido! Pergunte por nomes dos MELHORES

astrólogos no país e no mundo. Contacte os melhores e pergunte se eles

gostariam de participar do teste.

Testando a Astrologia

Hipóteses A maioria dos astrólogos realmente acredita

que há uma correlação, e portanto a Astrologia “funciona”

Pense em um método experimental que vai permitir-lhes mostrar uma correlação quando eles tiverem uma informação adicional, mas que não mostrará correlação alguma quando essa informação é removida (estudo duplo-cego)

Testando a Astrologia

Meça a personalidade usando um teste padrão de personalidade

Mas, os astrólogos irão concordar que esse teste se correlaciona com a astrologia?

Mande-lhes os testes de personalidade de 20 pessoas.

No topo de cada teste coloque os seus dados, com a data e local de nascimento.

Testando a Astrologia

Eles agora tem o teste de personalidade e o signo. Eles podem verificar se a personalidade

determinada pela Astrologia está de acordo com o perfil indicado pelo teste.

Se eles concordarem, então o teste é compatível com os resultados da astrologia.

Se não, ache um outro teste. Ou abandone o problema…

Testando a Astrologia A taxa de sucesso na comparação entre os

perfis de personalidade e o signo foi de quase 100%

Todos os astrólogos concordaram que o teste era bom!

Agora mande então 10 testes e 10 signos. Resultados esperados:

Quase 100% se a astrologia funciona Aproximadamente 50% se fosse apenas chute…

Testando a Astrologia

Eles não conseguiram nada além da probabilidade que teriam se apenas chutassem….

Excelente planejamento Eles concordaram com cada passo, e

concordaram que o teste era justo!

We are now in a position to argue a surprisingly strong case against natal astrology as practiced by reputable astrologers. Great pains were taken to insure that the experiment was unbiased and to make sure that astrology was given every reasonable chance to succeed. It failed.

Despite the fact that we worked with some of the best astrologers in the country, recommended by the advising astrologers for their expertise in astrology and in their

ability to use the CPI, despite the fact that every reasonable suggestion made by advising astrologers was worked into the experiment, despite the fact that the

astrologers approved the design and predicted 50% as the "minimum" effect they would expect to see, astrology failed to perform at a level better than chance. Tested

using double-blind methods, the astrologers' predictions proved wrong. Their predicted connection between the positions of the planets and other astronomical objects at the time of birth and the personalities of test subjects did not exist. The experiment clearly

refutes the astrological hypothesis.

Testando a Astrologia

Shawn Carlson

A dicotomia falsa:Utilidade vs. Validade

Cientista:

Leigo:

“Não!” significando, “não é valida”

“Sim!” significando, “é útil”

Devemos examinar todas as afirmações

Por que?

Pode ser verdade! Se for falsa, deveria-se parar de trabalhar nessa área…

E deve-se alertar as pessoas….! Aceitação sem críticas de quaisquer afirmações pode ser

perigosa…

Mas de fato: quaisquer afirmações?

“Tenho um Unicórnio em meu jardim…”

“Mas ele é invisível”

“e ele pode voar…”

“Mas ele odeia estranhos, e sempre foge quando alguém se aproxima…”

Vamos realmente investigar essa afirmação?

Probabilidade….

A Ciência não vai encontrar “a” resposta

Mas irá identificar a explicação mais provável, considerando os melhores dados disponíveis no momento…

A Ciência não lida com certezas

A Ciência lida com probabilidades.

Modificações

Ciência se auto-corrige Ciência se aprimora para incluir os melhores

dados que temos. Pseudo-Ciência nunca faz isso. Pseudo-Ciência frequentemente valoriza dados

mais antigos e exclui qualquer coisa nova. Ex. astrologia ignora a precessão da Terra. o Zodiaco mudou!

Consequências da boa Ciência

Susan Blackmore, pesquisadora britânica de parapsicologia.

Seus experimentos falharam...

“I get negative results. Indeed I have been doing so for ten years.”

“The dilemma I now confront is how to weigh the results of my ownfailures against the published successes of others. This is just the lastand most difficult in a long series of dilemmas forced on my by myfailure to observe psi.”

http://www.susanblackmore.co.uk

Consequências da boa Ciência

Hoje, ela é uma “cética”. …e não muito popular entre os que acreditam em

paranormalidade.

Ela trabalha em tentar explicar experiências próximas de morte em termos de modelos científicos cerebrais e de consciência.

Nada do que ela esperava... Ciência pode levar a lugares inesperados!

Ceticismo

CSICOP Committee for the Scientific Investigation

of Claims of the Paranormal - http://www.csicop.org/

Publicam a revista “Skeptical Inquirer” Grupos de “céticos” no Brasil e em

diversos lugares do mundo… What is a skeptic?http://www.skeptic.com/what-is-a-skeptic.html

O que é um Cético

Segue o princípio de Clifford: É errado sempre e em qualquer lugar que alguém

acredite em algo sem evidência suficiente. Tem uma mente aberta e uma cabeça dura. Adota padrões de evidência aceitos na

sociedade através da educação. Investiga afirmações pseudocientíficas e

paranormais.

Skeptics

Skeptics Dictionary - http://skepdic.com/ Skeptic Magazine - http://www.skeptic.com/ Inquiring Minds –

http://www.youngskeptics.org/ James Randi Educational Foundation - http:

//www.randi.org/ http://dir.yahoo.com/Science/alternative/ske

ptics/

Céticos

Sociedade Brasileira de Céticos e Racionalistas - http://www.ceticos.org/

Sociedade da Terra Redonda - http://www.str.com.br/

Sociedade dos Cientistas Mortos - http://geocities.yahoo.com.br/perseuscm/aprincipal.html

http://br.cade.dir.yahoo.com/ciencia/alternativa/Ceticos/

O que deve ser feito?

Inicie devagar; cada passo ajuda.. Fique de olho sobre Pseudociências Desafie a mídia (políticos) quando eles tenderem

para a pseudociência e o paranormal Seja sempre correto; nunca exagere em uma

afirmação científica Desafie estudantes e amigos construtivamente;

explique os “métodos científicos”

Baseado em:

Baloney Detection Kit

http://www.skeptic.com

Distinguindo Ciência de Pseudociência

1.Baseia-se em anedotas para afirmar algo

Não importa quantas anedotas existem para dar suporte a uma afirmação. Cada anedota é uma estória de um ser humano seletivo e com viés.

A Ciência requer evidência corroborativa de outras fontes, ou provas físicas de algum tipo.

Anedotas não constituem Ciência, não importa quão sinceras, interessantes ou acreditáveis sejam as fontes da estória.

Sete indícios de Pseudociência

2.Usam linguagem “Científica” para ser convincente

A linguagem científica não faz a Ciência. Como a Ciência é um sistema respeitado e poderoso em nossa sociedade, as Pseudociências frequentemente se vestem com o jargão científico. Requer cuidados e uma análise profunda.

Exemplo de uma coluna New Age:

“This planet has been slumbering for eons and with the inception of higher energy frequencies is about to awaken in terms of consciousness and spirituality. Masters of limitation and masters of divination use the same creative force to manifest their realities, however, one moves in a downward spiral and the latter moves in an upward spiral, each increasing the resonant vibration inherent in them.”

Sete indícios de Pseudociência

3.Fazem afirmações fortes para ser convincentes

Afirmações fortes não as fazem verdadeiras. As afirmações fortes são feitas para deixar o texto com força e confiante, especialmente quando há evidências insuficientes para suportá-las.

Um exemplo (não cientistas): L. Ron Hubbard abre seu livro, Dianetics: The Modern

Science of Mental Health, com a frase: “The creation of Dianetics is a milestone for man comparable to his discovery of fire and superior to his invention of the wheel and arch.”

Sete indícios de Pseudociência

Outro exemplo (cientistas): Stanley Pons e Martin Fleischmann anunciaram ao mundo em uma conferência de imprensa no dia 23 de março de 1989, que eles tinham descoberto a fusão nuclear a frio.

Revisão: http://physicsweb.org/article/world/12/3/8

Afirmações extraordinárias requerem evidências extraordinárias.

E tem muita gente que ainda acredita…http://www.alternativescience.com/cold_fusion.htm

Sete indícios de Pseudociência

4. Fazem o Status Quo se defender

O ônus da prova deve ser daqueles que fazem afirmações extraordinárias que não são aceitas por todos. Como em uma democracia, você tem que fazer algum tipo de lobby para que sua posição seja ouvida, você tem que ir a um jurado para fazer valer a sua opinião, e convencer a maioria a votar pela sua idéia em vez de outras. Essa é a essência social da Ciência e do conhecimento.

Sete indícios de Pseudociência

5.Comparam-se a outsiders e heréticos famosos, que hoje em dia são aceitos.

Eles rirarm do Copérnico, eles riram dos irmãos Wright. Van Gogh morreu pobre porque ninguém queria seus quadros. Galileu foi quase torturado para dizer a verdade. Portanto, se eles me ridicularizam e riem de mim, é somente porque eles não entendem. Nós, profetas da verdade e da sabedoria, somos raros.

Heresia não implica em correteza. Para cada personagem famoso na história do pensamento criativo, existem multidões de indivíduos com idéias malucas ou hereges que nunca obtiveram aceitação.

Sete indícios de Pseudociência

6.Baseiam-se em rumores que são amplamente espalhados e facilmente acreditáveis.

Apesar de que alguns “fatos” foram transmitidos de pessoa a pessoa por gerações, isso pode não mais ser verdade. Rumores se espalham rapidamente e as lendas urbanas proliferam (ver http://www.snopes.com). Não caia no tipo de pensamento que baseia as suas crenças em “Eu li em algum lugar que…” ou “Alguém me disse que …”.

Sete indícios de Pseudociência

7.Se não foi explicado pela ciência, então é um verdadeiro mistério paranormal.

Não-explicado não é a mesma coisa que inexplicável. Alguns fatos incríveis (como caminhar no fogo, dorar garfos, e poderes psicocinéticos) podem não ter uma explicação óbvia natural. As pessoas se prontificam rapidamente a aceitar explicações sobrenaturais e paranormais para esses eventos.

Frequentemente há explicações mundanas, normais e naturais para a maioria dos fenômenos. E o que a ciência não pode explicar hoje, talvez possa explicar algum dia.

Sete indícios de Pseudociência

Por que as pessoas são mais atraídas para as explicações paranormais do que as científicas?

"If Uri Geller bends spoons with divine powers, then he's doing it the hard way."--James Randi

"Because a good magician can do something shouldn't make you right away jump to the conclusion that it's a real phenomenon."

--Richard Feynman

Sete indícios de Pseudociência

http://www.terra.com.br/planetanaweb/

“Thinking is skilled work. It is not true that we are naturally endowed with the ability to think clearly and logically without learning how, or without practicing. People with untrained minds should no more expect to think clearly and logically than people who have never learned and never practiced can expect to find themselves good carpenters, golfers, bridge players, or pianists.”

Alfred Mander, Logic for the Millions

O que podemos fazer?

1. Imunidade Ideológica

As pessoas geralmente possuem um tipo de “imunidade ideológica” pela qual elas raramente mudam suas crenças mais fundamentais.

Há uma forte correlação entre a inteligência e a habilidade de dar razões para ter um certo ponto de vista e defender essa posição.

Há entretanto uma correlação negativa entre inteligência e a habilidade de considerar outras alternativas!

A inteligência e educação podem nos proteger?

2.Educação geral e a promoção de uma “mente aberta”

Há evidências que sugerem que a educação não reduz as crenças em fenômenos paranormais. De fato, a ênfase da educação “liberal” de oferecer uma “mente aberta” ironicamente pode levar mais pessoas a aceitar as possiblidades de UFOs visitando a terra, percepção extra-sensorial, astrologia, etc…

Uma janela aberta travada é tão inútil quanto uma janela fechada travada. No esforço de evitar o pensamento fechado, não cometer o erro de ser excessivamente aberto. O pensamento crítico e a Ciência residem entre esses dois extremos!

A inteligência e educação podem nos proteger?

Resumo

Ciência se corrije e atualiza Ciência é aberta a novos resultados O resto não é Ciência Se parece Ciência… pode ser pseudo-ciência

Pseudo-ciência raramente se modifica Lembre-se do FiLCHeRS

Resumo 2

Nunca acreditar em mim mesmo! Fui totalmente honesto? Posso ter algum viés? Cuidado com a percepção errada! Esqueça o que você QUER que seja

verdade… Procure o que FOR verdade...

Links

What’s New by Bob Park - http://www.aps.org/WN/ Science, Pseudoscience, and Irrationalism -

http://www.uwgb.edu/dutchs/pscindx.htm Coluna “Skeptic”, de Michael Shermer na revista Scientific

American - http://www.sciam.com/ James Randi Commentaries - http://www.randi.org/jr/archive.html The Guardian Bad Science -

http://www.guardian.co.uk/life/badscience Annals of Improbable research - http://www.improbable.com/ Quackwatch- Your Guide to Health Fraud, Quackery, and

Intelligent Decisions- http://www.quackwatch.org/

Mais Links

http://www.ratbags.com/rsoles/books/pseudoscience.htm

http://info-pollution.com/skeptic.htm http://physics.syr.edu/courses/

modules/PSEUDO/pseudo_main.html

Livros – Top Ten (Skeptics Society)

The Demon Haunted World: Science as a Candle in the Dark by Carl Sagan

Why People Believe Weird Things by Michael Shermer

Flim Flam!: Psychics, ESP, Unicorns and Other Delusions by James Randi

Fads and Fallacies in the Name of Science by Martin Gardner 10

How to Think About Weird Things by Theodore Schick and Lewis Vaughn

The Faith Healers by James Randi

How We Believe by Michael Shermer

The New Age: Notes of a Fringe Watcher by Martin Gardner

The Mismeasure of Man by Stephen Jay Gould

Voodoo Science: The Road From Foolishness to Fraud by Robert L. Park