fontes de info em c&t - labjor/unicamp - aula 4
TRANSCRIPT
Fontes de Informação em Ciência e Tecnologia
Prof. Dr. Marcelo KnobelIFGW – UNICAMP
Curso de Especialização em Jornalismo Científico – Labjor/NUDECRI/UNICAMP
Baseado em:What is Pseudo-Science? - John Lattanzio ver: http://www.sci.monash.edu.au/subject/sci2010/resources/Sg2.htmPseudoscience in the New Millennium - Michael De Robertis
Ciência e Pseudociência
Introdução
Ciência é difícil de definir…
Mas sabemos quando a vemos…
….não é?
Filme Randi
Aspectos cruciais
Experimento (ou observação) Hipótese Teoria Predição Modificação
Todos esses aspectos são importantes de algum modo…
Pseudociência
“Uma “teoria” não-científica que parece com ciência”
Por que se preocupar?
Aumentar a credibilidade de suas afirmações!
A Ciência funciona, e as pessoas acreditam nela.
Oito pontos importantes
Anédotas NÃO fazem Ciência Linguagem científica NÃO faz Ciência. Frases claras NÃO fazem afirmações
verdadeiras Heresia NÃO é igual à correteza.
Oito pontos importantes
Rumores NÃO são iguais à realidade Inexplicado NÃO é inexplicável. Correlação NÃO significa causa-efeito. Coincidência NÃO implica em
conexão.
Você acha que as pessoas (ou seja, a maioria delas), atuando através dos seus representantes eleitos, tem direito a controlar o que é ensinado nas escolas que pertencem, foram fundadas e são operadas pelo estado?
Se não for a maioria, quem mais vai controlar o que é ensinado nas escolas?
Educação Pública
Ao fazer decisões, que é o papel de pessoas com competência em determinadas áreas, qual é o papel do senso comum, e qual é o papel da tradição?
Deveríamos confiar plenamente em consultores e acadêmicos a que nos digam o que é verdadeiro ou falso, ou o verdadeiro reservatório de conhecimento ainda pertence às pessoas comuns?
Um lugar para entendidos?
Políticas Públicas
Em nossa democracia, o quais são os limites para os direitos da maioria, atuando através de seus políticos eleitos?
“Terapias Alternativas”
Brasil: 50 mil terapeutas alternativos (número que cresce 20%
ao ano). Movimenta em torno de 500 milhões de dólares anuais.
(Nos EUA, 30 bilhões de dólares) Há, por exemplo, 1.500 iridologistas, e o mesmo
número de terapeutas florais do que cardiologistas. Facilidade de formação
Reiki: terapeuta é uma ponte entre a “energia do universo” e a pessoa, e a energia vital poderia curar qualquer doença. Basta um curso de dois dias é suficiente para tornar-se um terapeuta, permitindo inclusive conslutas por telefone.
Fonte: Ciências versus Pseudociências, Paulo Lee, Editora do Chain, 2003. p. 118.
Em que os norte-americanos crêem?
52% dos adultos acreditam em predições astrológicas
46% acreditam em percepção extra-sensorial 42% acreditam que pessoas podem se comunicar
com os mortos 46% acreditam que os homens não se
desenvolveram a partir de outras espécies de animais
43% acreditam que os UFOs existem e que realmente são veículos espaciais de outras civilizações
1/3 dos professores de biologia do ensino médio acreditam que a terra tem menos de 1000 anos de idade
Muitas coisas não são ciência, mas também elas não pretendem ser. Arte Teologia
Pseudociências Afirmações questionáveis de serem científicas Teorias reprovadas que são difíceis de esquecer. Um grande número fatos associados à cobertura
jornalistica, com aspectos folclóricos, crenças e cultos.
Ciência vs. Pseudociência
Como separar a Ciência da Pseudociência?
Como separar a boa ciência Como separar a boa ciência da má-Ciência.da má-Ciência.
ou melhor…ou melhor…
Quem se importa???
Quem se importa?
Pseudociência é mais fácil do que Ciência… Fazer boa ciência é um trabalho árduo. Deve-se constantemente checar:
erros e imprecisões assumpções implícitas Armadilhas devidas à seu próprio viés e
expectativas.
É mais fácil ignorar todas as checagens, balanços e trabalho chato!
É mais fácil acreditar nas coisas sem críticas.
Para a maioria das pessoas, a vida está boa sem entender a diferença entre ciência e pseudociência.
O apelo da Pseudociência
Quem se importa?
VOCÊ deveria se importar… Vocês estão se especializando em JC,
e deveriam saber como distinguir um do outro…
As obrigações dos cientistas
O cientista deve separar o que ele QUER que seja verdade e o que É verdade.
Às vezes isso não é fácil, mas é essencial…
Como separar Ciência de Pseudociência
“FiLCHeRS”
por James Lett, Skeptical Inquirer magazine
Falseável Imagine um teste simples…
Lógica Argumentos devem ser estruturados e consistentes
Compreensível Deve ser consistente com toda evidência
Honesta Deve avaliar todas as evidências sem viés
Replicável testes devem ser repetíveis e dar os mesmos resultados para todos os experimentadores
Suficiente Deve haver evidências suficientes
FiLCHeRS
Algumas vezes rejeitamos os experimentos…
O QUE????? Experimentos podem estar errados... Se um experimento vai contra algo que está bem estabelecido, temos
que ser extremamente cuidadosos e ser céticos com relação a ele.
Ex: Conservação da Energia
Consistente com toda evidência??
Falseabilidade
“Água congela a zero Celsius” Uma afirmação facilmente testável
A maioria das pseudociências não faz afirmações tão específicas…
Muitas pessoas querem que algo se torne realidade, e vão esticar a definição para que o teste se ajuste (ver Honestidade).
Manter as afirmações vagas e amplas ajuda nisso…
Estudo de casos:
Finally, as I was leaving Newman's property, he trotted alongside the car and insisted on adding to his comments that the theory of "vortices" also explained water dowsing, hurricanes, earthquakes, prophecy (Jeanne Dixon, Nostradamus, and the rest), ESP, and psychokinesis. It is a significant indicator, in all crackpot theories, that the inventor claims he has explained most mysteries of mankind all in one unified notion.
http://www.randi.org/
The James Patterson Energy Cell
Adivinhadores muitas vezes não são mentirosos!Eles acham que realmente conseguem fazê-lo
Mas isso não é ciência
Testado… e comprovado!
Estudo de casos:
“fadas” de Cottingley Glen
http://www.randi.org/library/cottingley/index.html
Estudo de Casos
The Art of "Cold Reading" - http://www.randi.org/library/cottingley/index.html
The Matter of Dowsing - http://www.randi.org/library/dowsing/index.html
Ciência Patológica (Pathological Science) – Cientistas enganando-se Ciência Lixo (Junk Science)– Ciência feita de modo errado
Pseudociência – Sem qualquer base científica
Ciência Voodoo ou Borderline Science – Ignorância, inocência, falsidade, etc…
Definições
Definições
Pseudociência: uma doutrina ou crença mascarada de Ciência Hipóteses não-falseáveis investigação de dados não-crítica falha em aprimorar teorias
Paranormal: um subconjunto cujas explicações saem dos cânones científicos
Lógica
Claramente importante Um único contra-exemplo pode
destruir!
Mark Twain
Lógica
Cuidado!
Todos os cães tem pulgas.Rex é um cão.Portanto Rex tem pulgas!
Premissa incorreta: nem TODOS os cães tem pulgas…
Lógica
“Astrologia não pode funcionar pois o efeito gravitacional dos planetas é totalmente desprezível”
Certo….
Mas poderia haver alguma outra interação que ainda não conhecemos?
Melhor examinar a afirmaçao do que argumentar desse modo.
Esse fato é importante, mas evidência empírica é mais importante.
Lógica
No século passado havia afirmações de pedras caindo do céu…
“Loucura!”
Mas depois descobriram-se os meteoros ….
Portanto, seja cuidadoso com seus argumentos….
Compreensível
Devemos considerar toda a evidência. Não podemos simplesmente escolher aquelas
que dão suporte às nossas idéias. A natureza humana não é desse modo:
“Minha teoria deve estar correta!” “Até Einstein disse isso!” Evidência forjada deEric Von Daniken
“Não é minha culpa! As pessoas queriam uma prova! Eu tinha que fazê-la!”
Honestidade
Não devemos ser influenciados pelo que queremos ou o que esperamos!
Ex. UFOs são fascinantes… mas…
Bob Dylan
Honestidade
Erros acontecem… cientistas são humanos.
Exemplos (depois)
S. Harrishttp://www.sciencecartoonsplus.com/gallery.htm
Repetibilidade
Deve ser possível repetir experimentos Podem ocorrer erros experimentais
Pode ser um experimento mal desenhado
Mas: obter resultados inconsistentes….frustrante!O resultado se repete em condições controladas?
Uri Geller repetiu as suas habilidades! -mas não em condições controladas…
Suficiência
Deve haver dados suficientes para confirmar a afirmação.
i.e. uma quantidade razoável, mas de alta qualidade UFOs tem milhares de dados! Mas todos de baixa qualidade
O mundo “real” Astrologia: horoscópos, bioritmos, correlações
lunares UFOs: visões, abduções, híbridos, circulos nas
plantações, mutilações de gado, astronautas antigos...
PSI: ESP, parapsicologia, precognição, psycocinese, clarevidência, visão à distância, telepatia…
Ocultismo: numerologia, tarot, pirâmides, leitura da palma da mão, bola de cristal, triângulo das Bermudas, Nostradamus,…
O mundo “real”
New Age: auras, fotografia Kirlian, cristais, Atlântida, Feng Shui,…
Espiritualidade: Fantasmas, experiências próximas da morte & for a do corpo, levitação, (algumas) aparições & cura pela fé, reencarnação,…
Medicina Alternativa: aromaterapia, iridologia, reflexologia, homeopatia, cinesiologia, terapia dos meridianos, terapia de toque, magnetoterapia, algumas naturopatias & quiropraxias, …
Outros: criptozoologia, grafologia, creacionismo, teorias conspiratórias, cartas em cadeia, cirurgia psiquica, negação do holocausto, …
Por que as pessoas acreditam em Pseudociência?
É mais simples que a Ciência de verdade Nós queremos acreditar em coisas
A maioria das pessoas preferem certezas….
Percepção errônea é normal
Por que as pessoas acreditam em Pseudociência?
Crença em evidência anedótica Correlação não implica em causalidade Importância de uma amostra de controle Papel da aleatoridade e coincidência Efeito placebo Analfabetismo científico Falta de crença na Ciência Incapacidade de sujeitar as próprias crenças a um
teste mais rigoroso.
Teste feito por Dr Shawn Carlson
Publicado na Nature
Enquanto ele era estudante !!
Estudo de caso: Astrologia
"A Double-Blind Test of Astrology," Nature, Vol. 318, pp. 419-425, 1985
http://psychicinvestigator.com/demo/AstroSkc.htmhttp://www.sas.org/CarlsonCV.html
Testando a Astrologia
Como você desenharia esse teste? O que você está querendo testar? O que consitui uma prova? Ou uma
falha?
Testando a Astrologia
Testaremos se a “personalidade” está correlacionada com algum signo.
Nota: Não dizemos NADA sobre conexões casuais ou mecanismos.
Primeiro, veremos se há correlação Se houver, então procuraremos por
um mecanismo.
Testando a Astrologia
Precisamos então signo (fácil!) personalidade (não tão fácil…)
Como medir a personalidade? Abriremos brechas para críticas neste
ponto? Não queremos rotas de escape… para
ninguém!
Testando a Astrologia
Escreva para alguma sociedade reconhecida de Astrologia.
Explique que você quer fazer um teste Deixe claro os benefícios para eles se o teste
for bem sucedido! Pergunte por nomes dos MELHORES
astrólogos no país e no mundo. Contacte os melhores e pergunte se eles
gostariam de participar do teste.
Testando a Astrologia
Hipóteses A maioria dos astrólogos realmente acredita
que há uma correlação, e portanto a Astrologia “funciona”
Pense em um método experimental que vai permitir-lhes mostrar uma correlação quando eles tiverem uma informação adicional, mas que não mostrará correlação alguma quando essa informação é removida (estudo duplo-cego)
Testando a Astrologia
Meça a personalidade usando um teste padrão de personalidade
Mas, os astrólogos irão concordar que esse teste se correlaciona com a astrologia?
Mande-lhes os testes de personalidade de 20 pessoas.
No topo de cada teste coloque os seus dados, com a data e local de nascimento.
Testando a Astrologia
Eles agora tem o teste de personalidade e o signo. Eles podem verificar se a personalidade
determinada pela Astrologia está de acordo com o perfil indicado pelo teste.
Se eles concordarem, então o teste é compatível com os resultados da astrologia.
Se não, ache um outro teste. Ou abandone o problema…
Testando a Astrologia A taxa de sucesso na comparação entre os
perfis de personalidade e o signo foi de quase 100%
Todos os astrólogos concordaram que o teste era bom!
Agora mande então 10 testes e 10 signos. Resultados esperados:
Quase 100% se a astrologia funciona Aproximadamente 50% se fosse apenas chute…
Testando a Astrologia
Eles não conseguiram nada além da probabilidade que teriam se apenas chutassem….
Excelente planejamento Eles concordaram com cada passo, e
concordaram que o teste era justo!
We are now in a position to argue a surprisingly strong case against natal astrology as practiced by reputable astrologers. Great pains were taken to insure that the experiment was unbiased and to make sure that astrology was given every reasonable chance to succeed. It failed.
Despite the fact that we worked with some of the best astrologers in the country, recommended by the advising astrologers for their expertise in astrology and in their
ability to use the CPI, despite the fact that every reasonable suggestion made by advising astrologers was worked into the experiment, despite the fact that the
astrologers approved the design and predicted 50% as the "minimum" effect they would expect to see, astrology failed to perform at a level better than chance. Tested
using double-blind methods, the astrologers' predictions proved wrong. Their predicted connection between the positions of the planets and other astronomical objects at the time of birth and the personalities of test subjects did not exist. The experiment clearly
refutes the astrological hypothesis.
Testando a Astrologia
Shawn Carlson
A dicotomia falsa:Utilidade vs. Validade
Cientista:
Leigo:
“Não!” significando, “não é valida”
“Sim!” significando, “é útil”
Devemos examinar todas as afirmações
Por que?
Pode ser verdade! Se for falsa, deveria-se parar de trabalhar nessa área…
E deve-se alertar as pessoas….! Aceitação sem críticas de quaisquer afirmações pode ser
perigosa…
Mas de fato: quaisquer afirmações?
“Tenho um Unicórnio em meu jardim…”
“Mas ele é invisível”
“e ele pode voar…”
“Mas ele odeia estranhos, e sempre foge quando alguém se aproxima…”
Vamos realmente investigar essa afirmação?
Probabilidade….
A Ciência não vai encontrar “a” resposta
Mas irá identificar a explicação mais provável, considerando os melhores dados disponíveis no momento…
A Ciência não lida com certezas
A Ciência lida com probabilidades.
Modificações
Ciência se auto-corrige Ciência se aprimora para incluir os melhores
dados que temos. Pseudo-Ciência nunca faz isso. Pseudo-Ciência frequentemente valoriza dados
mais antigos e exclui qualquer coisa nova. Ex. astrologia ignora a precessão da Terra. o Zodiaco mudou!
Consequências da boa Ciência
Susan Blackmore, pesquisadora britânica de parapsicologia.
Seus experimentos falharam...
“I get negative results. Indeed I have been doing so for ten years.”
“The dilemma I now confront is how to weigh the results of my ownfailures against the published successes of others. This is just the lastand most difficult in a long series of dilemmas forced on my by myfailure to observe psi.”
http://www.susanblackmore.co.uk
Consequências da boa Ciência
Hoje, ela é uma “cética”. …e não muito popular entre os que acreditam em
paranormalidade.
Ela trabalha em tentar explicar experiências próximas de morte em termos de modelos científicos cerebrais e de consciência.
Nada do que ela esperava... Ciência pode levar a lugares inesperados!
Ceticismo
CSICOP Committee for the Scientific Investigation
of Claims of the Paranormal - http://www.csicop.org/
Publicam a revista “Skeptical Inquirer” Grupos de “céticos” no Brasil e em
diversos lugares do mundo… What is a skeptic?http://www.skeptic.com/what-is-a-skeptic.html
O que é um Cético
Segue o princípio de Clifford: É errado sempre e em qualquer lugar que alguém
acredite em algo sem evidência suficiente. Tem uma mente aberta e uma cabeça dura. Adota padrões de evidência aceitos na
sociedade através da educação. Investiga afirmações pseudocientíficas e
paranormais.
Skeptics
Skeptics Dictionary - http://skepdic.com/ Skeptic Magazine - http://www.skeptic.com/ Inquiring Minds –
http://www.youngskeptics.org/ James Randi Educational Foundation - http:
//www.randi.org/ http://dir.yahoo.com/Science/alternative/ske
ptics/
Céticos
Sociedade Brasileira de Céticos e Racionalistas - http://www.ceticos.org/
Sociedade da Terra Redonda - http://www.str.com.br/
Sociedade dos Cientistas Mortos - http://geocities.yahoo.com.br/perseuscm/aprincipal.html
http://br.cade.dir.yahoo.com/ciencia/alternativa/Ceticos/
O que deve ser feito?
Inicie devagar; cada passo ajuda.. Fique de olho sobre Pseudociências Desafie a mídia (políticos) quando eles tenderem
para a pseudociência e o paranormal Seja sempre correto; nunca exagere em uma
afirmação científica Desafie estudantes e amigos construtivamente;
explique os “métodos científicos”
Baseado em:
Baloney Detection Kit
http://www.skeptic.com
Distinguindo Ciência de Pseudociência
1.Baseia-se em anedotas para afirmar algo
Não importa quantas anedotas existem para dar suporte a uma afirmação. Cada anedota é uma estória de um ser humano seletivo e com viés.
A Ciência requer evidência corroborativa de outras fontes, ou provas físicas de algum tipo.
Anedotas não constituem Ciência, não importa quão sinceras, interessantes ou acreditáveis sejam as fontes da estória.
Sete indícios de Pseudociência
2.Usam linguagem “Científica” para ser convincente
A linguagem científica não faz a Ciência. Como a Ciência é um sistema respeitado e poderoso em nossa sociedade, as Pseudociências frequentemente se vestem com o jargão científico. Requer cuidados e uma análise profunda.
Exemplo de uma coluna New Age:
“This planet has been slumbering for eons and with the inception of higher energy frequencies is about to awaken in terms of consciousness and spirituality. Masters of limitation and masters of divination use the same creative force to manifest their realities, however, one moves in a downward spiral and the latter moves in an upward spiral, each increasing the resonant vibration inherent in them.”
Sete indícios de Pseudociência
3.Fazem afirmações fortes para ser convincentes
Afirmações fortes não as fazem verdadeiras. As afirmações fortes são feitas para deixar o texto com força e confiante, especialmente quando há evidências insuficientes para suportá-las.
Um exemplo (não cientistas): L. Ron Hubbard abre seu livro, Dianetics: The Modern
Science of Mental Health, com a frase: “The creation of Dianetics is a milestone for man comparable to his discovery of fire and superior to his invention of the wheel and arch.”
Sete indícios de Pseudociência
Outro exemplo (cientistas): Stanley Pons e Martin Fleischmann anunciaram ao mundo em uma conferência de imprensa no dia 23 de março de 1989, que eles tinham descoberto a fusão nuclear a frio.
Revisão: http://physicsweb.org/article/world/12/3/8
Afirmações extraordinárias requerem evidências extraordinárias.
E tem muita gente que ainda acredita…http://www.alternativescience.com/cold_fusion.htm
Sete indícios de Pseudociência
4. Fazem o Status Quo se defender
O ônus da prova deve ser daqueles que fazem afirmações extraordinárias que não são aceitas por todos. Como em uma democracia, você tem que fazer algum tipo de lobby para que sua posição seja ouvida, você tem que ir a um jurado para fazer valer a sua opinião, e convencer a maioria a votar pela sua idéia em vez de outras. Essa é a essência social da Ciência e do conhecimento.
Sete indícios de Pseudociência
5.Comparam-se a outsiders e heréticos famosos, que hoje em dia são aceitos.
Eles rirarm do Copérnico, eles riram dos irmãos Wright. Van Gogh morreu pobre porque ninguém queria seus quadros. Galileu foi quase torturado para dizer a verdade. Portanto, se eles me ridicularizam e riem de mim, é somente porque eles não entendem. Nós, profetas da verdade e da sabedoria, somos raros.
Heresia não implica em correteza. Para cada personagem famoso na história do pensamento criativo, existem multidões de indivíduos com idéias malucas ou hereges que nunca obtiveram aceitação.
Sete indícios de Pseudociência
6.Baseiam-se em rumores que são amplamente espalhados e facilmente acreditáveis.
Apesar de que alguns “fatos” foram transmitidos de pessoa a pessoa por gerações, isso pode não mais ser verdade. Rumores se espalham rapidamente e as lendas urbanas proliferam (ver http://www.snopes.com). Não caia no tipo de pensamento que baseia as suas crenças em “Eu li em algum lugar que…” ou “Alguém me disse que …”.
Sete indícios de Pseudociência
7.Se não foi explicado pela ciência, então é um verdadeiro mistério paranormal.
Não-explicado não é a mesma coisa que inexplicável. Alguns fatos incríveis (como caminhar no fogo, dorar garfos, e poderes psicocinéticos) podem não ter uma explicação óbvia natural. As pessoas se prontificam rapidamente a aceitar explicações sobrenaturais e paranormais para esses eventos.
Frequentemente há explicações mundanas, normais e naturais para a maioria dos fenômenos. E o que a ciência não pode explicar hoje, talvez possa explicar algum dia.
Sete indícios de Pseudociência
Por que as pessoas são mais atraídas para as explicações paranormais do que as científicas?
"If Uri Geller bends spoons with divine powers, then he's doing it the hard way."--James Randi
"Because a good magician can do something shouldn't make you right away jump to the conclusion that it's a real phenomenon."
--Richard Feynman
Sete indícios de Pseudociência
http://www.terra.com.br/planetanaweb/
“Thinking is skilled work. It is not true that we are naturally endowed with the ability to think clearly and logically without learning how, or without practicing. People with untrained minds should no more expect to think clearly and logically than people who have never learned and never practiced can expect to find themselves good carpenters, golfers, bridge players, or pianists.”
Alfred Mander, Logic for the Millions
O que podemos fazer?
1. Imunidade Ideológica
As pessoas geralmente possuem um tipo de “imunidade ideológica” pela qual elas raramente mudam suas crenças mais fundamentais.
Há uma forte correlação entre a inteligência e a habilidade de dar razões para ter um certo ponto de vista e defender essa posição.
Há entretanto uma correlação negativa entre inteligência e a habilidade de considerar outras alternativas!
A inteligência e educação podem nos proteger?
2.Educação geral e a promoção de uma “mente aberta”
Há evidências que sugerem que a educação não reduz as crenças em fenômenos paranormais. De fato, a ênfase da educação “liberal” de oferecer uma “mente aberta” ironicamente pode levar mais pessoas a aceitar as possiblidades de UFOs visitando a terra, percepção extra-sensorial, astrologia, etc…
Uma janela aberta travada é tão inútil quanto uma janela fechada travada. No esforço de evitar o pensamento fechado, não cometer o erro de ser excessivamente aberto. O pensamento crítico e a Ciência residem entre esses dois extremos!
A inteligência e educação podem nos proteger?
Resumo
Ciência se corrije e atualiza Ciência é aberta a novos resultados O resto não é Ciência Se parece Ciência… pode ser pseudo-ciência
Pseudo-ciência raramente se modifica Lembre-se do FiLCHeRS
Resumo 2
Nunca acreditar em mim mesmo! Fui totalmente honesto? Posso ter algum viés? Cuidado com a percepção errada! Esqueça o que você QUER que seja
verdade… Procure o que FOR verdade...
Links
What’s New by Bob Park - http://www.aps.org/WN/ Science, Pseudoscience, and Irrationalism -
http://www.uwgb.edu/dutchs/pscindx.htm Coluna “Skeptic”, de Michael Shermer na revista Scientific
American - http://www.sciam.com/ James Randi Commentaries - http://www.randi.org/jr/archive.html The Guardian Bad Science -
http://www.guardian.co.uk/life/badscience Annals of Improbable research - http://www.improbable.com/ Quackwatch- Your Guide to Health Fraud, Quackery, and
Intelligent Decisions- http://www.quackwatch.org/
Mais Links
http://www.ratbags.com/rsoles/books/pseudoscience.htm
http://info-pollution.com/skeptic.htm http://physics.syr.edu/courses/
modules/PSEUDO/pseudo_main.html
Livros – Top Ten (Skeptics Society)
The Demon Haunted World: Science as a Candle in the Dark by Carl Sagan
Why People Believe Weird Things by Michael Shermer
Flim Flam!: Psychics, ESP, Unicorns and Other Delusions by James Randi
Fads and Fallacies in the Name of Science by Martin Gardner 10
How to Think About Weird Things by Theodore Schick and Lewis Vaughn
The Faith Healers by James Randi
How We Believe by Michael Shermer
The New Age: Notes of a Fringe Watcher by Martin Gardner
The Mismeasure of Man by Stephen Jay Gould
Voodoo Science: The Road From Foolishness to Fraud by Robert L. Park