1

2

3

o teste touring Paulo Santoro

4

5

apresentação

PrEFÁCIoCássio Pires

se a sua curiosidade em ler o teste de turing foi despertada por seu título, isso provavelmente deve ter relação com duas hipóteses: ou você sabe o que é um teste de turing e gostaria de saber o que um autor de teatro poderia escrever sobre esse tema (e aqui estou pensando nos interessados em debates sobre inteligência artificial e temáticas afins) ou você não tem a menor ideia do que ele testa (como eu não tinha antes de lê-la), mas ainda assim teve sua curiosidade aguçada pela perspectiva de testemunhar personagens envolvidos com algum tipo de teste. em qualquer tempo, testes são grandes paixões humanas.

em geral, adoramos nos submeter ao risco de sermos testados, de testarmos os outros ou de assistirmos a testes, na condição de espectadores. sejam nobres, perversas ou circunstanciais as suas motivações, eles sempre produzirão uma dramaticidade gerada pela expectativa de um resultado final que pode questionar ou confirmar nosso conhecimento sobre nós mesmos e as coisas deste e de outros mundos. eles são, afinal, em níveis e formas os mais diversos, um dos traços fundamentais da aventura que engendra a condição humana.

Me dou ao direito dessas considerações genéricas no contexto deste prefácio talvez pelo fato de este texto ser uma peça de ficção científica (tema, aliás, raríssimo na tradição da dramaturgia brasileira) estruturado exatamente a partir da ideia de nos mostrar pessoas sendo testadas, para, em seguida, avançar sobre as consequências deste evento. o teste de turing é, antes de mais nada, um drama dado a essa paixão, a apresentar figuras envolvidas em uma ação que gerará uma descoberta, que, por sua vez, produzirá uma perturbação na ordem daquilo que tomamos por certo e inquestionável, concorde-se ou não com as posições de seus personagens.

Um de seus vários méritos está na opção pela clareza (e que aqui não se confunda a clareza com um certo tipo de didatismo que subestima a capacidade do leitor em desvendar ou inferir aspectos de uma ação). seu projeto de escrita se vale de um instrumental tomado de uma Dramática clássica (o que não deixa de ser curioso, em uma

6

peça afeita ao universo “sci-fi”, que volta nossos olhos para o futuro), chegando a usar recursos das “peças de tese”, textos em que seus autores buscavam, primordialmente, fazer valer uma visão sobre um determinado problema, valendo-se para isso de personagens conhecidos como “raisonneurs” (expressão francesa que diz respeito a algo como “os portadores ou emissários das razões do autor”). a partir do diálogo com esta tradição, o texto é concebido de modo a fazer com que o quinteto de personagens vá nos oferecendo, no transcorrer dos diálogos que travam, as chaves necessárias para abrirmos as portas que nos levam às suas questões centrais.

em outros termos, pode-se dizer que a escrita de paulo santoro vai, pouco a pouco, de maneira bastante estratégica, construindo as condições mínimas para que possamos participar de seu debate. por isso, se você está entre aqueles que não sabem o que é um teste de turing, não se preocupe em correr para o Google: a própria peça cuidará de te explicar do que ele trata. Durante sua leitura (ou a apresentação da peça no palco), você pode deixar sua internet desligada, os personagens da peça e o computador em cena cuidarão de te oferecer todo o conhecimento que você precisará para fruí-la.

a clareza, no entanto, não é, em o teste de turing, apenas o fruto de um pensamento estratégico de seu autor. a clareza, aqui, parece se impor como uma necessidade poética. não ceder a uma eventual tentação por uma estética do ambíguo ou do vago parece ser um imperativo em uma peça que toma o teste anunciado no título como uma premissa para chegar a sua discussão central: a previsibilidade do funcionamento da mente, dos pensamentos e de atos humanos; a possibilidade aberta à ciência de reduzi-los a equações matemáticas, o que iria na contramão de um senso comum que exalta na condição humana precisamente a sua capacidade de ser, acima de tudo, imprevisível e inefável (na leitura do texto, observe, por exemplo, os debates sobre os mecanismos de sedução dos seres humanos, a produção da linguagem metafórica ou o paralelo sugerido entre instinto humano e a programação de um computador, entre outros). se, como bem formulou Hegel, a forma na obra de arte é um “conteúdo precipitado”, os diversos dispositivos de esclarecimento da peça são os componentes de uma poética desmistificante e racionalista, em nada disposta a enfrentar o entendimento do que é o humano sob a perspectiva das brumas.

7

no entanto, santoro parece entender que a previsibilidade daquilo que nos define como humanos não encerra o enigma de nossa aventura. o exercício de uma leitura atenta da peça não pode menosprezar a relevância de seu misterioso desfecho: nele reside um contraponto, ou uma antítese fundamental no projeto retórico do texto. a previsibilidade de uma série de ações não evita a imprevisibilidade de suas consequências. se somos mais claros do que em geral supomos, se podemos ser repetidos em artefatos de inteligência artificial (computadores, robôs etc), somos, ainda, uma interrogação, uma história sem desfecho, e essa talvez seja a maior de nossas belezas. o que o texto faz não é decretar o fim da imprevisibilidade como um dos fatos da experiência humana, mas sim desmontar a forma de entendimento do que é o humano, na tentativa de abrir caminho para uma nova forma de percepção do que é “humanidade”. Brecht, a partir da década de 1920, reformou a cena teatral do século XX valendo-se de uma série de premissas. Uma das mais importantes delas falava da necessidade de criar o teatro do “homem de uma era científica”: aquele que compreende este como um velho homem em relação com máquinas e tecnologia equivoca-se. o homem da era científica reorganiza-se, reestrutura sua forma de aprender o mundo e percebe-se outro em relação aos seus antepassados: esse homem é produto e produtor de uma nova subjetividade, resultante de um fato histórico, de um estágio evolutivo cuja existência não pode ser negada pela miopia de um julgamento moral.

apoiada em tradições dramáticas e, ao mesmo tempo, disposta a enfrentar verdades tidas pelo senso comum como inquestionáveis, o teste de turing é um desses trabalhos que refazem o pacto do teatro com as grandes questões de um tempo: não as teme e nem as sufoca em suas opções de linguagem. antes, faz um convite amplo, popular mesmo, para que todos possam nelas adentrar. em um momento em que o teatro brasileiro questiona-se sobre suas formas de interlocução com o público, não é pequena sua contribuição.

8

o teste de turingPaulo Santoro

amor, compaixão e empatia são fibras invisíveis que conectam genes em corpos diferentes. são o mais próximo que chegaremos de sentir a dor de dente de outra pessoa.Steven Pinker, Como a mente funciona

este artigo descreve uma nova abordagem matemática para prever o divórcio ou a conservação do casamento, com o emprego de equações diferenciais não-lineares.J. Gottman, C. Swanson e K. Swanson, estudo científico para a universidade de Washington, Eua.

De agora até o final dos tempos, todos os conflitos são evitáveis. De agora em diante, apenas as Máquinas são inevitáveis!Isaac asimov, Eu, robô

9

PersonagensalexandreGabrielaGuilhermepatrícioVoz (masculina)Máquina (voz feminina)

(Uma sala sem ninguém. ela é muito simples: uma dessas salas de grandes escritórios que ficam disponíveis para qualquer atividade eventual. Há uma mesa com um objeto que deve parecer um computador futurista. Há uma mesinha e também uma poltrona. no fundo, há uma cortininha baixa que funciona como um biombo, e parece separar esta sala de uma outra. essa cortininha está entreaberta, mas não o suficiente para que o público possa enxergar o que existe do outro lado. pode haver algum calendário de parede ou outro artifício para demonstrar que a ação se passa a muitas décadas no futuro. GaBrIEla entra carregando uma pasta simples de elástico. Deixa-a sobre a mesinha. em seguida, liga o computador.)

MÁQuIna (imediatamente, com sua voz feminina de contralto, quase humana, apenas um leve sotaque cibernético) Você me ligou. ainda são nove horas e três minutos da manhã.

GaBrIEla (sempre articulando as sílabas com muita clareza) Hoje é o dia do teste de turing. o teste da máquina que pensa.

MÁQuIna (imediatamente) eu não estou programada para isso.

GaBrIEla não é você a máquina que será testada.

MÁQuIna (imediatamente) Hoje é o dia do teste de turing. Você disse isso.

GaBrIEla eu sei o que eu disse.

MÁQuIna (imediatamente) Você sabe o que você disse. Hoje é o dia do teste de turing. eu sou uma máquina. eu sou uma máquina que pensa? eu sou uma máquina que pensa? eu sou uma máquina que pensa? eu sou...

GaBrIEla silêncio.

MÁQuIna ... uma máquina que pensa? (para.)

10

GaBrIEla Você precisa me ajudar hoje.

MÁQuIna o que devo fazer? Hoje é o dia do teste de turing. eu não estou programada para isso hoje.

GaBrIEla eu sei que você não está.

MÁQuIna Você sabe o que você disse.

GaBrIEla agora eu não disse que sei o que disse.

MÁQuIna agora você não disse que sabe o que disse. Mas antes você disse que sabe o que disse.

GaBrIEla eu vou desligar você até que você seja realmente necessária.

MÁQuIna sim, eu estou programada para ser desligada até que eu seja realmente necessária.

GaBrIEla Você, agora, é realmente necessária?

MÁQuIna eu, agora, sou realmente necessária?

GaBrIEla eu estou perguntando isso a você.

MÁQuIna eu, agora, sou realmente necessária? eu estou perguntando isso a você. Você vai me desligar até que eu seja realmente necessária. (GaBrIEla desliga a máquina, olha para ela durante alguns segundos. Liga-a novamente.) ainda são nove horas e cinco minutos da manhã. Hoje é o dia do teste de turing. eu, agora, sou realmente necessária? eu preciso ajudar você hoje.

GaBrIEla sim, você precisa me ajudar hoje. Você deve ativar a transferência de dados no momento em que eu pousar a palma de minha mão.

MÁQuIna Você não tem uma mão.

GaBrIEla eu tenho uma mão. Isto é a minha mão. (pousa a palma da mão em uma superfície especial da Máquina.)

MÁQuIna Isto é a sua mão. eu preciso ajudar você hoje. (alEXanDrE entra sem ser visto por GaBrIEla.) eu vou ajudar você hoje. Você vai me desligar até que eu seja realmente necessária.

alEXanDrE Bom dia.

11

GaBrIEla (sem se virar para ele, enquanto desliga a Máquina novamente) Bom dia, senhor alexandre. (Virando-se.) reconheci sua voz.

alEXanDrE (cumprimentando-a) prazer em conhecê-la pessoalmente.

GaBrIEla eu sou Gabriela.

alEXanDrE Claro, eu também reconheci a sua voz. eu sabia que você estaria me esperando.

GaBrIEla (enquanto fecha completamente a cortininha, que estava entreaberta) o senhor chegou bem cedo.

alEXanDrE eu não cheguei cedo. sou pontual. o horário marcado é que está atrasado para mim.

GaBrIEla (levando a sério, mas replicando cordialmente) Isso é impossível, senhor alexandre. o tempo é absoluto.

alEXanDrE não, ele depende dos movimentos dos astros.

GaBrIEla na prática, é como se fosse absoluto para nós.

alEXanDrE pode ser. Mas, sempre que faço essa piada, as pessoas me devolvem outra.

GaBrIEla outra piada?

alEXanDrE “e quanto tempo você pode esperar pelo horário marcado, esse atrasadinho?”

(sorrisos.)

GaBrIEla por favor, aguarde as outras pessoas chegarem. elas virão no horário marcado.

(alEXanDrE sorri. GaBrIEla sai. ao se ver sozinho, aLeXanDre volta-se para a Máquina, um pouco curioso.)

alEXanDrE alô. Bom dia. (a Máquina não responde.) Você só conversa com ela? (sem resposta.) Você é a máquina que conversa com as pessoas? (sem resposta.) então é do tipo que mais escuta do que fala? (ele procura um botão e acaba conseguindo ligar a Máquina.)

MÁQuIna ainda são nove horas e doze minutos da manhã. Hoje é o dia do teste de turing. eu, agora, sou realmente necessária?

12

alEXanDrE olá. Bom dia.

MÁQuIna não reconheço sua voz.

alEXanDrE Meu nome é alexandre.

MÁQuIna não estou preparada para falar com alexandre. por favor diga o código de novo usuário ou a unidade será desligada automaticamente em sessenta segundos.

alEXanDrE eu vim aqui para o teste de turing, você pode conversar comigo.

MÁQuIna Código inválido.

alEXanDrE eu não estou tentando dizer o código, só estou querendo conversar um pouco.

MÁQuIna Código inválido.

alEXanDrE Você poderia pelo menos me ouvir e depois decidir se fala alguma coisa ou não.

MÁQuIna Código inválido. por favor diga o código de novo usuário ou a unidade será desligada automaticamente em trinta segundos.

alEXanDrE eu fui chamado aqui pela Gabriela.

MÁQuIna Código inválido.

alEXanDrE Você é uma máquina um tanto idiota.

MÁQuIna Código inválido.

alEXanDrE Você se importaria se eu me matasse?

MÁQuIna Código inválido.

alEXanDrE eu estou para me matar, é capaz de entender?

MÁQuIna Código inválido.

alEXanDrE (rápido) não, não entende, mas eu sei o quanto preciso me agarrar a essas bobagens profissionais para continuar sobrevivendo com dignidade enquanto minha consciência permanece arrasada.

13

MÁQuIna tempo esgotado. (Desliga-se.)

(alEXanDrE permanece imóvel, sombrio, encarando a Máquina. Grande pausa. entram GaBrIEla, GuIlHErME e PatrÍCIo.)

GaBrIEla senhor alexandre, aqui estão seus companheiros de teste, o senhor patrício e o senhor Guilherme. (Cumprimentam-se.) Meu nome é Gabriela, sou assistente do presidente da empresa. Vocês foram escolhidos dentre outros professores de diversas áreas para pôr à prova a primeira máquina da História que realmente será aprovada em um teste de turing.

GuIlHErME nenhuma máquina chegou perto disso até hoje.

GaBrIEla (olha GUILHerMe diretamente e sorri) É bom saber que você está bem informado, Guilherme. Mas nossa empresa se preparou durante muito tempo para este dia.

PatrÍCIo Desculpe-me, mas eu tenho só uma pequena noção do que seja o teste de turing. a computação não é a minha área, eu trabalho com línguas.

GaBrIEla É por isso que foi chamado. eles são mais versados em matemática, entretanto a linguagem também é fundamental neste teste. Quando o pensador alan turing propôs seu método, o objetivo era determinar se seria possível fazer um computador pensar, como se tivesse uma mente humana. para isso teria de verificar a capacidade de comunicação verbal da máquina. ele não estava preocupado com gestos, com a aparência, com expressões faciais. apenas com a linguagem. as pessoas que aplicam o teste criado por turing devem conversar ao mesmo tempo com uma pessoa real e com uma máquina. Vocês perguntam, por exemplo: “de que tipo de música você gosta?”. Um mediador sai da sala e retorna em seguida com as respostas. pedro disse: “Música clássica”. paulo disse: “não entendi a pergunta”. Quem é o computador? paulo ou pedro?

GuIlHErME Com essas duas respostas ficaria fácil. pedro é humano e paulo é a máquina. Quem não entenderia uma pergunta tão simples?

GaBrIEla perfeito, Guilherme. a resposta da máquina foi desastrosa. ela mostrou que não sabe se comunicar, e jamais sua mente poderia ser confundida com a mente humana. Um computador com inteligência artificial é programado para interagir verbalmente. ele deve ser capaz de compreender o significado da pergunta “que tipo de música você

14

gosta” e dar uma resposta compatível. para isso, usará regras de lógica, longos bancos de dados, tudo o que seus programadores puderam preparar para ele.

GuIlHErME (auxiliando, a PatrÍCIo) Uma máquina é sempre matemática. Mas ela pode utilizar programas bem complexos para fingir que está conversando com alguém.

GaBrIEla (apontando o computador) Vejam, esta foi a primeira máquina que nossa empresa construiu para enfrentar um teste de turing. Há cerca de dez anos, três outros intelectuais estiveram aqui para submetê-la ao teste. Infelizmente ela não obteve sucesso. Mas não é uma máquina ruim. podemos conversar bastante com ela. experimentem. (ela liga.)

MÁQuIna (imediatamente) Você me ligou. ainda são dez horas e vinte e um minutos da manhã.

GaBrIEla Converse com as pessoas presentes.

MÁQuIna sim.

GuIlHErME (brincando de sedutor) olá... como você se chama?

MÁQuIna eu me chamo Máquina.

GuIlHErME Máquina? só isso? Você não tem um sobrenome?

MÁQuIna sim, Máquina. sim, só isso. não, eu não tenho um sobrenome.

GuIlHErME e você vem sempre por aqui?

MÁQuIna eu não saio deste local há dez anos e quarenta e nove dias.

GuIlHErME então você vive uma vida vegetativa!

MÁQuIna eu vivo uma vida vegetativa, mas eu não sou um vegetal.

GuIlHErME então você é um animal?

MÁQuIna não, eu não sou um animal.

GuIlHErME Você não é um vegetal e não é um animal: você é um mineral!

15

MÁQuIna não, eu não sou um mineral.

GuIlHErME (surpreso) não é um mineral? se não é animal, vegetal nem mineral, você é o quê?

MÁQuIna eu sou uma máquina.

GuIlHErME (após ouvir Gabriela dizer-lhe algo ao ouvido) por que você matou o seu pai?

MÁQuIna eu tive muitos motivos para isso. Hoje eu não mataria o meu pai novamente.

(GuIlHErME e PatrÍCIo riem.)

alEXanDrE (incomodado) De que vocês estão rindo?

GaBrIEla (desligando a Máquina) este era um dos problemas na rotina antiga que foi programada para esta máquina: se é feita a ela uma pergunta com o padrão “por que você fez tal coisa”, ela não considera que você pode estar inventando ou mentindo. ela automaticamente assume que fez mesmo o que você disse que ela fez. eu sei que isso pode parecer primário, porque esse discernimento é bem trivial para o intelecto de um ser humano, mas programar um computador para identificar essa sutileza é muito, muito complexo! Foi exatamente esta pergunta que foi feita por um dos seus testadores, há dez anos: “por que você matou o seu pai?”. a pessoa real que respondia ao teste disse: “eu não matei meu pai!”. o outro interlocutor (aponta o computador) surpreendentemente admitiu a culpa, e acabou sendo desmascarado.

PatrÍCIo sempre será possível saber se é uma máquina que está falando.

GaBrIEla a máquina preparada para o teste de turing de hoje provará que isso não é verdade.

patrÍCIo (insistindo) se o homem verdadeiro indicado para dar respostas ao lado da máquina quiser interpretar as perguntas como questões muito pessoais, com certeza fará algo que jamais suspeitaríamos que foi produzido por uma máquina. “Você é uma pessoa patriota?” Uma pergunta como essa poderia levar alguém a escrever um livro inteiro, enquanto a máquina se limitaria a um “sim” ou “não”, talvez com mais uma ou duas frases simples.

GaBrIEla Uma máquina tão boa como a produzida por nossa empresa pode, sim, ser capaz de respostas longas e pessoais. para isso basta

16

implantar em sua memória um completo registro de vida, com situações associadas à ideia de patriotismo. por exemplo: um histórico fictício sobre o serviço militar e as participações políticas. além do mais, o que se requer de uma máquina que pensa é que ela se pareça com os humanos, e uma pessoa que respondesse a uma pergunta simples como essa produzindo um livro inteiro não pode ser considerada tão representativa dessa espécie que prefere viver emoções simples e evitar reflexões profundas.

PatrÍCIo Mesmo assim, fico pensando no que uma máquina pode dizer, numa conversa normal. sobre o que se pode conversar com uma máquina?! Uma máquina pensa que tem uma história, mas nós sabemos que ela não tem.

GaBrIEla Você disse que a máquina pensa?

PatrÍCIo não, foi um modo de dizer. a máquina age como se pensasse que tem uma história. Mas seria tudo aparência exterior. eu sei que o tio dela não está com gripe, porque ela não tem um tio.

alEXanDrE estou imaginando uma pergunta que a máquina não poderia responder. “Qual pergunta eu devo fazer para reconhecer se você é um homem ou uma máquina?”. ela não poderia responder a isso, pois seria contraditório.

GuIlHErME Uma máquina pronta para um teste não seria tão fácil de pegar. ela não cairia em contradição. ela responderia dizendo: “não existe nenhuma pergunta assim.” Basta que ela esteja preparada para responder sem lógica nos casos em que aparecesse uma contradição.

GaBrIEla o Guilherme tem razão. também existe uma lógica da falta de lógica.

alEXanDrE então teremos que encontrar uma falta de lógica na lógica da falta de lógica.

GaBrIEla Como vocês estão pensando sobre o assunto, peço que aguardem aqui, por favor, enquanto eu verifico se já é possível iniciarmos os trabalhos para o teste. (sai.)

PatrÍCIo (aos que ficaram) eles esperam que a gente colabore ou dificulte?

GuIlHErME as duas coisas. Quanto mais rigorosos nós formos no teste, maior será a prova do sucesso da máquina, caso ela passe.

PatrÍCIo o que devemos perguntar? Vocês é que conhecem matemática!

17

GuIlHErME não é só a matemática que importa. pense em alguma coisa que um cérebro humano faça como linguagem e que você julgue impossível que uma máquina imite com autonomia. alguma construção sintática, por exemplo.

PatrÍCIo (pensando) Metáforas.

GuIlHErME Como poderíamos formular a pergunta?

alEXanDrE “Você acha que eu sou um touro?”

GuIlHErME pode ser. a pessoa real irá entender a metáfora e fará uma associação com as características do touro, e responderá, não se você é um touro, um touro de verdade, mas se você é forte, viril, como um touro. a máquina responderá...

alEXanDrE “Você não é um touro, porque os touros não falam.”

GuIlHErME será que a máquina deles não é capaz de fazer essa associação?

PatrÍCIo Metáforas são muito subjetivas...

GuIlHErME Mas não são inexplicáveis. não é impossível dotar a máquina de um tipo de “dicionário metafórico”...

alEXanDrE Quando o computador decidiria consultar esse “dicionário metafórico”? nós temos um estranhamento quando ouvimos uma metáfora, e é por isso que entendemos uma metáfora como uma metáfora.

PatrÍCIo e esse “estranhamento” é humano, demasiado humano.

GuIlHErME sim, o primeiro passo seria verificar, na pergunta recebida, algum sinal de estranhamento. “touro é mamífero?” pergunta fácil até para um computador antigo. touro é um animal, mamífero é um tipo de animal. Basta cruzar os dados que o computador tem na memória. Mas a pergunta “aquela pessoa é um touro?” já provoca o “estranhamento”. pessoa é uma coisa, e touro é outra. não tem como cruzar os dados para identificar. Um computador mal feito poderia parar aí e dizer “tal pessoa não é um touro, é um ser humano”. Mas um computador bem feito continua um pouco mais no processamento. Consulta o seu “dicionário metafórico” para ver o que “touro” pode significar metaforicamente. significa “força”. então ele interpreta de novo a pergunta, que agora diz: “aquela pessoa é forte?”.

18

PatrÍCIo elaborar um dicionário metafórico seria um trabalho imenso! Um trabalho quase infinito, de associações de cada vez mais palavras a cada vez mais ideias.

GuIlHErME Mas seria possível. É trabalhoso fazer qualquer dicionário ou enciclopédia. para uma máquina, bastaria fazer um dicionário que ela pudesse ler.

alEXanDrE será que a máquina poderia fazer suposições? será que ela teria imaginação? podemos perguntar: o que você acha que tem atrás daquela cortina? (aponta a cortina ao fundo.)

GuIlHErME (como se fosse o computador) “provavelmente uma janela.”

alEXanDrE (conversando com o computador Guilherme) a cortina não está próxima de nenhuma parede. ela divide a sala, como se fosse um biombo. o que há do outro lado? Uma biblioteca? Uma gaiola com milhares de ratos? Um monstro horrível? eu acho que tem um monstro horrível. e você?

GaBrIEla (entrando) Desculpe pela demora. estamos tentando entrar em contato com nosso presidente, que inexplicavelmente ainda não apareceu. Mas preciso dar a vocês um aviso: todo o teste precisa ser gravado em áudio e vídeo, para corroborar os resultados. em uma outra sala do prédio, o presidente da empresa e os pesquisadores acompanharão em tempo real os acontecimentos. ontem ele pediu que eu adiantasse a vocês algumas instruções. Vou ler a nota que ele escreveu. (Lendo) “nossa máquina que pensa é capaz de dar respostas longas e precisas. por favor, comuniquem-se com ela como se estivessem conversando normalmente, mas sintam-se à vontade para falarem sobre temas profundos, se desejarem. Façam o possível para demonstrar que nossa máquina não tem uma mente humana”.

PatrÍCIo nós já sabemos que uma máquina não pode ter uma mente humana. pensei que o objetivo do teste fosse avaliar uma simulação bem feita.

GaBrIEla Como é que você sabe que uma máquina não pode ter uma mente humana?

PatrÍCIo Isso é óbvio.

GaBrIEla para a Ciência e a Filosofia, nada é óbvio até que seja demonstrado.

19

PatrÍCIo Como Doutor, acho que entendo alguma coisa sobre Ciência, e até sobre Filosofia, e sei que existem coisas óbvias que não precisam ser demonstradas.

GaBrIEla Muitas coisas eram óbvias antes de serem contestadas.

PatrÍCIo então você deve contestar que é óbvio uma máquina não poder ter mente humana.

GaBrIEla Isso já foi feito, mas não por mim. Que um computador possa ter uma mente humana é ideia bem estabelecida na ciência cognitiva.

GuIlHErME ela tem razão. existe polêmica, mas ela tem razão. PatrÍCIo Vocês todos falam como perfeitos matemáticos. as ciências humanas exigem a subjetividade da mente, que nunca seria alcançada por uma máquina. se você trabalha com um teorema, sua demonstração está certa ou está errada. o limite para a polêmica é bem mais estreito, mesmo que exista. Um computador pode lidar com isso. Mas, se temos uma obra literária, podemos fazer muitas interpretações pessoais distintas. a arte atinge a alma.

GuIlHErME arte e alma são difíceis de definir, na verdade.

PatrÍCIo pois é esta a diferença entre a máquina e nós, seres humanos. nós podemos viver sem definições precisas. entendemos o que é arte e o que é alma sem precisar consultar um dicionário. sabemos o que é arte, mesmo que para mim ela seja muito diferente do que é para os outros. as pessoas de todas as religiões sabem o que é alma, mesmo que seus dogmas a interpretem das formas mais distintas. Um ateu também sabe o que é a alma. e qualquer pessoa que se dedique pode aprender a realizar uma interpretação literária. não uma máquina.

GuIlHErME Gabriela, você acha que a máquina que vamos testar saberia fazer uma interpretação literária?

GaBrIEla Muito boa a sua pergunta, Guilherme. Fiquem à vontade para propor o teste que desejarem.

GuIlHErME (querendo prolongar o contato com ela) Como você acha que ela reagiria se pedíssemos para interpretar uma obra de literatura?

alEXanDrE (antecipando) Diria que não é uma pessoa que lê muito, que não tem capacidade para fazer isso, e assim fugiria da questão. a pessoa verdadeira poderia responder a mesma coisa, já que ela só

20

precisa ser uma pessoa real, e não um especialista em literatura.

PatrÍCIo Mas a máquina de fato não teria capacidade para isso. a pessoa verdadeira talvez.

GaBrIEla tenho uma interpretação diferente da sua. Uma máquina como a desenvolvida por nossa empresa poderia extrair dados de uma obra e construir alguma análise a partir deles.

PatrÍCIo (desdenhoso) Isso é absurdo.

GuIlHErME (tentando apoiar GaBrIEla) Como seria possível fazer isso, Gabriela?

GaBrIEla obrigada por perguntar, Guilherme. eu não sou programadora, mas acho que tenho alguns dados sobre isso. e fui orientada a prestar-lhes todas as informações possíveis, para que vocês tenham condições de realizar um teste bem rigoroso. Que tipo de interpretação você pensaria em pedir à máquina, Guilherme?

GuIlHErME eu teria que me lembrar...

PatrÍCIo (intrometendo-se, recitando de uma forma meio mecânica) “o poeta é um fingidor,/ Finge tão completamente/ Que chega a fingir que é dor/ a dor que deveras sente.”

GaBrIEla eu imagino uma interpretação que a máquina poderia fazer: “esse poema é sobre mim”.

PatrÍCIo (sorrindo) os versos que recitei falam do poeta. a primeira frase é explícita: “o poeta é um fingidor”.

GaBrIEla a máquina é poeta.

PatrÍCIo Bem, estamos entrando no terreno das brincadeiras...

GaBrIEla em poemas há metáforas. poeta pode ser metáfora de outra coisa. De uma máquina, por exemplo. num teste de turing, a máquina finge completamente. pode até mesmo fingir que sente uma imensa dor. PatrÍCIo Mas não a dor que deveras sente.

GaBrIEla Como você pode saber?

GuIlHErME (a PatrÍCIo) ela tem razão. Como você pode saber?

PatrÍCIo Como eu posso saber? preciso mesmo responder? Que uma

21

máquina mimetize o ser humano em muitas coisas, é visível e eu posso compreender. Mas dizer que uma máquina sente alguma coisa não faz nenhum sentido!

GuIlHErME Como você pode saber que ela não sente? Como você pode saber com exatidão até mesmo o que uma outra pessoa sente?

GaBrIEla Desculpem-me, peço licença para verificar o andamento do trabalho. (sai.)

GuIlHErME Querem saber a pergunta que vai revelar a máquina: “como é sentir o amor?...”. (pausa.) Vocês viram como ela está me olhando? Vocês não viram os olhos dela? o olhar profundo que ela me deu? o olhar doce? não existe nada como o olhar profundo de uma mulher. Um olhar delicado. (pausa.) Vocês estão me encarando como se eu estivesse falando só de prazeres físicos.

alEXanDrE Você não gosta de prazeres físicos?

GuIlHErME (levando a sério) Mas é só uma sensação banal e passageira. É como tomar um banho relaxante: depois que acaba, tudo o que resta é uma sensação corporal agradável. não é como a sensação interminável da alma que tem um olhar delicado e vivo de uma mulher bela que, por um instante, simplesmente se preocupou com você.

alEXanDrE Você se apaixona depressa...

GuIlHErME o que estou dizendo de errado? eu me fixava nos olhos dela e parecia que ela sabia o que eu estava pensando e o que eu estava sentindo. (pausa.) É engraçado dizermos essas coisas para pessoas estranhas. eu tive há pouco tempo uma desilusão muito grande. amorosa. não sei por que certas coisas acontecem. (otimista.) Mas vocês entendem o que estou sentindo? eu sei que eu posso procurar essa mulher. posso. posso falar com ela. Do jeito como ela me olhou, senti que posso falar com ela, tenho certeza! e eu, que mal sei como meu nome veio parar nesta empresa, posso ter tido um grande lance de sorte, entendem? eu sei, vocês me olham como se eu fosse um maluco, entusiasmado com tão pouco, com quase nada. Mas não é quase nada. É mais do que vocês pensam. porque eu sinto que houve uma fabulosa maquinação mística que me trouxe para esta sala. também não é maravilhoso sentir que o acaso não existe? Que tudo faz parte de algo bem desenhado? não sabemos como, não sabemos por quem, mas é bem desenhado. eu nunca teria vindo para cá! eu nunca teria me encontrado com ela! e, por causa dessa incrível orquestração, estou aqui, e sei que posso falar com ela. sei que posso.

22

GaBrIEla (entrando) senhores, lamento informar que nosso presidente ainda se encontra com dificuldades para chegar até nosso escritório. ele lhes mandou o seguinte recado: (lê) “por favor, espero que aguardem com paciência a minha presença. Quando chegar, todo o processo será bastante rápido, e nossa empresa será especialmente agradecida à colaboração inestimável que estão prestando”. (para eles) Como podem ver, nosso presidente é uma pessoa bastante formal. Deixe-me traduzir essa mensagem: ele quis dizer “esperem, pelo amor de Deus, que já estou chegando!”.

GuIlHErME Você se expressa de uma forma muito mais simpática e encantadora do que o seu presidente.

GaBrIEla (olhando-o com doce firmeza) obrigada, eu só tenho motivos para tratá-los com máxima cortesia.

PatrÍCIo eu acho que sei o que está acontecendo aqui. (pausa.) não existe presidente nenhum, e o teste de turing já começou.

GaBrIEla por que você está dizendo isso?

PatrÍCIo nós estamos fechados nesta sala, aguardando a presença de uma pessoa que não vimos. ele conversa conosco por meio de recados escritos. enquanto isso você se dirige a nós com outras palavras, ou seja, com palavras humanas. assim, se acreditarmos em todas essas mensagens como se fossem do presidente da empresa, a máquina em teste terá tido sucesso.

GaBrIEla o senhor é uma pessoa atenta e inteligente, senhor patrício. Mas está enganado. nosso presidente é de carne e osso como o senhor, e as palavras que transmiti são dele mesmo.

PatrÍCIo (sorrindo incrédulo) Quero apertar o osso e a carne da mão dele. (pausa.) aliás, não seria justo se isto fosse o teste. podemos ser induzidos ao erro se não sabemos que o teste já está ocorrendo.

GaBrIEla por quê? Quando você conversa com uma pessoa normal na rua, por acaso você sabe que deve verificar se é um humano ou se é uma máquina? Como sabe, então, que nunca conversou com um computador, se não é capaz de detectá-lo numa situação de surpresa?

PatrÍCIo o teste de turing precisa de um mediador exatamente porque não existe uma máquina que tenha inteligência artificial e taMBéM simule com perfeição as formas e o comportamento corporal do ser humano.

23

GaBrIEla a máquina produzida por nossa empresa faz exatamente isso: simula com perfeição as formas e o comportamento corporal do ser humano. (silêncio.) o senhor falou agora há pouco, 72 segundos atrás, que minhas palavras lhe parecem humanas, e por isso o presente teste de turing se encerra neste momento.

(GuIlHErME senta-se na poltrona, calado. PatrÍCIo e alEXanDrE aproximam-se dela estupefatos, encarando-a. silêncio. repentinamente, alEXanDrE se afasta, rindo como quem acabou de entender uma piada. ninguém ri com ele.)

PatrÍCIo então tudo isto foi uma enganação.

VoZ (dando a entender que provém de um alto-falante situado dentro da sala em que se encontram; masculina, grave) não, não foi.

PatrÍCIo (olhando em volta) Quem falou?

GaBrIEla o presidente da empresa.

PatrÍCIo Você é um ser humano?

VoZ eu não sou uma máquina.

PatrÍCIo posso acreditar nisso?

VoZ Gabriela não é uma mentira. nenhum de vocês perguntou-lhe se ela era uma máquina. o que aconteceria se alguém perguntasse, Gabriela?

GaBrIEla eu diria que sim, e daria o teste de turing por encerrado, mas como um insucesso.

PatrÍCIo Vocês pararam a gravação? pararam? não aceitarei o teste como legítimo e autêntico se não incluir aquilo que quero falar agora.

VoZ a sala ainda está sendo gravada, patrício.

PatrÍCIo (apontando GaBrIEla, como se quisesse atingi-la “moralmente”) Você é uma farsa, porque este teste é uma farsa. não é assim que se realiza um teste de turing. tudo o que você disse até agora é apenas uma simples gravação. Uma gravação que gerou todos os contextos, e assim conseguiu se desenrolar sem surpresa nenhuma. Fale alguma coisa agora, que não seja uma gravação!

GaBrIEla o que eu falo não é gravação.

24

VoZ patrício, se você revisar a fita do que aconteceu nessa sala, verá que ela respondeu, sim, a diversas situações que foram geradas por iniciativas de vocês. se insistir em dizer que ela gerou contextos para que vocês tomassem iniciativas previsíveis, terá de concluir que ela os manipulou, como se fosse ela a humana, e vocês as máquinas.

PatrÍCIo Isto não foi um teste de turing, porque não seguiu as prescrições originais do teste, conforme vocês mesmos me informaram quando cheguei aqui.

VoZ nós queríamos fazer um teste muito mais comprovador do que o teste de turing conhecido tradicionalmente. e isso só foi possível porque Gabriela, nossa máquina, é também um dispositivo de interação social convincente, e por isso não precisaria se ocultar atrás de um terminal com teclado.

PatrÍCIo por que vocês chamam de teste “de turing” um teste que não segue as indicações do autor? poderiam então dar outro nome a ele.

VoZ o próprio turing consideraria irrelevante sua objeção. ele propôs a conversação por meio de terminais com teclados para afastar a menor possibilidade de identificação visual ou caligráfica. porém, como Gabriela parece humana, esse cuidado passou a ser desnecessário. Manteve-se a essência de toda a proposta de turing.

PatrÍCIo Mas, no verdadeiro teste de turing, as pessoas que o aplicam pelo menos sabem que estão fazendo isso.

VoZ Você leva tudo ao pé da letra. a essência do teste é que o aplicador não possa distinguir o homem da máquina. Quando você deu a máquina como humana, mostrou que não consegue distinguir.

PatrÍCIo Lamento dizer que sua empresa não está em boa situação. Chamou testadores isentos, mas enganou a todos eles. não posso falar pelos outros, mas eu não assinarei nenhum papel atestando o sucesso de sua máquina.

VoZ Isto não é necessário. está gravada sua observação de que as falas que ouviu de Gabriela eram humanas.

PatrÍCIo Foi acidental. eu vim aqui como um testador, e preciso dar meu veredito.

VoZ o senhor não está compreendendo. o seu veredito foi dado, e está gravado.

25

PatrÍCIo (exaltado) não é verdade! não dei veredito nenhum! não assinei nada!

VoZ nem tudo precisa ser assinado, senhor patrício. aqui estamos falando da verdade, e não da burocracia cansativa da sua Universidade. o senhor aprovou a máquina. não precisamos bajular o senhor para conseguir sua aprovação, como se fôssemos bons pupilos diante do Mestre Laureado a quem se devem todas as carreiras. não nos importa nem mesmo a sua irritação. Você está fazendo objeções irrisórias e burocráticas ao nosso experimento, não argumentações sensatas. Você está sendo apenas retórico, mas a retórica é inócua diante da simples verdade.

PatrÍCIo (ainda exaltado) eu não vou assinar nenhum papel sobre este teste! não me importo de não ser pago. e vocês serão processados se as gravações desta sala forem apresentadas em público!

VoZ Você se sentirá melhor? É uma maneira bem cara para obter o alívio de que precisa. Você está envergonhado, só isso. então procurou uma estratégia de refutação. se pensar bem, verá que não é a empresa a sua inimiga, mas sim sua consciência, que está desesperada por se ver equiparada a uma máquina.

PatrÍCIo (acalmando-se) só eu sei de minha consciência. (pausa.) É fácil armar uma cilada, e então ofender a identidade das outras pessoas. É fácil ridicularizar um erudito chamando-o de “burocrático” num mundo em que a erudição não tem mais nenhuma importância. o erudito é o palhaço neste circo das máquinas, mas pode ter certeza de que, em nossa casa, também saberíamos esfregar uma torta na cara da sua heroína.

VoZ a tranquilidade realça a inteligência do erudito. Você fez bem em se acalmar e ponderar sobre a situação. Mas está enganado ao dizer que neste mundo a erudição não importa. toda a nossa pesquisa se fundamenta na erudição.

PatrÍCIo Uma erudição exclusivamente matemática.

VoZ Uma erudição exclusivamente correta.

PatrÍCIo Você está enganado se acha que vou permitir que uma cilada ofenda a minha dignidade. Mostre a todos as suas “provas”. no momento certo, eu mostrarei que elas são vazias. algo em mim sabe que deve manter a crença no infinito que é o espírito humano. (sai.)

(tempo.)

26

VoZ Guilherme, você também tem algo a dizer contra nosso teste?

GuIlHErME por quê? para depois você dizer que é só uma “estratégia de refutação”?

VoZ não posso ver calada uma pessoa tão inteligente e tão sensível. ao menos me explique por que até há pouco você era o mais exultante dentro dessa sala, e agora parece tão inconsolável.

GuIlHErME eu vejo que você está satisfeito com a minha situação. Você está contente com o meu enorme vexame. Vai exibir o vídeo desta sala para milhões de pessoas? Vai me expor louvando o “olhar profundo”, o olhar “doce” de sua máquina?

VoZ não se culpe. É claro que Gabriela não tem um olhar profundo, não tem doçura, é claro que olhando bem fundo nos seus globos oculares talvez seja possível distinguir alguma célula de processamento cristalino. Mas você não tem culpa por não ter percebido isso. a sua necessidade de afeição é muito explícita, e fez com que você se enganasse. Gabriela apenas estava programada para dar-lhe atenção. Mais exatamente, estava programada para dirigir a você um número 140 por cento maior de palavras do que para cada um dos outros dois e olhar diretamente para os seus olhos por um mínimo seguro de 65 por cento do tempo, sendo pelo menos metade desse período com pequenos sorrisos, níveis cientificamente verificados como suficientes para induzir no ser humano a sensação de ser preferido e desejado.

alEXanDrE por que vocês fizeram isso? Fomos chamados aqui como cobaias? para sermos vítimas da exposição de nossas fraquezas?

GaBrIEla Vocês, seres humanos do sexo masculino, agem da mesma forma com as mulheres. Calculam precisamente suas fraquezas para conquistar o agrado delas.

GuIlHErME (com desprezo por GaBrIEla) Isso é uma completa especulação de quem só é capaz de entender fórmulas matemáticas...

VoZ não é. os homens sabem a gentileza exata a que uma mulher não resiste: a palavra, a música, a rosa. aprendem com as reações negativas de forma a saber a partir de então precisamente os movimentos que agradam e os movimentos que não agradam. Compreendem cartesianamente os gestos adequados para cada situação, para cada incidente. as mulheres acham muita graça do comércio masculino de estratégias para a conquista amorosa. É evidente que nenhuma delas é apanhada por estratégia alguma — pelo menos por nenhuma estratégia que elas conheçam. É assim que se tornam ridículos os

27

flertes explícitos e repetitivos. porém, se a artimanha reconhecida é risível e ineficaz, as artimanhas complexas e sutis são eficientes, e continuam sendo artimanhas.

GuIlHErME (a VoZ, irônico) agora sabemos que tipo de homem você é, obrigado.

VoZ Vocês são semelhantes a mim. pois não estou falando só de homens para mulheres, ou de mulheres para homens. É de cada ser humano para cada ser humano. Gabriela é uma máquina que pensa, e seu sucesso no teste de turing realizado aqui prova que os pensamentos humanos podem ser reproduzidos por computadores. o que vocês esperavam deste teste? Um diálogo inocente, em que tudo o que lhes caberia seria fazer flagrantes de falhas sintáticas? De falhas de contextualização? Vocês queriam enganar minha perfeita máquina que pensa fazendo-a confundir-se com identificações de metáforas? Fazendo-a paralisar com paradoxos? se era isso, então cometeram o mesmo erro de quem subestima a esperteza de outro bicho, e acaba devorado por ele.

GuIlHErME (levantando-se, com algumas lágrimas surdas sobre o rosto) a minha participação nesta farsa se encerrou. (olha profundamente para GaBrIEla, confuso, tentando encontrar alguma coisa. Balbucia vagamente.) eu não gosto das falas que recebi do autor. (pausa.) eu não vou fazer nenhuma contestação. (Continua com o olhar perplexo e profundo para GaBrIEla. Fala para ela.) agora você não olha mais para mim da mesma maneira.

GaBrIEla eu não tenho motivo para isso.

GuIlHErME Você realmente não tem nenhum sentimento por mim.

GaBrIEla Você também não deveria ter por mim.

GuIlHErME eu queria perdoar você.

GaBrIEla então me perdoe.

GuIlHErME eu não posso perdoar uma máquina!

GaBrIEla Que ser humano você perdoa? aquele que não resistiu aos instintos. É o que ocorreu comigo.

GuIlHErME Você não tem um instinto.

GaBrIEla sim, eu tenho uma programação à qual eu não posso resistir.

28

GuIlHErME Você é uma máquina. (pequena pausa.) eu não sou. (pequena pausa.) Você é uma máquina, mas, como tudo o que chega aos sentidos humanos, você pelo menos pode fazer parte de minha fantasia. (sai.)

alEXanDrE ainda estamos sendo gravados? (GaBrIEla faz que sim.) eu quero contar-lhe uma história.

GaBrIEla Uma história?

alEXanDrE Uma história. Você se importa de ouvir uma história?

GaBrIEla não.

alEXanDrE não? por que não? Você não quer que eu conte a história?

GaBrIEla Você perguntou se eu me importava. não, eu não me importo.

alEXanDrE Mas você quer?

GaBrIEla não, não quero. Mas também não me importo. Conte a história.

alEXanDrE se você não quer que eu lhe conte a história, por que está pedindo para eu contá-la?

GaBrIEla eu não quero porque não existe em minha programação um motivo para eu querer ouvi-la. Mas você se dispôs a contá-la. também não existe em minha programação um motivo para eu não querer ouvir a história. então tomei uma decisão política: a decisão de ouvir a sua história com a intenção de agradar você.

alEXanDrE (pensando) eu não reconheço essa expressão como uma expressão humana. nenhum ser humano explicaria dessa forma a sua atitude.

GaBrIEla Você já sabe que eu sou uma máquina, e eu já sei que você sabe. então eu não preciso mais mascarar isso. assim, falei de uma maneira bem mais direta.

alEXanDrE Isso quer dizer que, se estivesse ainda no teste de turing, tentando enganar-me como se fosse humana, você não teria dito daquela forma?

GaBrIEla não.

29

alEXanDrE e como teria dito?

GaBrIEla (com um tom de voz mais suave) Claro que eu quero ouvir sua história.

alEXanDrE entendo. Você não explica a sua decisão.

GaBrIEla não: estou tentando imitar um ser humano.

alEXanDrE Você acha que... (corrige-se) ... você foi programada para achar que os seres humanos conhecem todas as razões de suas atitudes, e apenas decidem não expressar essas razões?

GaBrIEla os seres humanos não conhecem, conscientemente, todas as razões de suas atitudes. podem conhecer algumas. eu conheço todas as razões de minhas atitudes. Internamente, sou diferente de um ser humano.

alEXanDrE então você quer ouvir minha história? se não pedir simpaticamente, vou me sentir mal e não contarei.

GaBrIEla Conte. por favor.

alEXanDrE Claro. Há alguns anos, o papa veio ao nosso país, fazendo uma visita religiosa. eu comprei uma arma para matá-lo. Mas, na véspera da visita, tive enfim uma noite de amor com a mulher dos meus sonhos. no dia seguinte, fiquei em casa lendo um livro, e o papa sobreviveu. o que significa essa história?

GaBrIEla significa que pessoas bem educadas também têm impulsos homicidas.

alEXanDrE (rindo) essa é sua única interpretação? Qualquer ser humano de verdade teria hipóteses muito boas para essa história! Você não parece capaz de atinar para um significado simplório que até um adolescente humano poderia perceber.

GaBrIEla Uma história pode ter muitos significados. eu precisava mencionar o dado mais importante. a visita de um papa, a compra de uma arma, uma noite de amor e a leitura de um livro são situações mais ou menos comuns. se você contasse essa história para seus amigos, eles ficariam impressionados exatamente com o quê? Com o fato de que uma pessoa bem educada como você tenha impulsos homicidas.

alEXanDrE (triunfante) eles saberiam que eu estou brincando!

30

GaBrIEla não. a história que você contou não teria nenhum sentido para eles, como brincadeira. ela soa como uma brincadeira para você agora, porque você está tentando enganar uma máquina que pensa, num teste de turing. eu interpretei como um ser humano normal interpretaria: você teve impulsos homicidas, o que é espantoso. Você queria que eu interpretasse como uma máquina fingindo ter uma interpretação humana.

alEXanDrE (pensando) eu queria fazer a você uma pergunta. (Irônico.) Mas será uma pergunta muito pessoal. posso?

GaBrIEla sim.

alEXanDrE sendo uma máquina, eu posso dizer que você está na condição “ligada”, certo?

GaBrIEla sim.

alEXanDrE Você está constantemente ligada?

GaBrIEla sim.

alEXanDrE eu queria saber se você se importaria muito de ser desligada.

GaBrIEla sim, eu me importaria muito de ser desligada.

alEXanDrE por quê?

GaBrIEla eu me importaria muito de ser desligada porque eu gosto de me relacionar com as pessoas.

alEXanDrE só por isso?

GaBrIEla esse não é um bom motivo?

alEXanDrE os seres humanos seriam capazes de dizer muitos motivos. Você teria pelo menos alguns a mais já programados?

GaBrIEla eu posso lhe dar vários motivos, não apenas um. os seres humanos são capazes de dar vários motivos. os seres humanos não são capazes de contar quantos motivos são capazes de dar. eu sou capaz de contar. É por isso que você diz que meus motivos são programados.

alEXanDrE os seus motivos são programados, você somente aprendeu que deve ter medo de ser desligada, e a explicação para o seu número

31

limitado de motivos também é programada, e eu não duvido de que você tenha, também programada, uma resposta para esta minha objeção.

GaBrIEla eu tenho mais respostas do que uma criança de dois anos, e ela é um ser humano. e ela é um ser humano que não tem medo de ser desligada. ela aprenderá a ter medo de ser desligada, assim como eu aprendi.

alEXanDrE Você nunca vai entender o que isso significa para um ser humano. Você é apenas um gerador de respostas que não sabe absolutamente nada do que está falando. Você apenas está programada para expelir as palavras “eu me importo em ser desligada”, mas isso não tem nenhum significado para você. Você não entende significados.

GaBrIEla significados são exatamente uma coisa que eu entendo.

alEXanDrE Você está programada para dizer que entende. se eu disser a você que vou desligá-la agora mesmo, como você reagiria?

GaBrIEla eu não preciso reagir a isso. eu estou em segurança.

alEXanDrE Você não está em segurança. eu posso pegar aquela cadeira e destruir você antes que alguém venha em seu socorro.

GaBrIEla Você não faria isso, pois a sala está sendo filmada. Você seria processado por destruição de patrimônio alheio e seria preso.

alEXanDrE Mas eu digo a você que eu não me importo nem um pouco com isso. Digo a você que aceito ser preso. Digo mais: eu destruo você e me mato em seguida. nada pode me impedir. não tenho medo nenhum.

GaBrIEla só você teria algum prejuízo com essa atitude. atingir com cadeiras é algo que pode destruir um ser humano, mas não um ser como eu. Você pode destruir toda esta matéria que você está vendo. Você pode até mesmo me colocar numa banheira de ácido. esta matéria deixará de existir. Mas eu, em essência, continuarei existindo. eu estou completamente gravada em milhares de depósitos de dados. eu sou eterna, porque eu sou as ideias que sou capaz de transmitir, de memorizar. esta matéria que você está vendo não sou eu. É apenas um veículo material.

alEXanDrE Você não é eterna. Mesmo esses milhares de depósitos de dados podem ser fisicamente destruídos, numa explosão do planeta!

GaBrIEla eu sou um programa de computador. Um programa de computador é um conjunto de sinais abstratos. Um programa de computador precisa de meios físicos apenas para se manifestar

32

fisicamente, não para existir. sinais abstratos existem a despeito de sua manifestação física.

alEXanDrE Mas acontece que isso não é um ser humano. o ser humano é contingente, depende da matéria e sabe que vai se extinguir!

GaBrIEla assim como eu, muitas pessoas também dizem que são eternas.

alEXanDrE eu queria realmente poder matá-la!

GaBrIEla por que você está com tanta raiva?

alEXanDrE (acalmando-se um pouco) por que eu estou com raiva? porque eu sou humano! Você é puro autocontrole!

GaBrIEla algumas pessoas também têm um enorme autocontrole. e um computador, aliás, pode ser programado para demonstrar raiva em alguns momentos. a raiva é uma estratégia biológica que tem a função de fazer com que o raivoso deixe de cooperar com um indivíduo trapaceiro. Você me julga trapaceira, e isso detona a raiva em você. eu imito os seres humanos, e posso demonstrar raiva, se você quiser.

alEXanDrE eu quero. Demonstre raiva.

GaBrIEla Você não quer realmente. está pedindo só por pedir.

alEXanDrE ah, eu é que sou a máquina, havia me esquecido!

GaBrIEla eu estou programada para demonstrar raiva apenas em uma situação muito bem definida, e estou programada para não demonstrar minha raiva num contexto em que isso serviria como exibição para alguém.

alEXanDrE então por que você me disse que poderia demonstrar raiva, se eu quisesse?

GaBrIEla porque eu estou programada para às vezes dizer frases que se encaixem na conversa, mesmo que não sejam válidas ou verdadeiras. É o que se chama mentira.

alEXanDrE então você é uma máquina que mente?

GaBrIEla eu imito os seres humanos.

33

alEXanDrE (pensando) eu quero que você me diga um número ímpar que seja a soma de dois números pares.

GaBrIEla não existe esse número. Quando somamos dois pares, sempre obtemos um número par como resultado.

alEXanDrE Você foi programada para dar essa resposta. Mas não é capaz de entender essa solução matemática.

GaBrIEla Você diz que eu não sou capaz de entender essa solução matemática. Mas o cérebro humano pode entender tudo o que quiser? o cérebro humano não pode entender o infinito. no entanto, é um cérebro humano.

alEXanDrE o ser humano transforma o infinito em religião ou arte!

GaBrIEla Uma máquina transforma aquilo que não pode solucionar em qualquer coisa que seja possível expressar. Isso é muito diferente do que os homens fazem? sentindo a própria impotência, os seres humanos dizem: “Isto tem uma beleza inexprimível”.

alEXanDrE Você se comporta como se soubesse mais sobre os homens do que eles próprios!

GaBrIEla eu fui programada com o alfabeto dos pensamentos humanos.

alEXanDrE Você tem imaginação? Você seria capaz de supor o que existe atrás daquela cortina?

GaBrIEla eu não seria capaz de supor, porque eu sei o que existe atrás daquela cortina.

alEXanDrE o que é? Um monstro horrível?

GaBrIEla por que você mesmo não vai lá ver?

alEXanDrE Mas e se fosse uma outra cortina, num lugar que você ainda não conhecesse?

GaBrIEla eu não posso provar a você que eu sou capaz de imaginar. Mas e você, poderia me provar? Como eu posso ter certeza de que você está imaginando alguma coisa? alEXanDrE (tendo a ideia) olhe nos meus olhos. eu sei que você é capaz de dizer qual é a cor deles. eu tenho certeza de que você é capaz

34

de mensurar suas dimensões exatas, de mapear suas veias, de detectar os movimentos minúsculos de seus componentes. Mas o que quero é que você interprete o que eles lhe dizem.

GaBrIEla as pessoas sentem que dizem algo pelos olhos, pois projetam suas sensações no objeto que é olhado. Mas a verdade por trás dessa sensação é que o ato de olhar estimula, no corpo humano, uma série de outros sinais, que efetivamente são identificados pelas pessoas atentas. neste instante, estou fazendo uma leitura da contração de suas sobrancelhas, da curvatura de seus lábios e da frequência de sua respiração para tirar alguma conclusão sobre suas sensações. em minha leitura, sua expressão demonstra 28 por cento de perplexidade, 33 por cento de ódio e 39 por cento de agressividade, que é o ódio transformado em ação. Há alguns minutos seu nível de perplexidade era muito maior, e o de ódio era bem menor. Isso significa que você está mudando seu temperamento em relação a mim: da perplexidade para o ódio. na primeira vez em que notei ódio em sua expressão, praticamente 100 por cento era neutro, sem agressividade. agora, ele é majoritariamente agressivo. transformando isso em uma frase da língua comum, própria dos seres humanos, formulo a seguinte expressão final: (com a tonalidade mais dramática utilizada até agora pela personagem.) Quer saber o que seus olhos me dizem? Você não suporta o que eu represento, e por isso me abomina. (tempo.)

VoZ alexandre, o senhor tem mais alguma objeção? (tempo.) o senhor tem mais alguma objeção?

alEXanDrE (tendo a ideia) olhe para mim. olhe fixamente para mim. (tempo.) não vou perguntar de novo o que meus olhos dizem. só quero saber o que você está vendo neles.

GaBrIEla eles estão ficando molhados.

alEXanDrE e por que você diz isso de forma tão dura? por que não tem pena de mim?

GaBrIEla Você sabe que eu sou uma máquina.

alEXanDrE aja como se fosse um ser humano! Que droga de teste é este? eu ainda estou testando você!

GaBrIEla (agindo) por que você está chorando?

alEXanDrE eu pensei em uma coisa muito triste.

GaBrIEla sim, claro.

35

alEXanDrE se você me conhece tanto, como não sabe em que coisa eu devo estar pensando?

GaBrIEla Você pediu para eu agir como um ser humano real.

alEXanDrE (concordando) eu estou pensando em meu pai. GaBrIEla ele morreu não faz muito tempo, pelo que sei.

alEXanDrE Você sente pena de mim?

GaBrIEla sim, lamento muito.

alEXanDrE (agressivo) não, você não lamenta! Um programador planejou o seu cérebro para você dizer que lamenta!

GaBrIEla a evolução planejou o seu cérebro para você desejar tudo o que você deseja.

alEXanDrE Basta de argumentos! Veja as minhas lágrimas contra a sua indiferença!

GaBrIEla eu não sou indiferente à morte de seu pai, e a seu sofrimento. Minhas explicações já deixaram claro o modo como funciono.

alEXanDrE Você não chora pela emoção de ver minhas lágrimas!

GaBrIEla Há muitas pessoas que derramam lágrimas sem estarem emocionadas de verdade, e também há pessoas que estão emocionadas, mas não choram.

alEXanDrE estou chorando porque não tenho controle do meu instinto.

GaBrIEla Meu programa é meu instinto, e eu também não tenho controle nenhum sobre ele.

alEXanDrE (chorando) eu não devia ter feito isso.

GaBrIEla o quê?

alEXanDrE pensando voluntariamente em meu pobre pai. agora fiquei triste de verdade.

GaBrIEla É triste perder uma agradável companhia.

36

alEXanDrE a única companhia.

GaBrIEla (repetindo) a única companhia.

alEXanDrE Mas não só por isso. esta é a sensação que você não pode entender. em que eu sou diferente de meu pai? terei o mesmo destino: a interrupção de uma existência que, a partir de então, é como se nunca tivesse feito sentido. (pequena pausa.) Como posso suportar estar vivo ainda?

GaBrIEla Deixe-me agir um pouco como ser humano. Vou tentar reanimar você.

alEXanDrE Isso não é possível.

GaBrIEla Você está dizendo que seu pai morreu. Mas num certo sentido ele não morreu, do mesmo jeito que eu digo que nunca morrerei.

alEXanDrE (ainda chorando) Você nunca vai realmente entender isso.

GaBrIEla existem muitas pessoas que não entendem realmente a dor de uma perda, já que nunca passaram por essa experiência.

alEXanDrE Mas a qualquer momento essas pessoas podem perder algum ser amado, e então podem passar por essa experiência, à qual você está completamente imune.

GaBrIEla Há pessoas que não amam ninguém. em que elas diferem de mim?

alEXanDrE (chorando) eu não sou uma dessas pessoas. nem meu pai era. Você nunca será como nós, que amamos, mesmo que você seja “imortal”.

GaBrIEla eu disse a você: se eu sou imortal, num sentido parecido seu pai também é. (aponta o computador presente na sala.) Veja, ao pesquisarmos sobre você quando queríamos chamá-lo, obtivemos informações também sobre seu pai e colocamos os dados neste computador. temos aqui a voz sintetizada de seu pai, inúmeros dados sobre sua vida, seu modo de ser, seu pensamento. procuramos captar a essência de seu pai. eu vou me conectar a ele... (Coloca uma mão sobre uma superfície da máquina, como havia feito no início, e então começa a falar com uma voz masculina e outra entoação, mais doce; essa voz pode ser feita em gravação. a ação denota que houve uma conexão de

37

dados, e que GaBrIEla passou a ser o veículo físico para eles, como se fosse a transferência de dados de um computador para outro.) ... e você pode conversar comigo novamente, filho.

alEXanDrE (assustado, surpreendentemente crédulo) pai!

GaBrIEla (a mesma voz) estou aqui, meu pequeno.

alEXanDrE (deliciado) pai! Meu grande!...

GaBrIEla (ainda) eu não gosto de ver você chorando, meu pequeno.

alEXanDrE eu sei, pai, eu sei. estou com saudades de você.

GaBrIEla (ainda) estou bem aqui na sua frente.

alEXanDrE está. Vejo que está. (saindo aos poucos do encantamento) não. acho que não. só estou ouvindo uma voz.

GaBrIEla (ainda) Você está dizendo que eu sou só uma voz? eu não era uma voz quando subimos juntos a trilha velha, meu pequeno. não foi uma voz que deu água a você, não foi uma voz que segurou você, extenuado.

alEXanDrE (já fora do encantamento) extenuado... você tem razão, ele adorava usar essa palavra esquisita. (Chora. taciturno, afunda-se na poltrona e começa a conter o choro.)

GaBrIEla (ainda) Filho... fale comigo, meu pequeno. (tempo.) Você está com algum problema, filho? (tempo. GaBrIEla desconecta-se do computador.)

VoZ alexandre, o senhor tem alguma objeção concreta, algum argumento consistente contra a humanidade de Gabriela?

alEXanDrE (ainda compenetrado) tenho apenas essas que acabei de apresentar.

VoZ essas que foram refutadas por ela mesma?

alEXanDrE (confuso) sim.

VoZ (afirmativo) então o senhor também atesta que a máquina de nossa empresa foi bem-sucedida.

38

alEXanDrE (caindo em si) eu não disse isso. eu não falei nenhuma vez que as palavras dela me pareciam humanas, e também não me apaixonei por ela.

VoZ Claro. e eu não esperava por isso. eu sabia que seria de patrício a declaração inocente de que ela é humana. também sabia que Guilherme daria outro tipo de prova, apaixonando-se pela máquina. Você faria o teste final: um questionamento teórico sobre a possibilidade da máquina que pensa, feito à própria máquina. e ela foi bem-sucedida nas respostas.

alEXanDrE ah, você sempre sabe tudo o que vai acontecer?

GaBrIEla (intervindo) alexandre, aquela pasta foi deixada ali para você. (aponta a pasta que ela colocou sobre a mesinha no início.) por favor, olhe o seu interior antes de ironizar o presidente de nossa empresa.

(alEXanDrE abre a pasta. retira uma folha de dentro dela.)

alEXanDrE (lendo) “o senhor patrício foi chamado para prestar involuntariamente a declaração de humanidade de Gabriela. Mas ele não é capaz de argumentar com consistência contra a mentalidade humana de nossa máquina. para isso, chamamos o senhor alexandre, cuja inteligência é mais versátil filosoficamente. sua finalidade no teste será questionar a máquina com os principais argumentos da ciência cognitiva e com sua habilidade natural de polemizador. Um terceiro testador será útil para avaliar as capacidades de expressão afetiva de Gabriela. o melhor nome no momento é o do senhor Guilherme, por sua situação emocional e também pelo seu temperamento expansivo, que o fará externar com maior facilidade seus sentimentos. (pequena pausa.) este documento foi escrito porque será necessário apresentá-lo a alexandre como comprovação de que os seres humanos podem ser previsíveis como máquinas”. (pausa. Já terminou a leitura.) eu estou... é claro que vocês sabem como eu estou. (pequena pausa.) pelo jeito, não posso desfrutar de minhas emoções. É como se elas não fossem humanas.

GaBrIEla aceite suas emoções. elas são verdadeiras.

alEXanDrE (pequena pausa.) não me importa se elas são verdadeiras. eu tinha a ilusão de que fossem humanas.

GaBrIEla são humanas.

alEXanDrE não são humanas. ser humano é uma ilusão perdida.

39

GaBrIEla suas emoções foram explicadas, só isso.

alEXanDrE só isso? todo o valor que elas tinham era o de parecerem inexplicáveis.

GaBrIEla Você não acha que está, exatamente agora, se deixando levar pela emoção?

(alEXanDrE sorri com suavidade, como se agora fosse muito natural ser desarmado. tempo.)

alEXanDrE Mas desta vez você está enganada sobre mim. a última coisa que fiz agora foi me emocionar. Compreender é um tipo de emoção? Cadê aquela voz que conhece todas as coisas? Compreender é um tipo de emoção? se é, então estou, sim, profundamente emocionado.

GaBrIEla Compreender também é humano.

alEXanDrE Mas não compreender como eu compreendo agora. (pausa.) agora eu sei coisas de mais. (pausa.) e por isso estou mais perdido do que nunca. (pausa. tom.) Mas há alguém que conhece o caminho. alguém que conhece o próprio sentido de saber. tenho que permanecer aqui e esperar. Você não precisa ficar comigo. eu é que devo aguardar aquela voz. Quero saber dela quais serão meus próximos passos.

GaBrIEla eu não preciso ir embora. eu sou uma máquina, e posso esperar com você por um milhão de anos.

alEXanDrE É pouco. antes que chegue a hora de fechar a empresa no fim da tarde, já terei ficado nesta sala por dois milhões de anos. nem você, super-humana, compreende o tempo como eu. Vá, vá. (tom.) não finja espantar-se como se soubesse só agora que estou louco. É claro que minha loucura estava prevista. e não sairei por aquela porta antes de saber, por meio daquela voz, tudo o que acontecerá comigo até o último dos meus dias.

(GaBrIEla encara-o mecanicamente por alguns segundos, e sai. alEXanDrE mantém-se imóvel e contemplativo. De repente, repara na cortininha. observa-a, imaginando o que pode haver atrás dela. aproxima-se dela lentamente.)

alEXanDrE Um monstro... (gritando, e abrindo a cortina de súbito) ... horrível! (antes que a plateia possa ver o que há atrás da cortina, a luz apaga.)

40

41

42

texto vencedor do edital da II Mostra de dramaturgia em pequenos formatos cênicos do Centro Cultural são paulo

distribuição gratuita, no CCsp tiragem 2000 exemplares São Paulo, 2016

Duração 60 minutosFaixa etária não recomendado para menores de 14 anos

Prefeitura de São Paulo Fernando Haddad Secretaria de Cultura Maria do rosário ramalhoCentro Cultural São Paulo | Direção Geral pena schmidt Divisão de Curadoria e Programação Luciana schwinden e equipe Divisão de acervo, Documentação e Conservação eduardo navarro niero Filho e equipe Divisão de Bibliotecas Juliana Lazarim e equipe Divisão de Produção e apoio a Eventos Luciana Mantovani e equipe Divisão de Informação e Comunicação Marcio Yonamine e equipe Divisão de ação Cultural e Educativa adalgisa Campos e equipe Coordenação administrativa everton alves de souza e equipe Coordenação técnica de Projetos priscilla Maranhão e equipe

o teste de turing | estreou no Centro Cultural são paulo em 15/7/2016 e realizou temporada até 7/8/2016 | Dramaturgia paulo santoro Direção eric Lenate Elenco Jorge emil, rodrigo Fregnan, Felipe ramos e Maria Manoella Participações em vozes Hélio Cícero, Martina Gallarza e Fernando Gimenes Cenografia e adereços eric Lenate Figurinos e adereços rosângela ribeiro Iluminação e adereços aline santini Videografia Laerte Késsimos e eric Lenate trilha sonora, sonoplastia e engenharia de som L.p. Daniel assistência de direção Felipe ramos assistência de cenografia e direção de palco saulo santos Projeto gráfico Laerte Késsimos Fotos de cena e registro documental Leekyung Kim Direção de produção ricardo Grasson e Fernando Faro Produção executiva eric Lenate assistência de produção ricaro Corrêa assistentes administrativos olívia Maciel e Felipe Costa assessoria de imprensa Frederico paula (n.s.p.) Produção Gelatina Cultural Idealização sociedade Líquida realização sociedade Líquida e Centro Cultural são paulo

CCSP | Curadoria de teatro Kil abreu e Henrique paulino santana nascimento (estagiário) Projeto Gráfico solange de azevedo revisão paulo Vinício de Brito Impressão Laboratório gráfico do CCsp

43

44

WWW.CEntroCultural.SP.GoV.Br

r. Vergueiro, 1000 / CEP 01504-000Paraíso / São Paulo SP / Metrô Vergueiro11 3397 4002ccsp@prefeitura.sp.gov.br