interfaces assistivas: fazendo arte com os olhos e...

15
INTERFACES ASSISTIVAS: FAZENDO ARTE COM OS OLHOS E ONDAS CEREBRAIS Rosangella Leote / UNESP Hosana Celeste Oliveira / UNESP RESUMO As tecnologias de código aberto têm permitido uma proliferação de interfaces de baixo custo e alta socialização, voltadas a inúmeras finalidades. Nosso grupo de pesquisa, o GIIP/IA/UNESP, criou uma linha dedicada a experimentação com esse tipo de tecnologia, mas com enfoque nas interfaces assistivas (físicas e digitais), visando a produção artística e o ensino de artes. Alguns protótipos têm sido projetados e desenvolvidos por nós, tais como: (i) o ARTIA.V; (ii) o ARTIA.C; (iii) o TECLAUT, (iv) e o “Kit Facilita. Este texto vem apresentar os resultados de nosso trabalho e envolve a fase que precedeu a produção dos quatro protótipos, o desenvolvimento dos mesmos e apresenta um exemplo de aplicação do ARTIA.V na dança, apoiado no projeto em processo do espetáculo “ARTIA.V Dancing with the eyes”. PALAVRAS-CHAVE Interfaces assistivas; multissensorialidade; neurociência; percepção; tecnologia aberta. ABSTRACT Open source technologies have allowed a proliferation of low-cost and high socialization interfaces for a variety of purposes. Our research group GIIP (UNESP, São Paulo, Brazil) has created a research line to explore this type of technology, but focusing on the creation and /development of physical and digital assistive interfaces, aiming at artistic practices and art teaching. Some prototypes have been designed and developed by us, such as: (i) ARTIA.V); (ii) ARTIA.C; (iii) TECLAUT and (iv) and Kit Facilita, which triggers phrases and tags in the environment by using eye tracking. This paper presents some partial results of our research on assistive interfaces and describes the four mentioned prototypes that are work in progress. In addition to that, we show an application for ARTIA.V, a dance performance in process named "ARTIA.V - Dancing with the Eyes ". KEYWORDS Assistive interfaces; multisensoriality; neuroscience; open source; perception.

Upload: others

Post on 22-Jul-2020

4 views

Category:

Documents


0 download

TRANSCRIPT

Page 1: INTERFACES ASSISTIVAS: FAZENDO ARTE COM OS OLHOS E …anpap.org.br/anais/2017/PDF/S07/26encontro... · microcontroladores como o Arduino, além de componentes analógicos em desuso

INTERFACES ASSISTIVAS: FAZENDO ARTE COM OS OLHOS E ONDAS CEREBRAIS

Rosangella Leote / UNESP

Hosana Celeste Oliveira / UNESP

RESUMO As tecnologias de código aberto têm permitido uma proliferação de interfaces de baixo custo e alta socialização, voltadas a inúmeras finalidades. Nosso grupo de pesquisa, o GIIP/IA/UNESP, criou uma linha dedicada a experimentação com esse tipo de tecnologia, mas com enfoque nas interfaces assistivas (físicas e digitais), visando a produção artística e o ensino de artes. Alguns protótipos têm sido projetados e desenvolvidos por nós, tais como: (i) o ARTIA.V; (ii) o ARTIA.C; (iii) o TECLAUT, (iv) e o “Kit Facilita”. Este texto vem apresentar os resultados de nosso trabalho e envolve a fase que precedeu a produção dos quatro protótipos, o desenvolvimento dos mesmos e apresenta um exemplo de aplicação do ARTIA.V na dança, apoiado no projeto em processo do espetáculo “ARTIA.V – Dancing with the eyes”. PALAVRAS-CHAVE Interfaces assistivas; multissensorialidade; neurociência; percepção; tecnologia aberta. ABSTRACT Open source technologies have allowed a proliferation of low-cost and high socialization interfaces for a variety of purposes. Our research group GIIP (UNESP, São Paulo, Brazil) has created a research line to explore this type of technology, but focusing on the creation and /development of physical and digital assistive interfaces, aiming at artistic practices and art teaching. Some prototypes have been designed and developed by us, such as: (i) ARTIA.V); (ii) ARTIA.C; (iii) TECLAUT and (iv) and Kit Facilita, which triggers phrases and tags in the environment by using eye tracking. This paper presents some partial results of our research on assistive interfaces and describes the four mentioned prototypes that are work in progress. In addition to that, we show an application for ARTIA.V, a dance performance in process named "ARTIA.V - Dancing with the Eyes ". KEYWORDS Assistive interfaces; multisensoriality; neuroscience; open source; perception.

Page 2: INTERFACES ASSISTIVAS: FAZENDO ARTE COM OS OLHOS E …anpap.org.br/anais/2017/PDF/S07/26encontro... · microcontroladores como o Arduino, além de componentes analógicos em desuso

LEOTE, Rosangella; OLIVEIRA, Hosana Celeste. Interfaces assistivas: fazendo arte com os olhos e ondas cerebrais., In Encontro da Associação Nacional de Pesquisadores em Artes Plásticas, 26o, 2017, Campinas. Anais do 26o Encontro da Anpap. Campinas: Pontifícia Universidade Católica de Campinas, 2017. p.2987-2987.

2976

1. Introdução

As tecnologias de código aberto têm ampliado o acesso de pessoas de diversas

esferas sociais à computação. Por isso, aqueles que anteriormente não

manifestavam interesse em tecnologias computacionais passaram a criar

dispositivos inusitados com inúmeras aplicações práticas ou finalidades poéticas.

Muitos artistas artistas têm se apropriado das tecnologias de código aberto, como é

o nosso caso, que trabalhamos dentro de um instituto de artes.

Dentro desse contexto de práticas com tecnologia computacional, o grupo de

investigação sobre Convergências entre Arte, Ciência e Tecnologia (GIIP)1, do qual

somos integrantes, tem uma linha de pesquisa para o estudo, experimentação e

design de dispositivos com enfoque nas tecnologias assistivas, visando a produção

artística e o ensino de artes. A linha de pesquisa é a de "Interfaces assistivas para

as artes: Da difusão à inclusão"2.

O modelo de trabalho da linha de pesquisa supracitada é o desenvolvimento de

protótipos de baixo custo, a partir de retroengenharia e customização de tecnologias,

usando programação de códigos abertos, como o Pure Data3 e o Processing4, e

microcontroladores como o Arduino, além de componentes analógicos em desuso.

Em um primeiro momento, visamos projetar e desenvolver interfaces assistivas de

baixo custo e acesso livre, incluindo hardware e software, para permitir e/ou ampliar

a comunicação, produção de arte e arte-educação de pessoas com deficiência

múltipla (quadriplegia, limitação de movimentos rotacionais da cabeça e de

capacidade de fala). Posteriormente, pretende-se ampliar as funcionalidades nos

dispositivos produzidos, a serem localizadas no processo da pesquisa, para atender

indivíduos com outras necessidades especiais.

O processo criativo das nossas interfaces foi inspirado nas dificuldades existentes

para a aplicação do ensino de artes, vivenciado pela Dra. Ana Amália Tavares

Bastos Barbosa, que foi a primeira quadriplégica a obter o grau de doutora no

Brasil. Ela também é artista e integrante do GIIP e acaba de concluir o seu Pós-

doutorado estudando arte-educação com nossas interfaces 5 , tanto quanto, se

prestando ao nosso estudo, sobre o seu caso, dentro do projeto aqui discutido.

Page 3: INTERFACES ASSISTIVAS: FAZENDO ARTE COM OS OLHOS E …anpap.org.br/anais/2017/PDF/S07/26encontro... · microcontroladores como o Arduino, além de componentes analógicos em desuso

LEOTE, Rosangella; OLIVEIRA, Hosana Celeste. Interfaces assistivas: fazendo arte com os olhos e ondas cerebrais., In Encontro da Associação Nacional de Pesquisadores em Artes Plásticas, 26o, 2017, Campinas. Anais do 26o Encontro da Anpap. Campinas: Pontifícia Universidade Católica de Campinas, 2017. p.2987-2987.

2977

Este artigo traz resultados parciais da linha de pesquisa "Interfaces assistivas para

as artes: Da difusão à inclusão", executados por parceiros nacionais e

internacionais, via acordos de intercâmbio6. Apresentamos o estado atual de quatro

interfaces que estamos desenvolvendo e um projeto utilizando uma dessas

interfaces para uma atividade artística, o espetáculo “ARTIA.V: Dancing with the

eyes”.

A justificativa para a divulgação dos resultados parciais de nossa investigação são

os seus pontos fortes, que tratam de inclusão social (tecnologia acessível, aberta e

open source), inovação tecnológica e exploração de novas formas de comunicação

assistiva, enfatizando-se o baixo custo.

Não há razão lógica para que pessoas com dificuldades de relacionamento com o

campo social mais geral, por conta de impedimentos físicos, devam ficar à parte do

desenvolvimento tecnológico acessível e dependendo da distribuição de tecnologias

assistivas feitas, exclusivamente, pelos grandes laboratórios de pesquisa e pelas

grandes corporações, enfocadas apenas no lucro, visando o mínimo de distribuição

e o máximo de aquisição.

Sendo assim, intentamos possibilitar para a sociedade o acesso amplo aos modelos

de interfaces que forem desenvolvidas em nosso trabalho, permitindo maior

valorização dos artistas com limitações físicas, tanto quanto auxiliar no

desenvolvimento cognitivo de pessoas de várias idades, através da arte e seu

aprendizado, além de outros usos de comunicação especial, que possam ser

conduzidos ou descobertos pelos usuários.

Nosso trabalho com interfaces assistivas começa em 2011, quando demos os

primeiros passos para criar e desenvolver o Kit Facilita, em conjunto com os

parceiros de Barcelona, sob coordenação do Dr. Efrain Foglia (UB). O Kit Facilita é

uma interface de rastreio ocular, o qual utiliza a linguagem Pure Data (open-source)

e PupilDV (tecnologia aberta), que permite ao tetraplégico comandar o computador

apenas com os olhos e estímulos distribuídos no ambiente (tags).

Sendo o Kit Facilita um trabalho de equipe, mas fracionado entre especificidades de

assuntos, aproveitamos a pesquisa de pós-doutorado da Dra. Ana Amália Tavares

Bastos Barbosa, que lida com arte-eduçação, para testarmos o dispositivo e

Page 4: INTERFACES ASSISTIVAS: FAZENDO ARTE COM OS OLHOS E …anpap.org.br/anais/2017/PDF/S07/26encontro... · microcontroladores como o Arduino, além de componentes analógicos em desuso

LEOTE, Rosangella; OLIVEIRA, Hosana Celeste. Interfaces assistivas: fazendo arte com os olhos e ondas cerebrais., In Encontro da Associação Nacional de Pesquisadores em Artes Plásticas, 26o, 2017, Campinas. Anais do 26o Encontro da Anpap. Campinas: Pontifícia Universidade Católica de Campinas, 2017. p.2987-2987.

2978

adequarmos o seu design. A Dra. Ana Amália Tavares Bastos Barbosa ensina e

estuda metodologias de ensino de arte, para público com paralisia cerebral, a partir

da abordagem de Elliot Eisner (2002) e conceitos de Jonh Dewey (1980).

Deixamos a disposição da Dra. Ana Amália Tavares Bastos Barbosa os nossos

protótipos para que eles fossem utilizados em suas aulas, tendo em vista dois

objetivos: avaliar as potencialidades artísticas e poéticas dos mesmos e estudar a

criação de novas metodologias de ensino com os mesmos dispositivos.

Embora neste artigo não entremos em aprofundamentos teóricos, citamos que o

embasamento geral desta investigação é feito a partir de fundamentos das teorias

dos sistemas complexos e suas aproximações (BERTALANFFY: 2008; KAUFFMAN:

1993, 1995, 1998, 2000; VARELA: 2000; MATURANA & VARELA: 1997, 2003;

VIEIRA: 2006 e 2008); dos os conceitos trazidos das neurociências (DAMÁSIO:

1986, 2000, 2004, 2011; FIORI: 2008; DENNET: 1993; RAMACHANDRAN &

BLAKESLEE: 2012; SACKS: 1995, 1998, 1999; PRIBRAM, 1991; 2013); de estudos

sobre a percepção, com aportes das ciências cognitivas (CHATTERJEE: 2004;

LIVINGSTONE: 2002).

O trabalho com as interfaces assistivas adota diferentes abordagens em nosso

projeto, mas têm um tronco comum de posicionamento que se apoia em questões

técnicas de tecnologias assistivas pautados na realidade brasileira (SASSAKI, 2007;

BOBATH, 1989; GABRILLI, s/d; FRAZÃO, 2004; BERSCH, 2013, 2014) e nos

documentos legais das associações sem fins lucrativos e do Governo Federal

Brasileiro. Sobre as metodologias educacionais e modelo de pesquisa-ação nesse

contexto, utilizamos Eisner (2002) e Dewey (1980).

2. As tecnologias de código aberto e de baixo custo

Seguindo nossa estratégia de retroengenharia e customização de tecnologias

existentes, ou abertas, fizemos o levantamento de vários equipamentos disponíveis

no mercado. Elegemos o OpenBCI7 e o Pupil Dev8 para iniciar o trabalho. Ambos

foram customizados para o objetivo do projeto, para testar hipóteses, tanto quanto,

desvendar caminhos criativos.

Page 5: INTERFACES ASSISTIVAS: FAZENDO ARTE COM OS OLHOS E …anpap.org.br/anais/2017/PDF/S07/26encontro... · microcontroladores como o Arduino, além de componentes analógicos em desuso

LEOTE, Rosangella; OLIVEIRA, Hosana Celeste. Interfaces assistivas: fazendo arte com os olhos e ondas cerebrais., In Encontro da Associação Nacional de Pesquisadores em Artes Plásticas, 26o, 2017, Campinas. Anais do 26o Encontro da Anpap. Campinas: Pontifícia Universidade Católica de Campinas, 2017. p.2987-2987.

2979

No momento temos um protótipo desenvolvido, o Kit Facilita9, e outros três em

desenvolvimento: o ARTIA.V, o ARTIA.C e o TECLAUT. No conjunto, os resultados

obtidos até o momento são os que se seguem.

3. Primeiras Experiências: Kit Facilita e Neurosensores

Desenvolvemos, primeiramente, o Kit Facilita. Essa etapa foi realizada na Espanha,

com a direção do Dr. Efrain Foglia. Elegemos outro equipamento, o OpenBCI, para a

etapa seguinte feita no Brasil (UNESP e UNICAMP), pois ele tem a tecnologia de

hardware e software abertas, tanto quanto compatibilidade com a linguagem de

programação Processing 10 , que estamos utilizando atualmente na pesquisa. As

funções existentes no OpenBCI são aberta, assim temos maior liberdade para a

customização e invenção. Com esse neurosensor definido, esperamos, em breve,

ter materializada uma interface baseada no OpenBCI para ser usada em

espetáculos de dança, teatro ou música.

A partir daqui, apresentaremos resultados das interfaces com rastreamento ocular,

leitura de ondas cerebrais e acionamento mecânico, com as quais obtivemos

resultados significativos no contexto do nosso trabalho.

4. Protótipos realizados

4.1. Kit Facilita (Movimento ocular)

Fizemos o Kit Facilita, com a adaptação de um leitor de pupilas, para fazer a

comunicação com o ambiente, permitindo que a pessoa pudesse acionar, fora do

computador, dispositivos e frases padrão de comunicação.

Durante o desenvolvimento do protótipo aconteceu uma aceleração nas tecnologias

de rastreamento de olhos disponíveis no mercado. Assim, nos pareceu que a

engenharia reversa e a customização de interfaces já disponíveis nos permitiria

realizar o trabalho mais rapidamente, além de não fazer sentido desenvolvermos um

similar a uma solução existente, pois, nossa meta não é o mercado.

O dispositivo se mostrou muito eficiente na operação com propagação sonora. O

que permite ao usuário combinar sons, e até produzir música a partir de células

gravadas de sequências musicais, ou comunicar-se com frases simples, como, por

exemplo, "estou com fome", "estou com sede", "estou com sono", "sim", "não" etc.,

facilitando o cotidiano do usuário. Sua qualidade hoje é a de fazer soar arquivos que

Page 6: INTERFACES ASSISTIVAS: FAZENDO ARTE COM OS OLHOS E …anpap.org.br/anais/2017/PDF/S07/26encontro... · microcontroladores como o Arduino, além de componentes analógicos em desuso

LEOTE, Rosangella; OLIVEIRA, Hosana Celeste. Interfaces assistivas: fazendo arte com os olhos e ondas cerebrais., In Encontro da Associação Nacional de Pesquisadores em Artes Plásticas, 26o, 2017, Campinas. Anais do 26o Encontro da Anpap. Campinas: Pontifícia Universidade Católica de Campinas, 2017. p.2987-2987.

2980

estão no computador, a partir de inputs que estão fora, com o uso de marcadores

que se distribui pelo ambiente.

Para a etapa de testes que se seguiu (veja figura 1), nosso engenheiro de sistemas,

Daniel Paz, utilizou o hardware Pupil Dev com programação Processing. Alguns

testes, com tais hardware e software, foram feitos também por Renato Hildebrand.

Figura 1. O artista OMITIDO, na Fundação LIGA, durante os testes em Lisboa (2015).

Os testes com o Kit Facilita mostraram plausibilidade de sucesso para realizarmos

um novo protótipo, o ARTIA.V, que será abordado mais adiante, neste texto.

Preparamos o escalonamento de funções do Kit Facilita para além daquelas que

hoje ele é capaz.

4.2. TECLAUT11 (Interface analógica)

O TECLAUT segue um propósito diverso que é o acoplamento entre tecnologias

mais antigas com as mais contemporâneas utilizando objetos e componentes em

desuso, por reaproveitamento e recaracterização.

Trata-se de uma interface adaptável para comunicação especial aplicável ao uso de

softwares que utilizem inputs individuais, a partir de mouse ou teclado. É do tipo

atuador analógico, customizável para diversas deficiências severas como paralisia

cerebral e síndrome de locked in.

No momento, o TECLAUT funciona analogicamente através de um teclado, para o

uso do software ACAT12 (Intel), que agora tem código aberto. Com a disponibilização

do código aberto do software ACAT, desenvolvido para o uso de Stephen W.

Page 7: INTERFACES ASSISTIVAS: FAZENDO ARTE COM OS OLHOS E …anpap.org.br/anais/2017/PDF/S07/26encontro... · microcontroladores como o Arduino, além de componentes analógicos em desuso

LEOTE, Rosangella; OLIVEIRA, Hosana Celeste. Interfaces assistivas: fazendo arte com os olhos e ondas cerebrais., In Encontro da Associação Nacional de Pesquisadores em Artes Plásticas, 26o, 2017, Campinas. Anais do 26o Encontro da Anpap. Campinas: Pontifícia Universidade Católica de Campinas, 2017. p.2987-2987.

2981

Hawking, percebemos que meus colegas deficientes, que estão envolvidos com

nossa pesquisa do GIIP, não conseguiam utilizá-lo. Encontramos uma solução que

foi levar o funcionamento de uma tecla (teclado comum) para fora do computador e

colocá-la em contato com qualquer parte do corpo de um deficiente, que possa ter

movimento.

O modelo atual do ACAT permite navegar na internet, abrir arquivos de fotos e editar

arquivos de texto, além de reproduzir o texto escrito com voz e auto-completar

palavras a partir de duas letras. Estamos usando uma versão em português. Dessa

forma, a principal aplicabilidade do TECLAUT é a de comunicação especial,

podendo ser usado nas atividades de classe para aprendizados, inclusive de arte.

Por enquanto, a única produção artística que vislumbramos com o seu uso é a

literária.

5. Protótipos em desenvolvimento: Projeto ARTIA.V e ARTIA.C

5.1. ARTIA.V

Figura 2. Esquema de funcionamento do “ARTIA.V”, para artes cênicas e musicais. Primeira etapa do protótipo com traqueamento ocular.

Page 8: INTERFACES ASSISTIVAS: FAZENDO ARTE COM OS OLHOS E …anpap.org.br/anais/2017/PDF/S07/26encontro... · microcontroladores como o Arduino, além de componentes analógicos em desuso

LEOTE, Rosangella; OLIVEIRA, Hosana Celeste. Interfaces assistivas: fazendo arte com os olhos e ondas cerebrais., In Encontro da Associação Nacional de Pesquisadores em Artes Plásticas, 26o, 2017, Campinas. Anais do 26o Encontro da Anpap. Campinas: Pontifícia Universidade Católica de Campinas, 2017. p.2987-2987.

2982

Figura 3. Esquema de funcionamento do ARTIA.V para artes visuais.

Segunda etapa do protótipo com traqueamento ocular.

Ele prevê que o artista com deficiência motora severa possa, através do olhar,

realizar obras plásticas, cênicas e musicais (Figuras 2 e 3). Além disso, é possível

permitir comunicação escrita e falada, por banco de sons. Aplicado as artes visuais,

torna-se possível desenhar (2D e 3D), pintar (no computador), esculpir (através de

impressão 3D) e fotografar.

Nas artes cênicas ele poderá atuar em palco com voz, como ator; com bailarinos

como parte do corpo de baile; com a cenografia fazendo projetar imagens; com a

trilha sonora, disparando áudios e outros eventos mais. Na música será possível

compor, em tempo real, trilhas e peças, baseadas em arquivos de áudio com

sonoridades predeterminadas para a composição.

O dispositivo ocular é feito com adaptação do conjunto de duas

microcâmeras, acopladas na armação de óculos, com design exclusivo ou de

mercado, com baixo custo, administradas por uma programação na linguagem

Processing, através de um computador portátil.

5.2. ARTIA.C

Page 9: INTERFACES ASSISTIVAS: FAZENDO ARTE COM OS OLHOS E …anpap.org.br/anais/2017/PDF/S07/26encontro... · microcontroladores como o Arduino, além de componentes analógicos em desuso

LEOTE, Rosangella; OLIVEIRA, Hosana Celeste. Interfaces assistivas: fazendo arte com os olhos e ondas cerebrais., In Encontro da Associação Nacional de Pesquisadores em Artes Plásticas, 26o, 2017, Campinas. Anais do 26o Encontro da Anpap. Campinas: Pontifícia Universidade Católica de Campinas, 2017. p.2987-2987.

2983

Figura 4. Esquema de funcionamento do ARTIA.C para um espetáculo de dança.

O ARTIA.C deverá funcionar com leitura de ondas cerebrais na atuação de sons

(música e voz) e imagens (fixas e em movimento), provocada pelo artista com

deficiência motora e vocal (Figura 4) mas, também, por pessoas sem tais

dificuldades. Para isso, os dados cerebrais seriam convertidos, por exemplo, em

outputs sonoros e visuais no espaço de um palco, mas, também, diversos outros

outputs poderiam ser agregados.

Por enquanto, o OpenBCI, que é o equipamento de EEG13 mais acessível que

encontramos, em termos de custo e possibilidade de customização, sendo mais

compatível com os interesses sociais de nosso projeto.

6. Espetáculo de dança: ARTIA.V: Dancing with the eyes

Como primeira aplicação artística do ARTIA.V preparamos a realização inédita de

uma performance de dança, nomeada ARTIA.V: Dancing with the eyes, com uma

pessoa com severa incapacidade de movimentos e de fala, e dois bailarinos.

A comunicação entre eles, tanto como a deflagração dos eventos de imagem, som e

luz, serão feitas pelo artista deficiente motor e/ou vocal, através do uso do

dispositivo ARTIA.V, que usa rastreio ocular de objetos (tags) dispostos no ambiente

do teatro. Haverão tags aplicadas na roupa dos bailarinos e no ambiente (Figuras 5

e 6). É para elas que o olhar do cadeirante se dirigirá, a fim de deflagrar a ação de

imagens e sons. Cada tag tem apenas um tipo de ação (som ou imagem), mas

podemos distribuir até 46 tags pelo espaço.

Page 10: INTERFACES ASSISTIVAS: FAZENDO ARTE COM OS OLHOS E …anpap.org.br/anais/2017/PDF/S07/26encontro... · microcontroladores como o Arduino, além de componentes analógicos em desuso

LEOTE, Rosangella; OLIVEIRA, Hosana Celeste. Interfaces assistivas: fazendo arte com os olhos e ondas cerebrais., In Encontro da Associação Nacional de Pesquisadores em Artes Plásticas, 26o, 2017, Campinas. Anais do 26o Encontro da Anpap. Campinas: Pontifícia Universidade Católica de Campinas, 2017. p.2987-2987.

2984

Figuras 5 e 6. Representação da relação entre os bailarinos, com e sem necessidades especiais. Esta representação é apenas ilustrativa, pois o figurino, palco e cenário serão desenvolvidos em

função do espaço real da apresentação14

.

O espetáculo ARTIA.V – Dancing with the eyes terá uma duração de cerca de 40

minutos, sendo que a duração final exata se estabelece conforme o ritmo das ações

realizadas, com base em uma estrutura principal de roteiro, mas gerado por

improvisos.

A maior parte das projeções de imagem, som e luz seriam determinadas pela

pessoa com as dificuldades especiais, através da utilização do dispositivo ARTIA.V.

Ao olhar para as tags, dispostas em vários lugares do palco, nos módulos do

cenário, na roupa dos bailarinos e também na plateia, os eventos se dariam,

compondo o cenário e a dramatização em tempo real.

As imagens referem-se a representação do ambiente neuronal, abordando

inferências do projeto geral de pesquisa do grupo, que se baseia na neurociência.

Os sons referem-se ao interior do corpo e suas relações com o exterior, incluindo a

“fala” do cadeirante. Ou seja, envolve processos perceptivos multissensoriais e

multimodalidades de estímulos. A coreografia15, por sua vez, envolve a cadeira de

rodas e o seu usuário refletindo estágios de círculos, tensão, parada e

representação de voo.

Page 11: INTERFACES ASSISTIVAS: FAZENDO ARTE COM OS OLHOS E …anpap.org.br/anais/2017/PDF/S07/26encontro... · microcontroladores como o Arduino, além de componentes analógicos em desuso

LEOTE, Rosangella; OLIVEIRA, Hosana Celeste. Interfaces assistivas: fazendo arte com os olhos e ondas cerebrais., In Encontro da Associação Nacional de Pesquisadores em Artes Plásticas, 26o, 2017, Campinas. Anais do 26o Encontro da Anpap. Campinas: Pontifícia Universidade Católica de Campinas, 2017. p.2987-2987.

2985

O tom geral da performance é de integração das emoções através da mente e do

olhar, entre os atuantes e deles com o espaço. A ação do cadeirante é efetiva e

significativa em cena, sem o qual o espetáculo não pode acontecer.

7. Resumo dos fundamentos da pesquisa geral

O tema da percepção, ligado à multisensorialidade e multimodalidade, é norteador

em nossa investigação e buscamos entendê-la em termos fenomenológicos,

psicológicos e neurológicos. Partimos da neurociência para encontrar um locus que

permita examinar o modo de percepção multissensorial humano, dirigido à uma

especificação em nosso campo artístico, seja com pessoas sem dificuldade de

comunicação, seja naquelas que não as possuem. Nesse sentido, procuramos

mostrar uma comparação entre diferenças e aproximações existentes entre os

distintos públicos que enfocamos para, em seguida, nos dedicar aos achados sobre

a percepção em condições de comunicação especial.

A percepção envolve estados primários de relação com a experiência sensória, não

obrigatoriamente convencionáveis em palavras, sentimentos e emoções. Aceitando

isso como válido é esperado que a multimodalidade de eventos interativos em uma

obra, ou outra situação cotidiana, crie condições para o acionamento de vários

sensores perceptivos. Cremos poder, no mínimo, simular a experiência do

acionamento de múltiplos sensores para o nosso público de enfoque.

Este trabalho fortalece nossa hipótese sobre a existência de “modos interativos”

dentro do espectro da multimodalidade, que desenvolvemos numa parte pregressa

desta pesquisa, quando ainda não tínhamos intenções de estudos sobre

assistividade. A tipificação desses modos é um dos resultados que se espera obter,

como aplicação generalizada, das interfaces que produzirmos, para variados

modelos de produção artística, comparando os distintos públicos.

Vemos a tecnologia como atratora de muitas variáveis em uma investigação, para

além de seu desenvolvimento e aplicação. Isso amplia o escopo a considerar sobre

os modos de estímulos que se colocam à disposição do interator, através de

tecnologias computacionais, como é o caso. Estamos em um processo de inovação

tecnológica, tanto direcionada à prática artística, quanto ao serviço do estudo de

como tais variáveis, que interferem na criação, podem ser entendidas e até

Page 12: INTERFACES ASSISTIVAS: FAZENDO ARTE COM OS OLHOS E …anpap.org.br/anais/2017/PDF/S07/26encontro... · microcontroladores como o Arduino, além de componentes analógicos em desuso

LEOTE, Rosangella; OLIVEIRA, Hosana Celeste. Interfaces assistivas: fazendo arte com os olhos e ondas cerebrais., In Encontro da Associação Nacional de Pesquisadores em Artes Plásticas, 26o, 2017, Campinas. Anais do 26o Encontro da Anpap. Campinas: Pontifícia Universidade Católica de Campinas, 2017. p.2987-2987.

2986

provocadas neste enfoque pouco estudado, sobre a percepção humana, em termos

de multisensorialidade, mesmo na existência de diversos bloqueios sensórios.

Em síntese, visamos promover o trabalho na transdução arte e tecnologia,

simultaneamente ao exame das qualidades sensórias, coligadas ao processo

criativo e receptivo, seja do artista ou aluno, sobre sua própria obra, seja do público

que aí é envolvido.

8. Discussões

O problema central de nosso projeto sobre interfaces assistivas é: seria possível

fazer e ensinar arte, tendo incapacidade de movimentos corpóreos e fala? Ainda

estamos em andamento com esta investigação. Alcançamos, parcialmente,

respostas para os problemas iniciais, mas nos resta resolver:

1. As pessoas que não possuem problemas de comunicação, e que usaram o Kit

Facilita, relataram dificuldades de adaptação do movimento ocular, na utilização

do mesmo, e incômodo com a existência dos óculos. Sobre os óculos, o mesmo

se dá com pessoas com necessidades especiais. Mas elas têm maior facilidade

de comando ocular. Ou seja, a usabilidade e design são questões a ser levadas

para a continuação do trabalho.

2. A Dra. Ana Amália Tavares Bastos Barbosa teve certas dificuldades no uso dos

dispositivos oculares. Aparentemente, o olho que utilizamos para a leitura tem

mais instabilidade. Assim, faremos a adaptação para o outro olho (o esquerdo).

3. Queremos mostrar que é possível a realização de interfaces assistivas, de baixo

custo e acesso livre, na natureza de dispositivos para comunicação, produção de

arte e arte-educação, beneficiando artistas, arte-educadores e a sociedade em

geral, possuidores ou não de necessidades especiais.

4. Precisamos afinar o quanto a neurociência pode colaborar no sentido de

entender e ampliar o espaço perceptivo dessas pessoas, relacionado tanto ao

desenvolver quanto o fruir obras de arte, levando em conta as largas

diversidades multisensoriais e estímulos multimodais que a arte tecnológica pode

fornecer.

Page 13: INTERFACES ASSISTIVAS: FAZENDO ARTE COM OS OLHOS E …anpap.org.br/anais/2017/PDF/S07/26encontro... · microcontroladores como o Arduino, além de componentes analógicos em desuso

LEOTE, Rosangella; OLIVEIRA, Hosana Celeste. Interfaces assistivas: fazendo arte com os olhos e ondas cerebrais., In Encontro da Associação Nacional de Pesquisadores em Artes Plásticas, 26o, 2017, Campinas. Anais do 26o Encontro da Anpap. Campinas: Pontifícia Universidade Católica de Campinas, 2017. p.2987-2987.

2987

5. Para além das pesquisas científicas, podemos mostrar que é viável, nas

condições de uma escola de arte, desenvolver e disseminar hardware de baixo

custo, com software open-source, que possibilite ao tetraplégico operar um

dispositivo tecnológico, permitindo que ele tenha maior autonomia para

comunicar-se, pintar, desenhar e esculpir, entre outras atividades criativas.

Um problema, entretanto, que não é possível contornar, ainda, que se refere ao uso

de capacetes de EEG, é a necessidade de afinação do dispositivo para cada

usuário. Numa situação controlada, como o laboratório, as respostas são mais

garantidas. Entretanto, no espaço do espetáculo, com toda a pressão psicológica

que costuma haver, para qualquer artista, não é possível garantir que os estímulos

exteriores, especialmente a plateia, não venham a comprometer a ação do usuário,

que tenha um roteiro pré-fixado rígido. Assim, qualquer trabalho que se utilize de tal

tecnologia, no estágio atual das engenharias conhecidas disponíveis, deve ser

experimental e permitir a incorporação do aleatório na atuação dos artistas. Mas o

experimental e aleatório é comumente matéria de criação, fazendo com que aquilo

que é um problema para a área científica se torne, para nós, uma porta para a

produção artística

Notas

1 Para saber mais, consultar: http://www.giip.ia.unesp.br.

2 Para mais informação, consultar: http://giip-interfaces.wixsite.com/home.

3 Sobre o Pure Data: https://puredata.info.

4 Ver: https://processing.org.

5 Tal projeto se iniciou, em 2011, por uma intenção de facilitar o trabalho de ensino de professores de arte com

dificuldades especiais. Há 14 anos Ana Amália é quadriplégica, não tendo movimentos de cabeça e nem capacidade de fala (síndrome do encarceramento). A interface que ela usou, para escrever o doutorado, era formada de um sensor adaptado que substituía o mouse e operava o computador com movimentos do queixo, intermediado por um software exclusivo feito no Hospital das Clínicas de São Paulo (Brasil), o qual ela cooperou no desenvolvimento. Nesse software, cada palavra era formada com toques individuais nas teclas, tomando muito tempo. Com base em tal problema, estudamos como tornar a tarefa de escrita mais fácil e dinâmica. 6 No Brasil, estão envolvidas a UNESP (Universidade Paulista “Júlio de Mesquita Filho”, São Paulo) e a

UNICAMP (Universidade Estadual de Campinas, Campinas). Na Espanha, a UB (Universidade de Barcelona, Barcelona) e o Mobility Lab (Barcelona). 7 Sobre o neurosensor, acessar: http://www.openbci.com.

8 Para saber mais sobre o dispositivo, acessar: http://www.pupil-labs.com.

9 Para acessar detalhes: http://www.mobilitylab.net/facilita.

10 Verificar: https://processing.org

11 A proposta foi desenvolvida pela líder do grupo, Dra. Rosangella Leote, em processo individual de

experimentação. A patente já foi requerida e o passo-a-passo da montagem do dispositivo está disponível em http://giip-interfaces.wixsite.com/home/inicio. 12

Informações: https://01.org/acat. 13

Eletroencefalografia. 14

Modelagem em 3D: Paulo Scatena. 15

O coreógrafo do espetáculo é Nigel Anderson, integrante do GIIP e pesquisador assistente da Dra. Ana Amália Barbosa. Ele é um bailarino e coreógrafo com experiência em dança envolvendo tecnologia.

Page 14: INTERFACES ASSISTIVAS: FAZENDO ARTE COM OS OLHOS E …anpap.org.br/anais/2017/PDF/S07/26encontro... · microcontroladores como o Arduino, além de componentes analógicos em desuso

LEOTE, Rosangella; OLIVEIRA, Hosana Celeste. Interfaces assistivas: fazendo arte com os olhos e ondas cerebrais., In Encontro da Associação Nacional de Pesquisadores em Artes Plásticas, 26o, 2017, Campinas. Anais do 26o Encontro da Anpap. Campinas: Pontifícia Universidade Católica de Campinas, 2017. p.2987-2987.

2988

Referências Bibliográficas

BERGER, Theodore W. et al. Brain-Computer Interfaces: An international assessment of

research and development trends. Springer Science, 2008.

BERSCH, R. Introdução à tecnologia assistiva. Porto Alegre, 2013. Acessado em 24 de Abril de 2014. Disponível em http://www.assistiva.com.br/Introducao_Tecnologia_Assistiva.pdf. BERSCH, R. Recursos pedagógicos acessíveis, Tecnologia Assistiva (TA) e Processo de Avaliação nas escolas. Porto Alegre, 2013. Acessado em 24 de abril de 2014. Disponível em: http://www.assistiva.com.br/Recursos_Ped_Acessiveis_Avaliacao_ABR2013.pdf. BERSCH, Rita. Recursos pedagógicos acessíveis. Tecnologia Assistiva (TA) e Processo de

Avaliação nas escolas. Porto Alegre, 2013. Acessado em abril de 2014. Disponível em:

http://www.assistiva.com.br/Recursos_Ped_Acessiveis_Avaliacao_ABR2013.pdf. BERTALANFFY, L. V. Teoria geral dos sistemas: fundamentos, desenvolvimento e aplicações. 5ª edição. Tradução Francisco M. Guimarães. Petrópolis, RJ: Vozes, 2010. BOBATH, K. Deficiência Motora em pacientes com Paralisia Cerebral. São Paulo, SP: Editora Manole, 1989. Bobath, K. Desenvolvimento motor nos diferentes tipos de Paralisia Cerebral. São Paulo: Manole, 1989. BRYAN, Jenny. Conversando sobre Deficiências. São Paulo: Editora Moderna, 1996. CHANG, Won Hyuk; KIMA, Yun-Hee. Robot-assisted Therapy in Stroke Rehabilitation.

Journal of Stroke 15(3):174-181, 2013. Acessado em outubro de 2013. Disponível em:

http://dx.doi.org/10.5853/jos.2013.15.3.174 CHATTERJEE, A. The neuropsychology of visual artistic production. In: Neuropsychologia. N. 42. P.1568-1583. Philadelphia, PA: Elsevier, 2004. DAMÁSIO, António. O erro de Descartes. São Paulo, SP: Cia das Letras, 1996. DAMÁSIO, António. O mistério da consciência. São Paulo, SP: Cia das Letras, 2000. DAMÁSIO, António. Em Busca de Espinosa: prazer e dor na ciência dos sentimentos. São Paulo, SP: Companhia das Letras, 2004. DAMÁSIO, António. E o cérebro criou o homem. São Paulo, SP: Cia das Letras, 2011. DENNET, D. C. Quinin qualia, in Consciousness in Contemporary Science. ed. por A. J. Marcel e E. Bisiach.Oxford: Oxford University Press, 1988. DENNET, D. C. Brainstorms philosophical essays on mind and psychology. Cambridge: The MIT Press, 1993. DENNET, D. C. Consciousness explained. London: Penguin Books, 1993. DEWEY, Jhon. Art as experience. New York, NY: Perigee Books, 1980. EISNER, E. The Arts and the creation of mind. New Haven, CT: Yale University Press, 2002. FIORIN, N. As e s s. etr polis, RJ Vo es, . FOGLIA, Efraín. Evolución del arte digital a partir de los sistemas de participación. En: Arte

en la MediaCity. Barcelon. 2013.

FRAZÃO, Y. Linguagem e paralisia cerebral. São José dos Campos, SP: Pulso Editorial, 2004. GABRILLI, M. C. Manual de Convivência: pessoas com deficiência e mobilidade reduzida. São Paulo, 2012. Acessado em 24 de abril de 2017. Disponível em: http://www.prefeitura.sp.gov.br/cidade/secretarias/upload/chamadas/Manual_de_Convivencia_1259846019.pdf. LEOTE, Rosangella. Arteciênciarte. São Paulo: Ed.UNESP. 2015. LEOTE, Rosangella. Multisensorialidade e sinestesia: Poéticas possíveis?. In: Artech 2012 - Crossing Bouderies, 2012, . v. 1. p. 161-170. Faro - Portugal. Artech 2012 - Crossing Bouderies. Faro: Universidade de Algarve, 2012. LEOTE, Rosangella; OLIVEIRA, Hosana. C.; BARAUNA, Danilo. N. A. . Abordagens da Neurociência sobre a recepção da Obra de Arte. 13° Encontro Internacional de Arte e

Tecnologia (#12.ART): arte, política e singularidade Brasília: Universidade de Brasília, 2014

(Artigo aceito para congresso). LIVINGSTONE, M. Vision and art: The biology of seeing. New York, NY: HNA , 2002.

Page 15: INTERFACES ASSISTIVAS: FAZENDO ARTE COM OS OLHOS E …anpap.org.br/anais/2017/PDF/S07/26encontro... · microcontroladores como o Arduino, além de componentes analógicos em desuso

LEOTE, Rosangella; OLIVEIRA, Hosana Celeste. Interfaces assistivas: fazendo arte com os olhos e ondas cerebrais., In Encontro da Associação Nacional de Pesquisadores em Artes Plásticas, 26o, 2017, Campinas. Anais do 26o Encontro da Anpap. Campinas: Pontifícia Universidade Católica de Campinas, 2017. p.2987-2987.

2989

MATURANA, H.; VARELA, F (orgs.). De Máquinas e Seres Vivos - Autopoiese: organização do vivo. Porto Alegre, RS: Artes Médicas, 1997. MATURANA, H.; VARELA, F. A árvore do conhecimento. São Paulo, SP: Palas Athena, 2003. PRIBRAM, K. H. Brain and Perception: Holonomy and Structure in Figural Processing. New Jersey: Lawrence Erlbaum Associates, 1991. RAMACHANDRAN, V.S.; BLAKESLEE, S. Fantasmas no Cérebro - Uma investigação dos mistérios da mente humana. Rio de Janeiro, RJ: Record, 2012. SACKS, Oliver. An Anthropologist on Mars: Seven Paradoxical Tales. New York, NY: Knopf, 1997. SACKS, Oliver. O homem que confundiu sua mulher com um chapéu e outras histórias clinicas. Tradução Laura Teixeira Motti. São Paulo: Companhia das letras, 1997. SACKS, Oliver. Vendo Vozes: uma Viagem ao Mundo dos Surdos. São Paulo, SP: Companhia das Letras, 1999. SASSAKI, R. K. Inclusão: construindo uma sociedade para todos. Rio de Janeiro, RJ: WVA, 2007. VARELA, Francisco J. The Specious Present: A Neurophenomenology of Time Consciousness. pp. 266-314. In: PETITOT, Jean; VARELA, Francisco J.; ROYS, Jean-Michel (orgs.). Naturalizing phenomenology. Stanford University press, 1999. VIEIRA, J. A. Arte e Ciência: Formas de Conhecimento. Volume 1 - Teoria do Conhecimento e Arte. Fortaleza, CE: Ed. Expressão Gráfica, 2006. VIEIRA, J. A. Arte e Ciência: Formas de Conhecimento. Volume 3 - Ontologia Sistêmica. Fortaleza, CE: Ed. Expressão Gráfica, 2008. VIEIRA, J. A.; SANTAELLA, Lúcia. Metaciência como Guia de Pesquisa - Uma proposta Semiótica e Sistêmica. Rio de Janeiro, RJ: Editora Mérito, 2008. Rosangella Leote Artista pesquisadora multimídia. Doutora em Ciências da Comunicação pela USP, Mestre em Artes pela UNICAMP e Bacharel em Artes pela UFRGS. É Coordenadora do Programa de Pós-graduação em Artes, do Instituto de Artes da UNESP. Atua em produção e pesquisa em arte/ ciência/ tecnologia. Lidera o Grupo Internacional e Interinstitucional em Convergências entre Arte, Ciência e Tecnologia (GIIP). Hosana Celeste Doutoranda em Artes (IA-UNESP, SP); possui Graduação em Educação Artística e Mestrado em Multimeios (Unicamp), atuando nas áreas de computação gráfica (2D e 3D), design gráfico e de interface. Tem como interesse abordagens neurocientíficas da percepção e da emoção e temas como embodied cognition, narrativas interativas e interfaces computacionais biosensíveis.