inteligencia artificial: onde estamos no processo de ... - 12h20... · 2 treinamentoecapacitação...

Introdução Mudança de Processos Dados Ética

Inteligencia Artificial: onde estamosno processo de substituir médicos por

máquinas

Marcelo Finger

Departmento de Ciência da ComputaçãoInstituto de Matematica e Estatística

Universidade de Sao Paulo

Março 2019

Marcelo Finger DCCIME-USPInteligencia Artificial: onde estamos no processo de substituir médicos por máquinas 1 / 37


Geoff Hinton, Godfather of Deep Learning

“Pararem de treinarradiologistas agora. Écompletamente óbvioque dentro de cincoanos o Deep Learningvai se sair melhor doque os radiologistas. ”[2016]



Quando se compraInteligência Artificial,

o que de Fato Levamos pra Casa?

Muito além do oba-oba



1 Introdução

2 Mudança de Processos

3 Dados

4 Ética



Introdução



Natureza e Constância das Inovações

Tecnologia vem para expandir as limitações humanas



Revolução Agrícola

Figura 1: Agricultura no EgitoMarcelo Finger DCCIME-USPInteligencia Artificial: onde estamos no processo de substituir médicos por máquinas 7 / 37


Invenção da Escrita

Figura 2: Escrita SumériaMarcelo Finger DCCIME-USPInteligencia Artificial: onde estamos no processo de substituir médicos por máquinas 8 / 37


Navegação

Figura 3: Navio VikingMarcelo Finger DCCIME-USPInteligencia Artificial: onde estamos no processo de substituir médicos por máquinas 9 / 37


Impactos

Invenções provocam profundas mudanças

Afetam as vidas de populações inteiras

É normal que causem muitas discussões



Idem para a Inteligência Artificial

Figura 4: Inteligência ArtificialMarcelo Finger DCCIME-USPInteligencia Artificial: onde estamos no processo de substituir médicos por máquinas 11 / 37


Oba-Oba

A MODA afeta a Ciência da Computação em grau maior do queafeta a Alta Costura

A bola da vez é a Inteligência Artificial, associada a DeepLearning e Big Data



E por que tanto barulho?

Para alguns problemas específicos, técnicas específicas apresentamresultados surpreendentes

Exemplos:

* Reconhecimento de imagens

* Produção de fala

* Tradução

* Diagnósticos específicos

e a fronteira se expande ...



Foi fácil o Caminho Até Aqui?

Inteligência artificial (IA) surge em Dartmouth 1956

Fases de grandes promessas e entusiasmo nas pesquisasIntercaladas por Invernos da IA (o último 1995–2005)Renascimento: aumento da capacidade de processamento, daquantidade de dados, de algoritmos melhores




Inteligência artificial (IA) surge em Dartmouth 1956Fases de grandes promessas e entusiasmo nas pesquisas

Intercaladas por Invernos da IA (o último 1995–2005)Renascimento: aumento da capacidade de processamento, daquantidade de dados, de algoritmos melhores




Inteligência artificial (IA) surge em Dartmouth 1956Fases de grandes promessas e entusiasmo nas pesquisasIntercaladas por Invernos da IA (o último 1995–2005)

Renascimento: aumento da capacidade de processamento, daquantidade de dados, de algoritmos melhores




Inteligência artificial (IA) surge em Dartmouth 1956Fases de grandes promessas e entusiasmo nas pesquisasIntercaladas por Invernos da IA (o último 1995–2005)Renascimento: aumento da capacidade de processamento, daquantidade de dados, de algoritmos melhores



Inteligência Artificial Estreita

Técnicas específicas para resolver problemas específicos comcrescente grau de sucesso. Ex:

Tradução automáticaTécnicas de diagnóstico de pneumoniaDetecção de câncer pulmão

Rumo à Inteligência Artificial AmplaSistemas inteligentes integrados

Como essa mudança afetará nossas vidas?



Mudança de Processos



Mudanças Tecnológicas

Toda tecnologia impactante traz mudanças na forma de trabalho



Industrialização → Êxodo Rural →Urbanização

Figura 5:Marcelo Finger DCCIME-USPInteligencia Artificial: onde estamos no processo de substituir médicos por máquinas 18 / 37


Evolução Tecnológicas



Retreinamento é inevitável

DesenvolvedoresProfissionaisEstudantesProfessoresUsuários



Quem treinará os novos treinadores?

Papel fundamental das universidades, no caso de IAE nas demais tecnologias também!



Objetivos do RetreinamentoQuem Serão os Especialistas do Futuro?

As sumidades da Medicina?Os programas de computador?Os Centauros: 1

2 humano + 12 máquina




As sumidades da Medicina?

Os programas de computador?Os Centauros: 1





As sumidades da Medicina?Os programas de computador?

Os Centauros: 12 humano + 1

2 máquina




As sumidades da Medicina?Os programas de computador?Os Centauros: 1




Sobrou um pequeno problema

O que fazer om os que não puderem ser retreinados?



Dados



Futuro Centrado em Dados



Mas dados chegam em qualquer formato



O Custo dos Dados

Dados bons e de qualidade são difíceis de se obterDados específicos custam muito caro

Fluxo constante de dadosFluxo constante de $$Dado é investimento



Motivos para o Custo alto

Dados têm valor e não são disponibilizados gratuitamenteDados específicos demandam muitas horas de profissionaisespecialistasBig Data = Big Noise

Dados de qualidade requerem limpeza

Treinamento requer dados balanceadosBoa parte dos dados não podem ser usados no treinamentoNovas fontes de dados devem ser buscadas



O Lado Bom dos Custo dos Dados

Muitas profissões novas podem ser criadasOportunidades em:

Infraestrutura de armazenagemColeta e limpeza de dadosPreenchimento de dados faltantesGeração de dados naturaisGeração de dados sintéticos, etc

Requer profissional capacitadoDificilmente empregará alguém cujo trabalho foi automatizado



Ética



Qual é a maior força contra CarrosAutônomos?

Figura 9: Carros Autônomos



Contra Autonomia

Acidente mata passageiro?

Acidente atropela pedestre?Atentado envolvendo 200 carros?



Contra Autonomia

Acidente mata passageiro? ×

Acidente atropela pedestre?Atentado envolvendo 200 carros?



Contra Autonomia

Acidente mata passageiro? ×Acidente atropela pedestre?

Atentado envolvendo 200 carros?



Contra Autonomia

Acidente mata passageiro? ×Acidente atropela pedestre? ×

Atentado envolvendo 200 carros?



Contra Autonomia

Acidente mata passageiro? ×Acidente atropela pedestre? ×Atentado envolvendo 200 carros?



Contra Autonomia

Acidente mata passageiro? ×Acidente atropela pedestre? ×Atentado envolvendo 200 carros? X



Weapons of Math Destruction

Cathy O’Neil

Programas treinados com dados enviesados

Algoritmos amplificam preconceitosC.f. Estudos em que pacientes “normais” são só homens

Falta de transparência nos algoritmos usadosMédicos são geradores de confiança




Cathy O’Neil

Programas treinados com dados enviesadosAlgoritmos amplificam preconceitos

C.f. Estudos em que pacientes “normais” são só homensFalta de transparência nos algoritmos usados

Médicos são geradores de confiança




Cathy O’Neil

Programas treinados com dados enviesadosAlgoritmos amplificam preconceitosC.f. Estudos em que pacientes “normais” são só homens

Falta de transparência nos algoritmos usadosMédicos são geradores de confiança



O Fim dos Empregos?

O desaparecimento de empregos já vem acontecendo há + de20 anos (Dados EUA)Muito antes do desabrochar da IAO pior que pode acontecer é continuar nesta tendência



Desprezo das Questões Éticas Pode TrazerNovo Inverno da IA

Figura 10: Inverno da IAMarcelo Finger DCCIME-USPInteligencia Artificial: onde estamos no processo de substituir médicos por máquinas 35 / 37


Assumindo a Responsabilidade

Faz parte da formação dos profissionais de IA e também deseus parceiros aprender a lidar com:

1 Mudanças em processos de trabalho2 Treinamento e capacitação3 Processos centrados em Dados4 Proteção de desvios éticos



Obrigado

Marcelo Finger

[email protected]

http://www.ime.usp.br/~mfinger


[email protected]

http://www.ime.usp.br/~mfinger

inteligencia artificial: onde estamos no processo de ... - 12h20... · 2 treinamentoecapacitação...

Documents