inteligencia artificial: onde estamos no processo de ... - 12h20... · 2 treinamentoecapacitação...
Post on 23-Jul-2020
1 Views
Preview:
TRANSCRIPT
Introdução Mudança de Processos Dados Ética
Inteligencia Artificial: onde estamosno processo de substituir médicos por
máquinas
Marcelo Finger
Departmento de Ciência da ComputaçãoInstituto de Matematica e Estatística
Universidade de Sao Paulo
Março 2019
Marcelo Finger DCCIME-USPInteligencia Artificial: onde estamos no processo de substituir médicos por máquinas 1 / 37
Introdução Mudança de Processos Dados Ética
Geoff Hinton, Godfather of Deep Learning
“Pararem de treinarradiologistas agora. Écompletamente óbvioque dentro de cincoanos o Deep Learningvai se sair melhor doque os radiologistas. ”[2016]
Marcelo Finger DCCIME-USPInteligencia Artificial: onde estamos no processo de substituir médicos por máquinas 2 / 37
Introdução Mudança de Processos Dados Ética
Quando se compraInteligência Artificial,
o que de Fato Levamos pra Casa?
Muito além do oba-oba
Marcelo Finger DCCIME-USPInteligencia Artificial: onde estamos no processo de substituir médicos por máquinas 3 / 37
Introdução Mudança de Processos Dados Ética
1 Introdução
2 Mudança de Processos
3 Dados
4 Ética
Marcelo Finger DCCIME-USPInteligencia Artificial: onde estamos no processo de substituir médicos por máquinas 4 / 37
Introdução Mudança de Processos Dados Ética
Introdução
Marcelo Finger DCCIME-USPInteligencia Artificial: onde estamos no processo de substituir médicos por máquinas 5 / 37
Introdução Mudança de Processos Dados Ética
Natureza e Constância das Inovações
Tecnologia vem para expandir as limitações humanas
Marcelo Finger DCCIME-USPInteligencia Artificial: onde estamos no processo de substituir médicos por máquinas 6 / 37
Introdução Mudança de Processos Dados Ética
Revolução Agrícola
Figura 1: Agricultura no EgitoMarcelo Finger DCCIME-USPInteligencia Artificial: onde estamos no processo de substituir médicos por máquinas 7 / 37
Introdução Mudança de Processos Dados Ética
Invenção da Escrita
Figura 2: Escrita SumériaMarcelo Finger DCCIME-USPInteligencia Artificial: onde estamos no processo de substituir médicos por máquinas 8 / 37
Introdução Mudança de Processos Dados Ética
Navegação
Figura 3: Navio VikingMarcelo Finger DCCIME-USPInteligencia Artificial: onde estamos no processo de substituir médicos por máquinas 9 / 37
Introdução Mudança de Processos Dados Ética
Impactos
Invenções provocam profundas mudanças
Afetam as vidas de populações inteiras
É normal que causem muitas discussões
Marcelo Finger DCCIME-USPInteligencia Artificial: onde estamos no processo de substituir médicos por máquinas 10 / 37
Introdução Mudança de Processos Dados Ética
Idem para a Inteligência Artificial
Figura 4: Inteligência ArtificialMarcelo Finger DCCIME-USPInteligencia Artificial: onde estamos no processo de substituir médicos por máquinas 11 / 37
Introdução Mudança de Processos Dados Ética
Oba-Oba
A MODA afeta a Ciência da Computação em grau maior do queafeta a Alta Costura
A bola da vez é a Inteligência Artificial, associada a DeepLearning e Big Data
Marcelo Finger DCCIME-USPInteligencia Artificial: onde estamos no processo de substituir médicos por máquinas 12 / 37
Introdução Mudança de Processos Dados Ética
Oba-Oba
A MODA afeta a Ciência da Computação em grau maior do queafeta a Alta Costura
A bola da vez é a Inteligência Artificial, associada a DeepLearning e Big Data
Marcelo Finger DCCIME-USPInteligencia Artificial: onde estamos no processo de substituir médicos por máquinas 12 / 37
Introdução Mudança de Processos Dados Ética
E por que tanto barulho?
Para alguns problemas específicos, técnicas específicas apresentamresultados surpreendentes
Exemplos:
* Reconhecimento de imagens
* Produção de fala
* Tradução
* Diagnósticos específicos
e a fronteira se expande ...
Marcelo Finger DCCIME-USPInteligencia Artificial: onde estamos no processo de substituir médicos por máquinas 13 / 37
Introdução Mudança de Processos Dados Ética
E por que tanto barulho?
Para alguns problemas específicos, técnicas específicas apresentamresultados surpreendentes
Exemplos:
* Reconhecimento de imagens
* Produção de fala
* Tradução
* Diagnósticos específicos
e a fronteira se expande ...
Marcelo Finger DCCIME-USPInteligencia Artificial: onde estamos no processo de substituir médicos por máquinas 13 / 37
Introdução Mudança de Processos Dados Ética
Foi fácil o Caminho Até Aqui?
Inteligência artificial (IA) surge em Dartmouth 1956
Fases de grandes promessas e entusiasmo nas pesquisasIntercaladas por Invernos da IA (o último 1995–2005)Renascimento: aumento da capacidade de processamento, daquantidade de dados, de algoritmos melhores
Marcelo Finger DCCIME-USPInteligencia Artificial: onde estamos no processo de substituir médicos por máquinas 14 / 37
Introdução Mudança de Processos Dados Ética
Foi fácil o Caminho Até Aqui?
Inteligência artificial (IA) surge em Dartmouth 1956Fases de grandes promessas e entusiasmo nas pesquisas
Intercaladas por Invernos da IA (o último 1995–2005)Renascimento: aumento da capacidade de processamento, daquantidade de dados, de algoritmos melhores
Marcelo Finger DCCIME-USPInteligencia Artificial: onde estamos no processo de substituir médicos por máquinas 14 / 37
Introdução Mudança de Processos Dados Ética
Foi fácil o Caminho Até Aqui?
Inteligência artificial (IA) surge em Dartmouth 1956Fases de grandes promessas e entusiasmo nas pesquisasIntercaladas por Invernos da IA (o último 1995–2005)
Renascimento: aumento da capacidade de processamento, daquantidade de dados, de algoritmos melhores
Marcelo Finger DCCIME-USPInteligencia Artificial: onde estamos no processo de substituir médicos por máquinas 14 / 37
Introdução Mudança de Processos Dados Ética
Foi fácil o Caminho Até Aqui?
Inteligência artificial (IA) surge em Dartmouth 1956Fases de grandes promessas e entusiasmo nas pesquisasIntercaladas por Invernos da IA (o último 1995–2005)Renascimento: aumento da capacidade de processamento, daquantidade de dados, de algoritmos melhores
Marcelo Finger DCCIME-USPInteligencia Artificial: onde estamos no processo de substituir médicos por máquinas 14 / 37
Introdução Mudança de Processos Dados Ética
Inteligência Artificial Estreita
Técnicas específicas para resolver problemas específicos comcrescente grau de sucesso. Ex:
Tradução automáticaTécnicas de diagnóstico de pneumoniaDetecção de câncer pulmão
Rumo à Inteligência Artificial AmplaSistemas inteligentes integrados
Como essa mudança afetará nossas vidas?
Marcelo Finger DCCIME-USPInteligencia Artificial: onde estamos no processo de substituir médicos por máquinas 15 / 37
Introdução Mudança de Processos Dados Ética
Inteligência Artificial Estreita
Técnicas específicas para resolver problemas específicos comcrescente grau de sucesso. Ex:
Tradução automáticaTécnicas de diagnóstico de pneumoniaDetecção de câncer pulmão
Rumo à Inteligência Artificial AmplaSistemas inteligentes integrados
Como essa mudança afetará nossas vidas?
Marcelo Finger DCCIME-USPInteligencia Artificial: onde estamos no processo de substituir médicos por máquinas 15 / 37
Introdução Mudança de Processos Dados Ética
Inteligência Artificial Estreita
Técnicas específicas para resolver problemas específicos comcrescente grau de sucesso. Ex:
Tradução automáticaTécnicas de diagnóstico de pneumoniaDetecção de câncer pulmão
Rumo à Inteligência Artificial AmplaSistemas inteligentes integrados
Como essa mudança afetará nossas vidas?
Marcelo Finger DCCIME-USPInteligencia Artificial: onde estamos no processo de substituir médicos por máquinas 15 / 37
Introdução Mudança de Processos Dados Ética
Mudança de Processos
Marcelo Finger DCCIME-USPInteligencia Artificial: onde estamos no processo de substituir médicos por máquinas 16 / 37
Introdução Mudança de Processos Dados Ética
Mudanças Tecnológicas
Toda tecnologia impactante traz mudanças na forma de trabalho
Marcelo Finger DCCIME-USPInteligencia Artificial: onde estamos no processo de substituir médicos por máquinas 17 / 37
Introdução Mudança de Processos Dados Ética
Industrialização → Êxodo Rural →Urbanização
Figura 5:Marcelo Finger DCCIME-USPInteligencia Artificial: onde estamos no processo de substituir médicos por máquinas 18 / 37
Introdução Mudança de Processos Dados Ética
Evolução Tecnológicas
Figura 6:Marcelo Finger DCCIME-USPInteligencia Artificial: onde estamos no processo de substituir médicos por máquinas 19 / 37
Introdução Mudança de Processos Dados Ética
Retreinamento é inevitável
DesenvolvedoresProfissionaisEstudantesProfessoresUsuários
Marcelo Finger DCCIME-USPInteligencia Artificial: onde estamos no processo de substituir médicos por máquinas 20 / 37
Introdução Mudança de Processos Dados Ética
Quem treinará os novos treinadores?
Papel fundamental das universidades, no caso de IAE nas demais tecnologias também!
Marcelo Finger DCCIME-USPInteligencia Artificial: onde estamos no processo de substituir médicos por máquinas 21 / 37
Introdução Mudança de Processos Dados Ética
Objetivos do RetreinamentoQuem Serão os Especialistas do Futuro?
As sumidades da Medicina?Os programas de computador?Os Centauros: 1
2 humano + 12 máquina
Marcelo Finger DCCIME-USPInteligencia Artificial: onde estamos no processo de substituir médicos por máquinas 22 / 37
Introdução Mudança de Processos Dados Ética
Objetivos do RetreinamentoQuem Serão os Especialistas do Futuro?
As sumidades da Medicina?
Os programas de computador?Os Centauros: 1
2 humano + 12 máquina
Marcelo Finger DCCIME-USPInteligencia Artificial: onde estamos no processo de substituir médicos por máquinas 22 / 37
Introdução Mudança de Processos Dados Ética
Objetivos do RetreinamentoQuem Serão os Especialistas do Futuro?
As sumidades da Medicina?Os programas de computador?
Os Centauros: 12 humano + 1
2 máquina
Marcelo Finger DCCIME-USPInteligencia Artificial: onde estamos no processo de substituir médicos por máquinas 22 / 37
Introdução Mudança de Processos Dados Ética
Objetivos do RetreinamentoQuem Serão os Especialistas do Futuro?
As sumidades da Medicina?Os programas de computador?Os Centauros: 1
2 humano + 12 máquina
Marcelo Finger DCCIME-USPInteligencia Artificial: onde estamos no processo de substituir médicos por máquinas 22 / 37
Introdução Mudança de Processos Dados Ética
Sobrou um pequeno problema
O que fazer om os que não puderem ser retreinados?
Marcelo Finger DCCIME-USPInteligencia Artificial: onde estamos no processo de substituir médicos por máquinas 23 / 37
Introdução Mudança de Processos Dados Ética
Dados
Marcelo Finger DCCIME-USPInteligencia Artificial: onde estamos no processo de substituir médicos por máquinas 24 / 37
Introdução Mudança de Processos Dados Ética
Futuro Centrado em Dados
Figura 7:Marcelo Finger DCCIME-USPInteligencia Artificial: onde estamos no processo de substituir médicos por máquinas 25 / 37
Introdução Mudança de Processos Dados Ética
Mas dados chegam em qualquer formato
Figura 8:Marcelo Finger DCCIME-USPInteligencia Artificial: onde estamos no processo de substituir médicos por máquinas 26 / 37
Introdução Mudança de Processos Dados Ética
O Custo dos Dados
Dados bons e de qualidade são difíceis de se obterDados específicos custam muito caro
Fluxo constante de dadosFluxo constante de $$Dado é investimento
Marcelo Finger DCCIME-USPInteligencia Artificial: onde estamos no processo de substituir médicos por máquinas 27 / 37
Introdução Mudança de Processos Dados Ética
Motivos para o Custo alto
Dados têm valor e não são disponibilizados gratuitamenteDados específicos demandam muitas horas de profissionaisespecialistasBig Data = Big Noise
Dados de qualidade requerem limpeza
Treinamento requer dados balanceadosBoa parte dos dados não podem ser usados no treinamentoNovas fontes de dados devem ser buscadas
Marcelo Finger DCCIME-USPInteligencia Artificial: onde estamos no processo de substituir médicos por máquinas 28 / 37
Introdução Mudança de Processos Dados Ética
O Lado Bom dos Custo dos Dados
Muitas profissões novas podem ser criadasOportunidades em:
Infraestrutura de armazenagemColeta e limpeza de dadosPreenchimento de dados faltantesGeração de dados naturaisGeração de dados sintéticos, etc
Requer profissional capacitadoDificilmente empregará alguém cujo trabalho foi automatizado
Marcelo Finger DCCIME-USPInteligencia Artificial: onde estamos no processo de substituir médicos por máquinas 29 / 37
Introdução Mudança de Processos Dados Ética
Ética
Marcelo Finger DCCIME-USPInteligencia Artificial: onde estamos no processo de substituir médicos por máquinas 30 / 37
Introdução Mudança de Processos Dados Ética
Qual é a maior força contra CarrosAutônomos?
Figura 9: Carros Autônomos
Marcelo Finger DCCIME-USPInteligencia Artificial: onde estamos no processo de substituir médicos por máquinas 31 / 37
Introdução Mudança de Processos Dados Ética
Contra Autonomia
Acidente mata passageiro?
Acidente atropela pedestre?Atentado envolvendo 200 carros?
Marcelo Finger DCCIME-USPInteligencia Artificial: onde estamos no processo de substituir médicos por máquinas 32 / 37
Introdução Mudança de Processos Dados Ética
Contra Autonomia
Acidente mata passageiro? ×
Acidente atropela pedestre?Atentado envolvendo 200 carros?
Marcelo Finger DCCIME-USPInteligencia Artificial: onde estamos no processo de substituir médicos por máquinas 32 / 37
Introdução Mudança de Processos Dados Ética
Contra Autonomia
Acidente mata passageiro? ×Acidente atropela pedestre?
Atentado envolvendo 200 carros?
Marcelo Finger DCCIME-USPInteligencia Artificial: onde estamos no processo de substituir médicos por máquinas 32 / 37
Introdução Mudança de Processos Dados Ética
Contra Autonomia
Acidente mata passageiro? ×Acidente atropela pedestre? ×
Atentado envolvendo 200 carros?
Marcelo Finger DCCIME-USPInteligencia Artificial: onde estamos no processo de substituir médicos por máquinas 32 / 37
Introdução Mudança de Processos Dados Ética
Contra Autonomia
Acidente mata passageiro? ×Acidente atropela pedestre? ×Atentado envolvendo 200 carros?
Marcelo Finger DCCIME-USPInteligencia Artificial: onde estamos no processo de substituir médicos por máquinas 32 / 37
Introdução Mudança de Processos Dados Ética
Contra Autonomia
Acidente mata passageiro? ×Acidente atropela pedestre? ×Atentado envolvendo 200 carros? X
Marcelo Finger DCCIME-USPInteligencia Artificial: onde estamos no processo de substituir médicos por máquinas 32 / 37
Introdução Mudança de Processos Dados Ética
Weapons of Math Destruction
Cathy O’Neil
Programas treinados com dados enviesados
Algoritmos amplificam preconceitosC.f. Estudos em que pacientes “normais” são só homens
Falta de transparência nos algoritmos usadosMédicos são geradores de confiança
Marcelo Finger DCCIME-USPInteligencia Artificial: onde estamos no processo de substituir médicos por máquinas 33 / 37
Introdução Mudança de Processos Dados Ética
Weapons of Math Destruction
Cathy O’Neil
Programas treinados com dados enviesadosAlgoritmos amplificam preconceitos
C.f. Estudos em que pacientes “normais” são só homensFalta de transparência nos algoritmos usados
Médicos são geradores de confiança
Marcelo Finger DCCIME-USPInteligencia Artificial: onde estamos no processo de substituir médicos por máquinas 33 / 37
Introdução Mudança de Processos Dados Ética
Weapons of Math Destruction
Cathy O’Neil
Programas treinados com dados enviesadosAlgoritmos amplificam preconceitosC.f. Estudos em que pacientes “normais” são só homens
Falta de transparência nos algoritmos usadosMédicos são geradores de confiança
Marcelo Finger DCCIME-USPInteligencia Artificial: onde estamos no processo de substituir médicos por máquinas 33 / 37
Introdução Mudança de Processos Dados Ética
Weapons of Math Destruction
Cathy O’Neil
Programas treinados com dados enviesadosAlgoritmos amplificam preconceitosC.f. Estudos em que pacientes “normais” são só homens
Falta de transparência nos algoritmos usadosMédicos são geradores de confiança
Marcelo Finger DCCIME-USPInteligencia Artificial: onde estamos no processo de substituir médicos por máquinas 33 / 37
Introdução Mudança de Processos Dados Ética
O Fim dos Empregos?
O desaparecimento de empregos já vem acontecendo há + de20 anos (Dados EUA)Muito antes do desabrochar da IAO pior que pode acontecer é continuar nesta tendência
Marcelo Finger DCCIME-USPInteligencia Artificial: onde estamos no processo de substituir médicos por máquinas 34 / 37
Introdução Mudança de Processos Dados Ética
Desprezo das Questões Éticas Pode TrazerNovo Inverno da IA
Figura 10: Inverno da IAMarcelo Finger DCCIME-USPInteligencia Artificial: onde estamos no processo de substituir médicos por máquinas 35 / 37
Introdução Mudança de Processos Dados Ética
Assumindo a Responsabilidade
Faz parte da formação dos profissionais de IA e também deseus parceiros aprender a lidar com:
1 Mudanças em processos de trabalho2 Treinamento e capacitação3 Processos centrados em Dados4 Proteção de desvios éticos
Marcelo Finger DCCIME-USPInteligencia Artificial: onde estamos no processo de substituir médicos por máquinas 36 / 37
Introdução Mudança de Processos Dados Ética
Obrigado
Marcelo Finger
mfinger@ime.usp.br
http://www.ime.usp.br/~mfinger
Marcelo Finger DCCIME-USPInteligencia Artificial: onde estamos no processo de substituir médicos por máquinas 37 / 37
top related