big data - uma visão executiva

47
Universidade Presbiteriana Mackenzie BIG DATA: UMA VISÃO EXECUTIVA Prof. Dr. Vivaldo José Breternitz Faculdade de Computação e Informática 1 WTT 2014

Upload: vivaldo-jose-breternitz

Post on 21-Jan-2015

218 views

Category:

Technology


3 download

DESCRIPTION

Slides que deram suporte à palestra "Big Data - uma visão executiva", apresentada no VI Workshop de Tendências Tecnológicas, promovido pela Faculdade de Computação e Informática da Universidade Presbiteriana Mackenzie. O evento ocorreu no dia 28.04.2014

TRANSCRIPT

Page 1: Big Data - uma visão executiva

Universidade Presbiteriana Mackenzie

BIG DATA: UMA VISÃO EXECUTIVA

Prof. Dr. Vivaldo José Breternitz

Faculdade de Computação e Informática

1

WTT 2014

Page 2: Big Data - uma visão executiva

2

Vivaldo José Breternitz• Vida acadêmica

– Professor/Coordenador de Estágios na FCI– Doutor em Ciências – USP– Mestre em Engenharia – Mack– Graduado em Administração - UniAnchieta

• Vida empresarial– Na área de TI desde 1970– Funções técnicas, executivas e consultoria em

empresas como ABN AMRO, Bradesco, Cica, Deutsche Bank, Prodam, Prodesp, Santander etc.

2

Page 3: Big Data - uma visão executiva

• Podemos chamar Big Data a tecnologia que reúne uma quantidade extraordinariamente grande de dados, de vários tipos e os processa praticamente em tempo real, aumentando as possibilidades de uso imediato das informações assim geradas

3

Page 4: Big Data - uma visão executiva

Fala-se em outros V

• Veracidade, valor, visibilidade etc.

• Mas o que conta mesmo é o V de Vantagem Competitiva

4

Page 5: Big Data - uma visão executiva

O ciclo de Big Data

5

Page 6: Big Data - uma visão executiva

Esse “Act” pode ser de inúmeras maneiras

6

Page 7: Big Data - uma visão executiva

7

Nos EUA, o uso de big data pela rede de lojas Macy's permitiu que caísse de 27h para 1h o tempo necessário para rever o preço dos produtos à venda na rede

Page 8: Big Data - uma visão executiva

A Votorantim e outras empresas já estão substituindo a análise de currículos pela coleta e

observação de dados publicados pelos candidatos em redes sociais e outros espaços da internet.

8

Page 9: Big Data - uma visão executiva

9

No Rio de Janeiro, o Centro de Operações reúne dados recolhidos por câmeras e outros dispositivos afim de mapear a cidade e apontar locais com problemas, que são informados a 30 órgãos públicos que podem solucioná-los.

Page 10: Big Data - uma visão executiva

10

Um algoritmo no Facebook analisou 8,6 bilhões de conexões de 1,3 milhão de usuários do Facebook para aprender a prever quando um namoro está perto do fim.

Page 11: Big Data - uma visão executiva

O tema já chegou ao cinema

11

• Moneyball (no Brasil, O Homem que mudou o Jogo): filme baseado na história de Billy Beane, gerente do time de baseball Oakland Athletics.

• Moneyball se foca nas tentativas de Beane de criar um time competitivo (o clube estava em má situação financeira) usando análise estatistica sofisticada para encontrar jogadores baratos

• O filme foi lançado no final de 2011

Page 12: Big Data - uma visão executiva

Gartner Hype Cycle 2013

12

Page 13: Big Data - uma visão executiva

Vamos falar um pouco sobre os V

13

Page 14: Big Data - uma visão executiva

• Bit: menor unidade de informação em computação (usualmente, oito compõem um byte)

• Byte: “espaço” em que pode armazenar um caracter ou dois algarismos

Volume de dados

14

Page 15: Big Data - uma visão executiva

Volumes

15

• 90% of the world’s data created in the last 2 years

• 35 Zettabytes by 2020

•How many data generated ONE day?

― 7 TB, Twitter

― 10 TB, Facebook

Page 16: Big Data - uma visão executiva

16

Page 17: Big Data - uma visão executiva

17

Facts

Page 18: Big Data - uma visão executiva

An increasingly sensor-enabled and instrumented business environment generates HUGE volumes of

data with MACHINE SPEED characteristics…

EACH engine generating 10 TB every 30 minutes!18

Page 19: Big Data - uma visão executiva

Dados de tipos variados, inclusive não estruturados

• Convencionais, estruturados• Sons• Imagens• Sensores• Etc

19

Page 20: Big Data - uma visão executiva

Processados em tempo real

• Business Intelligence: captura os dados e DEPOIS os processa

• Big Data: data streaming – os dados vão sendo processados à medida que são capturados

20

Page 21: Big Data - uma visão executiva

O sw e o hw disponíveis até muito recentemente não conseguiam dar

conta disso

21

Page 22: Big Data - uma visão executiva

22

Estratégias, software e hardware radicalmente diferentes são

necessários (e já estão em uso por Amazon, Ebay, Facebook e

outros):

– Hadoop - plataforma para computação distribuída

– Cassandra – gerenciador de banco de dados

– IBM Netezza Accelerator, SAP HANA – in memory processing

Page 23: Big Data - uma visão executiva

E logo vão proliferar• Cursos, livros, consultorias,

produtos maquiados etc. etc., visando atingir esse mercado...

• Isso sempre acontece quando há muito $$$ envolvido....

23

Page 24: Big Data - uma visão executiva

Big Data Market forecast US$ billions (world)

24

Page 25: Big Data - uma visão executiva

25

Page 26: Big Data - uma visão executiva

O filé:

Análise! Talento é mais importante que

tecnologia (embora nada se possa fazer sem ela em BD)

26

Page 27: Big Data - uma visão executiva

Os profissionais que trabalham com isso vem sendo chamados Data

Scientists“A Data Scientist is

somebody who is inquisitive, who can stare at data and spot trends. It's almost like a Renaissance person who really wants to learn and bring change to an organization.“

27

Anjul Bhambhri, vice president of Big Data products at IBM

Page 28: Big Data - uma visão executiva

Renaissance person?

28

A Renaissance person, also known as a "polymath", refers to a person with many talents or interests

Page 29: Big Data - uma visão executiva

Típicamente um Data Scientist

29

Page 30: Big Data - uma visão executiva

Acredita-se que um bom Data Scientist deva ter habilidades multidisciplinares (ser um polimata)• Características pessoais

– Curiosidade

– Mente aberta

– Raciocínio lógico apurado

• Domínio de sistemas computacionais

• Domínio de matemática e estatística sofisticadas

• Conhecimentos na área empresarial:

– Entendimento do negócio e do mercado

– Capacidade de comunicar seus insights a pessoas com formações diferentes

30

Page 31: Big Data - uma visão executiva

Ou seja

31

Page 32: Big Data - uma visão executiva

32

Page 33: Big Data - uma visão executiva

• Profissionais com esse perfil são muito

raros

• Sua formação demanda muito tempo

• Pesquisas da consultoria McKinsey dizem que, apenas nos USA, faltarão em 2018 aproximadamente 190.000 desses profissionais.

• Faltarão também cerca de 1,5 milhão de profissionais habilitados como usuários

33

Page 34: Big Data - uma visão executiva

Esses profissionais não são os atuais “Analistas de Business Intelligence”, especialmente pelo grau de sofisticação das ferramentas utilizadas e da formação necessária

Não havendo ainda formação específica para profissionais dessa área, tem sido comum a utilização de pessoas com formação e experiências diversas

34

Page 35: Big Data - uma visão executiva

O Mack, em parceria com a IBM, trabalhará para fechar

esse gap• No segundo semestre lançaremos um

novo curso de pós graduação: Ciência de Dados: BIG DATA ANALYTICS, com ênfase em mineração e análise de dados.

• Objetivo do curso: formar futuros CDO – Chief Data Officers

35

Page 36: Big Data - uma visão executiva

Por falar em formação: uma visão do mercado

americano

36

Page 37: Big Data - uma visão executiva

Salários: ainda não temos números confiáveis no Brasil,

mas...• UK–  Graduates entering the Big Data industry

can expect to be paid approximately £27k

– An analyst with four years’ experience is likely to command £40k - £48k

– Senior consultants will earn around £120k

– Consultancy is a popular option and freelancers can potentially earn £500 per day.

37

Page 38: Big Data - uma visão executiva

Falando de trabalho: www.fcioportunidades.blogspot.co

m

38

Page 39: Big Data - uma visão executiva

Mas nem tudo são flores quando se trata de BD...

39

Page 40: Big Data - uma visão executiva

Privacidade Adam Savage, of “Myth Busters,”

took a photo of his vehicle using his smartphone. He then posted the photo to his Twitter account including the phrase “Off to work.”

Since the photo was taken by his smartphone, the image contained metadata revealing the exact geographical location the photo was taken

By simply taking and posting a photo, Savage revealed the exact location of his home, the vehicle he drives, and the time he leaves for work

40

Page 41: Big Data - uma visão executiva

Computational Social Science (CSS)

• Ciência que compreende a investigação da

dinâmica social conduzida de forma

interdisciplinar, sob a perspectiva da

informação e por meio do uso de sistemas

computacionais avançados

• Sua aplicação pode gerar manipulação de

pessoas em escala nunca vista

41

Page 42: Big Data - uma visão executiva

Big Data ajudou a reeleger Obama

Page 43: Big Data - uma visão executiva

43

Page 44: Big Data - uma visão executiva

A sociedade precisa ficar alerta!!!

44

Page 45: Big Data - uma visão executiva

Para quem quer saber mais:

45

Page 46: Big Data - uma visão executiva

E para que não aconteça isto

46