identificação automática de tipos de pedidos mais frequentes da lai
TRANSCRIPT
Identificação Automática de
Tipos de Pedidos mais Frequentes da LAI
Brasil 100% Digital: 1º Seminário sobre Análise de Dados na Administração Pública | 10/09/2015 @ TCU
Dr. Rommel Novaes Carvalho – Coordenador-Geral do ODP/DIE/CGU | https://about.me/rommelnc
Identificação Automática de Tipos de
Pedidos mais Frequentes da LAI
Identificação dos principais assuntos
abordados nos mais de 300 mil
pedidos de informação no e-SIC
2
Descobrir tópicos em uma grande
quantidade de documentos
Descrever uma coleção de
documentos via tópicos
LDA = Latent Dirichlet Allocation
Descrever pequeno resumo
Achar documento por tema
Achar documentos correlatos
Problema da LAI
3
Como você organizaria + de 300 mil pedidos?
Operações Úteis Modelagem de Tópicos
Descrever pequeno resumo:
distribuição de tópicos
Achar documento por tema:
tópicos de peso alto
Achar documentos correlatos:
comparação entre vetores
O que é LDA?
4
Solução LDA: vetor de
pesos por tópico
Usando LDA
http://cseweb.ucsd.edu/~dhu/docs/exam09.pdf
Como funciona?
5http://cseweb.ucsd.edu/~dhu/docs/exam09.pdf
Tópicos - BACEN
69.220 pedidos (~3,06%)
Tópicos - BACEN
79.220 pedidos (~3,06%)
8
Tópicos - BACEN
9.220 pedidos (~3,06%)
9
Tópicos - BACEN
9.220 pedidos (~3,06%)
10
Tópicos - BACEN
9.220 pedidos (~3,06%)
11
Tópicos - BACEN
9.220 pedidos (~3,06%)
12
Tópicos - Negado
44.322 pedidos (~14,71%)
13
Tópicos - Negado
44.322 pedidos (~14,71%)
14
Tópicos - Negado
44.322 pedidos (~14,71%)
15
Tópicos - Negado
44.322 pedidos (~14,71%)
16
Tópicos - Negado
44.322 pedidos (~14,71%)
17
Tópicos - Negado
44.322 pedidos (~14,71%)
18
Tópicos - Negado
Concurso Público
"gostaria de ser informada sobre a minha
classificacao final no concurso ...relativa ao edital ... ou seja quero a classificacao obtida apos
a eliminacao de 1715 candidatos nas provas de aptidao fisica
psicologica exames medicos e investigacao social
atenciosamente e desde ja agradeco ..."
"gostaria de obter as seguintes informacoes 01 quantidade de
servidores concursados do poder executivo federal e o
gasto mensal com os salarios destes servidores 02
quantidade de servidores nomeados em
cargo de confiaca do poder executivo federal e o gasto
mensal com os salarios destes servidores 03
quantidade de servidores aposentados
vinculados ao poder executivo federal e o gasto mensal com
a aposentadoria destes servidores"
"venho requerer minha classificacao apos
provas objetivas e subjetiva teste de
aptidao fisica e exames medico
considerando as eliminacoes no concurso no
concurso publico para provimento de vagas e formacao de
cadastro de reserva no cargo de ... da terceira classe prova
aplicada pela banca ... a banca examinadora se omite da
prestacao da informacao ou a presta equivocadamente ... "
"solicito informar a quantidade de empregados
do cargo de analista de sistemas que foram promovidos
de estagio do cargo conforme a seguir desde a
implantacao do ... analista de sistemas 1
do estagio jr para o pleno 2 do estagio jr para o
pleno 2 do estagio pl para o..."
Análise de Recurso
19
0%
5%
10%
15%
20%
25%
30%
35%
40%
45%
60%20%
6%
14%
Atendido Negado
Recurso - Atendido Recurso - Negado
declaracao
2014
ano
imposto renda
numero recibo
exercicio
irpf
restituicao
...
"solicito resgate do numero de recibo
da declaracao de irpf referente ao
ano de 2014 por ter perdido os
dados no computador ficando assim
impossibilitada de realizar a
declaracao de 2015"
20
Desafios
Quantos Tópicos?Tempo de Execução?
0
100
200
300
400
500
600
700
10.000 20.000 130.000 300.000
Tem
po
de
pro
cessam
en
to(m
in)
Número de pedidos
0
0,1
0,2
0,3
0,4
0,5
0,6
0,7
0,8
0,9
1 10 20 30 40 50 60 70 80 90 100
Pon
tuação
do
Agru
pa
men
to
Número de tópicos
Big Data?!
10 horas x 100 rodadas = 1.000 horas ou ~ 41 dias se 100 núcleos (paralelo) 10 horas