Olá,
Precisaria de uma segunda opinião sobre os dados de transferência do governo federal, há alguém aqui que trabalha com esses dados para trocar mensagens?
O motivo é que nosso projeto Repasse (http://repasse.icmc.usp.br/) está sendo atualizado para analisar todas transferencias dos últimos anos. Ele já não estava sendo atualizado por motivos da troca do formato dos dados, mas em 2021 resolvemos atualizar para acompanhar as ações relacionadas a COVID e outras coisas.
O problema é que há 15 dias eu tomei um backup dos dados disponíveis no portal da transparência e atualizei nossa ferramenta para esse formato. No entanto, hoje ao baixar os arquivos novamente eu notei diversas inconsistências:
- Novas colunas foram adicionadas aos CSVs
- O número de linhas de transferências MUDARAM.
A maior preocupação agora é a estabilidade e confiablidade desses arquivos. Olhem abaixa muda o número total de linhas de transferências.
Eu também tenho o backup antigo, ainda na era Temer, de CSVs, naquela época (e antes) os arquivos eram modificados somente quando algum erro de entrada dos valores era encontrado. Ainda não tentei comparar dados daquela época com os atuais e o backup de 15 dias atrás.
Os links dos arquivos que tinha de 15 dias atrás e os atualizados agora estão aqui:
https://drive.google.com/drive/folders/1zFfiJt232ZDtnpcmXW5wwv1ZIEwD2VLa?usp=sharing
$ find . -name *csv -print0| wc -l --files0-from=-
106471 ./BACKUP/202008/202008_Transferencias.csv
98876 ./BACKUP/202009/202009_Transferencias.csv
87091 ./BACKUP/202006/202006_Transferencias.csv
57596 ./BACKUP/202002/202002_Transferencias.csv
92648 ./BACKUP/202005/202005_Transferencias.csv
140714 ./BACKUP/202004/202004_Transferencias.csv
125154 ./BACKUP/202012/202012_Transferencias.csv
153450 ./BACKUP/202011/202011_Transferencias.csv
110606 ./BACKUP/202007/202007_Transferencias.csv
128721 ./BACKUP/202010/202010_Transferencias.csv
169903 ./BACKUP/202003/202003_Transferencias.csv
62626 ./BACKUP/202001/202001_Transferencias.csv
153114 ./NOVO/202008/202008_Transferencias.csv
136578 ./NOVO/202009/202009_Transferencias.csv
118058 ./NOVO/202006/202006_Transferencias.csv
87428 ./NOVO/202002/202002_Transferencias.csv
123554 ./NOVO/202005/202005_Transferencias.csv
172673 ./NOVO/202004/202004_Transferencias.csv
225909 ./NOVO/202012/202012_Transferencias.csv
194641 ./NOVO/202011/202011_Transferencias.csv
144679 ./NOVO/202007/202007_Transferencias.csv
163752 ./NOVO/202010/202010_Transferencias.csv
211325 ./NOVO/202003/202003_Transferencias.csv
66377 ./NOVO/202001/202001_Transferencias.csv
76545 ./downloaded_backup/201401_Transferencias.csv
3208489 total