Skip to content
New issue

Have a question about this project? Sign up for a free GitHub account to open an issue and contact its maintainers and the community.

By clicking “Sign up for GitHub”, you agree to our terms of service and privacy statement. We’ll occasionally send you account related emails.

Already on GitHub? Sign in to your account

new spider Cunha/SP #1077

Merged
merged 1 commit into from
Mar 22, 2024
Merged

new spider Cunha/SP #1077

merged 1 commit into from
Mar 22, 2024

Conversation

almeidadm
Copy link
Contributor

AO ABRIR um Pull Request de um novo raspador (spider), marque com um X cada um dos items do checklist
abaixo. NÃO ABRA um novo Pull Request antes de completar todos os items abaixo.

Checklist - Novo spider

  • Você executou uma extração completa do spider localmente e os dados retornados estavam corretos.
  • Você executou uma extração por período (start_date e end_date definidos) ao menos uma vez e os dados retornados estavam corretos.
  • Você verificou que não existe nenhum erro nos logs (log_count/ERROR igual a zero).
  • Você definiu o atributo de classe start_date no seu spider com a data do Diário Oficial mais antigo disponível na página da cidade.
  • Você garantiu que todos os campos que poderiam ser extraídos foram extraídos de acordo com a documentação.

Descrição

Boletim disponibilizado a partir do modelo DOSP. Foi utilizada a classe DospGazetteSpider.

Logs

log_sp_cunha.txt
log_sp_cunha.csv

resolve #1071

code = 4800
start_date = date(2021, 10, 19)
custom_settings = {
"DOWNLOAD_DELAY": 0.5,
Copy link
Member

Choose a reason for hiding this comment

The reason will be displayed to describe this comment to others. Learn more.

@almeidadm, teve algum motivo que te levou a adicionar essa setting aqui, enquanto nos outros não tem?

Copy link
Member

Choose a reason for hiding this comment

The reason will be displayed to describe this comment to others. Learn more.

Testei aqui sem e o raspador se comportou bem, por isso adicionei um ajuste que retira custom_settings do raspador

cunha.log

@trevineju trevineju merged commit 2f19142 into okfn-brasil:main Mar 22, 2024
1 check passed
Sign up for free to join this conversation on GitHub. Already have an account? Sign in to comment
Labels
None yet
Projects
None yet
Development

Successfully merging this pull request may close these issues.

[Novo spider]: Vale do Paraíba e Litoral Norte (SP)
2 participants