Parser de agenda de eventosDesenvolvimento e personalização

Um parser em Python que reúne agendas abertas de eventos e shows em uma tabela: data, local, cidade, preço e link

Normalmente fica pronto em 15 minutosAjustes incluídosControle de qualidade
Pacotes
Pagamento protegidoDetalhes
  • Os ajustes previstos no pacote são gratuitos.
  • Se você não responder em 3 dias após a entrega, o trabalho é aprovado automaticamente.

O dinheiro fica reservado no pagamento e só é liberado quando você aprova o trabalho.

Um parser em Python que reúne agendas abertas de eventos e shows em uma tabela: data, local, cidade, preço e link

Exemplo de resultado

Exemplo do pacote Padrão

Parser do catálogo de um fornecedor de ferramentas de jardinagem para o Excel

Como fica o resultado

ArtigoNomePreçoEm estoquePesoFoto
GT-1042Tesoura de poda, 20 mm18,90Sim0,24 kg…/gt-1042.jpg
GT-1187Serrote dobrável, 210 mm24,50Sim0,31 kg…/gt-1187.jpg
GT-2210Tesoura para cerca viva, lâmina ondulada39,00Não1,10 kg…/gt-2210.jpg
GT-3305Pá de jardinagem, inox9,80Sim0,18 kg…/gt-3305.jpg
GT-4120Mangueira de jardim 25 m, 1/2"42,00Sim2,90 kg…/gt-4120.jpg

O arquivo do exemplo tem 1.236 produtos de 52 páginas de lista.

Um trecho do código

def product_links(list_url: str) -> Iterator[str]:
    """Links das páginas de produto de todas as páginas da lista, seguindo o botão 'Próxima'."""
    url: str | None = list_url
    while url:
        page = fetch(url)
        for card in page.select("div.product-card a.title"):
            yield urljoin(url, card["href"])
        next_link = page.select_one("a.pagination-next")
        url = urljoin(url, next_link["href"]) if next_link else None


def fetch(url: str) -> BeautifulSoup:
    """Uma página aberta, em um ritmo educado: uma pausa entre as requisições e algumas tentativas em caso de erro."""
    for attempt in range(3):
        time.sleep(settings.delay_seconds)
        response = session.get(url, timeout=30)
        if response.status_code == 200:
            return BeautifulSoup(response.text, "html.parser")
        log.warning("%s respondeu %s, tentativa %d de 3", url, response.status_code, attempt + 1)
    raise ScraperError(f"{url} não abriu depois de 3 tentativas")

Arquivos: um arquivo ZIP com scraper.py, settings.ini (a página inicial, a pausa entre as requisições, o nome do arquivo), requirements.txt e um README sobre como instalar e rodar. Ele lê só páginas abertas, uma a cada 2 segundos, e confere antes o robots.txt do site. O cliente roda o parser no próprio computador.

Cliente: uma loja online de jardinagem que revende as ferramentas de um fornecedor; o fornecedor tem um catálogo aberto no site, mas nenhum arquivo de tabela de preços. Tarefa: percorrer as páginas de lista do catálogo, abrir cada página de produto e salvar no Excel o código do artigo, o nome, o preço, o estoque, o peso e o link da foto principal, para comparar os preços uma vez por semana.

O cliente e todos os dados são fictícios.

Sobre este serviço

Guias de cidade, casas de shows e produtores usam este parser para reunir agendas abertas de eventos em uma tabela: nome do evento, categoria, data e horário de início, local, cidade, preço a partir de, classificação etária, link dos ingressos e link da imagem. Envie a página de agenda do site, como a de uma casa de shows, um guia da cidade ou um site de ingressos, uma página de evento e uma ou duas páginas salvas no seu navegador. Escrevemos o código em Python; você o recebe com um arquivo de configurações e um README e roda no seu computador antes de atualizar a sua própria agenda. Ele não compra ingressos, não verifica lugares livres e não coleta dados pessoais de organizadores ou público. Ele lê páginas abertas em um ritmo educado e nunca faz login nem contorna captchas ou proteções. Você decide se os termos do site permitem, e uma mudança futura no layout dele exige uma atualização.

O que está incluído

  • O que você recebeUm arquivo ZIP com o código em Python, um arquivo de configurações e um README com instruções passo a passo; o código também aparece na página do pedido.
  • Datas que você pode ordenarData e hora em um só formato, para a tabela ordenar por dia
  • Links dos ingressosUm link para a página do próprio evento ou a página de ingressos
  • Links das imagensCartazes como links; use-os só se puder
  • Ritmo educadoUma pausa entre as páginas, definida nas configurações
  • Roda no seu computadorWindows, macOS ou Linux, com Python

Como funciona

  1. 1
    AgendaVocê passa a página de agenda e uma página de evento salva
  2. 2
    ParserEscrevemos o código e o guia para rodá-lo
  3. 3
    ExecuçãoVocê roda e confere as datas dos primeiros eventos
  4. 4
    AjustesVocê pede ajustes dentro do seu pacote e envia qualquer mensagem de erro

O que precisamos de você

O site e as páginas exatas: um link para a agenda e para uma página de evento, e mais ou menos quantos eventos há. Os campos de que você precisa na ordem da sua tabela, ex.: nome, categoria, data, horário, local, cidade, preço a partir de, link. Uma ou duas dessas páginas salvas no seu navegador (Arquivo > Salvar página como) ou capturas de tela. O formato de data que você quer e CSV ou Excel.

Vamos perguntar:

  • Qual site e quais páginas?
  • Os campos de que você precisa
  • Mais ou menos quantos eventos?
  • Só alguns eventos?

Compare os pacotes

PacotesBásicoEventos de uma página de agendaR$ 117PadrãoAgenda e páginas de eventosR$ 229PremiumAté 3 casas de shows ou sitesR$ 418
Prazo1 dia2 dias3 dias
Ajustes123
Sites11até 3
Tipos de página12 (agenda e página de evento)até 3
Camposaté 10até 25até 25 em cada
Percorre as páginas de uma listagemNãoSimSim
Arquivo de resultadosCSVExcel ou CSVExcel, CSV ou JSON
Duplicados removidos, retoma de onde parouNãoNãoSim
Fazer pedido BásicoFazer pedido PadrãoFazer pedido Premium

Pagamento protegido

Você paga ao fazer o pedido, mas o dinheiro só é liberado pelo trabalho aprovado.

  • Preço fixoO preço do pacote não muda depois que você paga.
  • O dinheiro fica reservadoAo pagar, o valor fica apenas reservado. Ele só é repassado quando você aprova o trabalho.
  • Verificado antes da entregaCada resultado passa por um controle de qualidade antes de chegar até você, e você o vê na página do pedido antes de aprovar.
  • Ajustes gratuitosPeça ajustes dentro do seu briefing quantas vezes o pacote permitir.
  • Aprovação após 3 diasSe em 3 dias após a entrega você não aprovar o trabalho nem pedir ajustes, ele é aprovado automaticamente. Se você escrever no chat do pedido após a entrega, o pedido fica em espera; depois que respondermos, podemos reiniciar a contagem de 3 dias e avisaremos no chat.
  • Refazer ou reembolso totalSe o resultado não corresponder ao seu briefing e os ajustes não resolverem, ou se o trabalho levar mais que o dobro do prazo, escreva no chat do pedido: refazemos o trabalho ou reembolsamos o pagamento integralmente.
Como funciona →

Perguntas e respostas

Ele verifica quais lugares ainda estão livres?

Não. Os mapas de lugares abrem dentro da venda de ingressos, muitas vezes depois de um captcha ou login, e o parser nunca vai até lá. Ele pega o preço a partir de e o link dos ingressos como a página mostra.

Posso republicar as descrições e os cartazes?

Textos e cartazes pertencem aos donos, então peça autorização ou use só fatos curtos com um link. O parser os coleta; o que você publica é decisão sua.

Ele lê eventos de redes sociais ou do Google?

Não. Redes sociais, LinkedIn, Google e Amazon estão fora: os termos deles proíbem, e muitas páginas exigem login. Para outros sites, você decide se os termos permitem.

E se o site mudar a página de agenda?

O parser segue as páginas como elas são hoje. Uma mudança futura de layout exige uma atualização, que é um novo pedido.

Não encontrou a resposta?

Pacotes