Parser de especificações de produtosDesenvolvimento e personalização

Um parser em Python que reúne especificações de produtos de páginas abertas em colunas para comparar lado a lado

Normalmente fica pronto em 15 minutosAjustes incluídosControle de qualidade
Pacotes
Pagamento protegidoDetalhes
  • Os ajustes previstos no pacote são gratuitos.
  • Se você não responder em 3 dias após a entrega, o trabalho é aprovado automaticamente.

O dinheiro fica reservado no pagamento e só é liberado quando você aprova o trabalho.

Um parser em Python que reúne especificações de produtos de páginas abertas em colunas para comparar lado a lado

Exemplo de resultado

Exemplo do pacote Padrão

Parser do catálogo de um fornecedor de ferramentas de jardinagem para o Excel

Como fica o resultado

ArtigoNomePreçoEm estoquePesoFoto
GT-1042Tesoura de poda, 20 mm18,90Sim0,24 kg…/gt-1042.jpg
GT-1187Serrote dobrável, 210 mm24,50Sim0,31 kg…/gt-1187.jpg
GT-2210Tesoura para cerca viva, lâmina ondulada39,00Não1,10 kg…/gt-2210.jpg
GT-3305Pá de jardinagem, inox9,80Sim0,18 kg…/gt-3305.jpg
GT-4120Mangueira de jardim 25 m, 1/2"42,00Sim2,90 kg…/gt-4120.jpg

O arquivo do exemplo tem 1.236 produtos de 52 páginas de lista.

Um trecho do código

def product_links(list_url: str) -> Iterator[str]:
    """Links das páginas de produto de todas as páginas da lista, seguindo o botão 'Próxima'."""
    url: str | None = list_url
    while url:
        page = fetch(url)
        for card in page.select("div.product-card a.title"):
            yield urljoin(url, card["href"])
        next_link = page.select_one("a.pagination-next")
        url = urljoin(url, next_link["href"]) if next_link else None


def fetch(url: str) -> BeautifulSoup:
    """Uma página aberta, em um ritmo educado: uma pausa entre as requisições e algumas tentativas em caso de erro."""
    for attempt in range(3):
        time.sleep(settings.delay_seconds)
        response = session.get(url, timeout=30)
        if response.status_code == 200:
            return BeautifulSoup(response.text, "html.parser")
        log.warning("%s respondeu %s, tentativa %d de 3", url, response.status_code, attempt + 1)
    raise ScraperError(f"{url} não abriu depois de 3 tentativas")

Arquivos: um arquivo ZIP com scraper.py, settings.ini (a página inicial, a pausa entre as requisições, o nome do arquivo), requirements.txt e um README sobre como instalar e rodar. Ele lê só páginas abertas, uma a cada 2 segundos, e confere antes o robots.txt do site. O cliente roda o parser no próprio computador.

Cliente: uma loja online de jardinagem que revende as ferramentas de um fornecedor; o fornecedor tem um catálogo aberto no site, mas nenhum arquivo de tabela de preços. Tarefa: percorrer as páginas de lista do catálogo, abrir cada página de produto e salvar no Excel o código do artigo, o nome, o preço, o estoque, o peso e o link da foto principal, para comparar os preços uma vez por semana.

O cliente e todos os dados são fictícios.

Sobre este serviço

Lojas que preenchem as próprias fichas de produto e compradores que escolhem entre produtos usam este parser para transformar as tabelas de especificações de páginas de produto abertas em colunas: nome, código, preço e cada especificação, como tamanho, peso, potência, material ou garantia, em uma coluna própria com a unidade separada. Os produtos listam especificações diferentes, então você indica as que precisa, até o limite de campos do seu pacote; as que faltarem ficam como células vazias. Envie o site, uma categoria, duas páginas de produto salvas no seu navegador e a sua lista de especificações. Você recebe o código em Python, um arquivo de configurações e um README e roda no seu computador. As especificações são copiadas como a página as escreve; nós não as verificamos nem completamos. Ele lê páginas abertas em um ritmo educado e nunca faz login nem contorna captchas ou proteções. Você decide se os termos do site permitem; uma mudança futura no layout exige uma atualização.

O que está incluído

  • O que você recebeUm arquivo ZIP com o código em Python, um arquivo de configurações e um README com instruções passo a passo; o código também aparece na página do pedido.
  • Uma especificação, uma colunaPronto para colocar produtos lado a lado
  • Unidades separadasex.: 1200 e W em colunas separadas
  • Sua lista de especificaçõesSó as especificações que você indicar, na sua ordem
  • Ritmo educadoUma pausa entre as páginas, definida nas configurações
  • Roda no seu computadorWindows, macOS ou Linux, com Python

Como funciona

  1. 1
    PáginasVocê passa o site, duas páginas de produto salvas e a sua lista de especificações
  2. 2
    ParserEscrevemos o código e o guia para rodá-lo
  3. 3
    ExecuçãoVocê roda e confere as especificações de dois produtos
  4. 4
    AjustesVocê pede ajustes dentro do seu pacote e envia qualquer mensagem de erro

O que precisamos de você

O site e as páginas exatas: um link para uma categoria e para duas páginas de produto com especificações diferentes, e mais ou menos quantos produtos há. Sua lista de especificações na ordem da sua tabela, escritas como o site as escreve, e se as unidades vão em colunas separadas. Duas páginas salvas no seu navegador (Arquivo > Salvar página como) ou capturas de tela. CSV ou Excel.

Vamos perguntar:

  • Qual site e quais páginas?
  • Sua lista de especificações
  • Mais ou menos quantos produtos?
  • Unidades

Compare os pacotes

PacotesBásicoEspecificações a partir dos seus links de produtosR$ 123PadrãoUma categoria, até 25 especificaçõesR$ 240PremiumAté 3 sitesR$ 418
Prazo1 dia2 dias3 dias
Ajustes123
Sites11até 3
Tipos de página12 (categoria e produto)até 3
Camposaté 10até 25até 25 em cada
Percorre as páginas de uma listagemNãoSimSim
Arquivo de resultadosCSVExcel ou CSVExcel, CSV ou JSON
Duplicados removidos, retoma de onde parouNãoNãoSim
Fazer pedido BásicoFazer pedido PadrãoFazer pedido Premium

Pagamento protegido

Você paga ao fazer o pedido, mas o dinheiro só é liberado pelo trabalho aprovado.

  • Preço fixoO preço do pacote não muda depois que você paga.
  • O dinheiro fica reservadoAo pagar, o valor fica apenas reservado. Ele só é repassado quando você aprova o trabalho.
  • Verificado antes da entregaCada resultado passa por um controle de qualidade antes de chegar até você, e você o vê na página do pedido antes de aprovar.
  • Ajustes gratuitosPeça ajustes dentro do seu briefing quantas vezes o pacote permitir.
  • Aprovação após 3 diasSe em 3 dias após a entrega você não aprovar o trabalho nem pedir ajustes, ele é aprovado automaticamente. Se você escrever no chat do pedido após a entrega, o pedido fica em espera; depois que respondermos, podemos reiniciar a contagem de 3 dias e avisaremos no chat.
  • Refazer ou reembolso totalSe o resultado não corresponder ao seu briefing e os ajustes não resolverem, ou se o trabalho levar mais que o dobro do prazo, escreva no chat do pedido: refazemos o trabalho ou reembolsamos o pagamento integralmente.
Como funciona →

Perguntas e respostas

E se os produtos tiverem especificações diferentes?

Você lista as especificações de que precisa e cada uma ganha uma coluna; um produto que não tiver uma fica com a célula vazia. Especificações que você não listou ficam de fora.

Ele consegue alinhar especificações de sites diferentes?

No Premium, de até 3 sites. Os sites dão nomes diferentes às especificações, então você nos diz quais nomes significam a mesma coisa, ex.: “Peso” e “Peso líquido”.

Posso usar as especificações coletadas na minha loja?

Verifique o que você pode usar: descrições e fotos pertencem aos donos, e você decide conforme os termos do site. O parser salva só as imagens que você pode usar.

Ele consegue ler Amazon, Google ou redes sociais?

Não. Amazon, Google, LinkedIn e redes sociais estão fora: os termos deles proíbem. Depois de uma mudança no layout de um site, o parser precisa de uma atualização.

Não encontrou a resposta?

Pacotes