Parser di elenchi di aziendeSviluppo e personalizzazione

Un parser Python per un elenco pubblico di aziende: nome, categoria, città, indirizzo e sito web, nessun contatto personale

Di solito pronto in 15 minutiRevisioni incluseControllo di qualità
Pacchetti
Pagamento protettoDettagli
  • Le revisioni previste dal pacchetto sono gratuite.
  • Se non risponde entro 3 giorni dalla consegna, il lavoro viene accettato automaticamente.

Il denaro viene riservato al momento del pagamento e sbloccato solo quando accetta il lavoro.

Un parser Python per un elenco pubblico di aziende: nome, categoria, città, indirizzo e sito web, nessun contatto personale

Esempio di risultato

Esempio per il pacchetto Standard

Parser del catalogo di un fornitore di attrezzi da giardino in Excel

Come appare il risultato

ArticoloNomePrezzoDisponibilePesoFoto
GT-1042Forbici da potatura, 20 mm18,90Sì0,24 kg…/gt-1042.jpg
GT-1187Seghetto pieghevole, 210 mm24,50Sì0,31 kg…/gt-1187.jpg
GT-2210Cesoie per siepi, lama ondulata39,00No1,10 kg…/gt-2210.jpg
GT-3305Trapiantatoio, acciaio inox9,80Sì0,18 kg…/gt-3305.jpg
GT-4120Tubo da giardino 25 m, 1/2"42,00Sì2,90 kg…/gt-4120.jpg

Il file dell'esempio contiene 1.236 prodotti da 52 pagine di elenco.

Una parte del codice

def product_links(list_url: str) -> Iterator[str]:
    """Link alle pagine prodotto da ogni pagina dell'elenco, seguendo 'Avanti'."""
    url: str | None = list_url
    while url:
        page = fetch(url)
        for card in page.select("div.product-card a.title"):
            yield urljoin(url, card["href"])
        next_link = page.select_one("a.pagination-next")
        url = urljoin(url, next_link["href"]) if next_link else None


def fetch(url: str) -> BeautifulSoup:
    """Una pagina pubblica, a un ritmo discreto: una pausa tra le richieste e qualche tentativo in caso di errore."""
    for attempt in range(3):
        time.sleep(settings.delay_seconds)
        response = session.get(url, timeout=30)
        if response.status_code == 200:
            return BeautifulSoup(response.text, "html.parser")
        log.warning("%s ha risposto %s, tentativo %d di 3", url, response.status_code, attempt + 1)
    raise ScraperError(f"{url} non si è aperta dopo 3 tentativi")

File: un archivio ZIP con scraper.py, settings.ini (la pagina iniziale, la pausa tra le richieste, il nome del file), requirements.txt e un README su come installarlo ed eseguirlo. Legge solo pagine pubbliche, una ogni 2 secondi, e controlla prima il file robots.txt del sito. Il cliente lo esegue sul proprio computer.

Cliente: un negozio online di giardinaggio che rivende gli attrezzi di un fornitore; il fornitore ha un catalogo pubblico sul suo sito ma nessun file di listino. Compito: scorrere le pagine di elenco del catalogo, aprire ogni pagina prodotto e salvare in Excel codice articolo, nome, prezzo, disponibilità, peso e link alla foto principale, per confrontare i prezzi una volta alla settimana.

Il cliente e tutti i dati sono inventati.

Informazioni sul servizio

Per una ricerca di mercato o un elenco di possibili partner, questo parser copia in una tabella un elenco pubblico di attività: nome dell'azienda, categoria, città, indirizzo, link al sito web, breve descrizione, orari di apertura e il link alla pagina dell'azienda nell'elenco. Non raccoglie contatti personali: niente nomi di titolari, direttori o dipendenti, niente email e niente numeri di telefono, quindi la tabella non è una lista per invii o chiamate. Ci invii il sito dell'elenco, una pagina di categoria, una pagina di azienda e una o due pagine salvate dal browser. Riceve il codice Python, un file di impostazioni e un README e lo esegue sul suo computer. Legge pagine pubbliche a un ritmo discreto, non accede mai con login né aggira captcha o protezioni, e non legge Google Maps, LinkedIn o i social network. È lei a valutare se le condizioni del sito lo consentono; un successivo cambio di struttura richiede un aggiornamento.

Cosa è incluso

  • Cosa riceveUn archivio ZIP con il codice Python, un file di impostazioni e un README con le istruzioni passo passo; il codice è visibile anche nella pagina dell'ordine.
  • Aziende, non personeNiente nomi, email o numeri di telefono
  • Categoria e cittàIn colonne separate per i filtri
  • Link al sito webCosì può visitare il sito di ogni azienda
  • Ritmo discretoUna pausa tra le pagine, regolata nelle impostazioni
  • Gira sul suo computerWindows, macOS o Linux, con Python

Come funziona

  1. 1
    ElencoLei indica l'elenco, una categoria e una pagina di azienda salvata
  2. 2
    ParserScriviamo il codice e la guida per eseguirlo
  3. 3
    AvvioLo esegue e confronta le prime aziende con il sito
  4. 4
    ModificheChiede modifiche nei limiti del pacchetto e invia eventuali messaggi di errore

Cosa ci serve da lei

Il sito dell'elenco e le pagine esatte: un link a una categoria (e alla città, se il sito ha quel filtro) e a una pagina di azienda, e circa quante aziende ci sono. I campi nell'ordine della sua tabella, es. nome, categoria, città, indirizzo, sito web, descrizione. Una o due di quelle pagine salvate dal browser (File > Salva pagina con nome) o screenshot. CSV o Excel.

Le chiederemo:

  • Quale elenco e quali pagine?
  • Categorie e città
  • I campi che le servono
  • Circa quante aziende?

Confronto dei pacchetti

PacchettiBaseAziende dai suoi link20 €StandardUna categoria, ogni azienda38 €PremiumFino a 3 elenchi67 €
Tempi di consegna1 giorno2 giorni3 giorni
Revisioni123
Siti11fino a 3
Tipi di pagina12 (elenco categoria e pagina azienda)fino a 3
Campifino a 10fino a 25fino a 25 su ciascuno
Scorre le pagine di un elencoNoSìSì
File dei risultatiCSVExcel o CSVExcel, CSV o JSON
Duplicati rimossi, riprende da dove si è fermatoNoNoSì
Ordina BaseOrdina StandardOrdina Premium

Pagamento protetto

Paga al momento dell'ordine, ma il denaro viene sbloccato solo per un lavoro accettato.

  • Prezzo fissoIl prezzo del pacchetto non cambia dopo il pagamento.
  • Il denaro viene riservatoAl pagamento, l'importo viene solo riservato. Passa a Dleex quando accetta il lavoro.
  • Verificato prima della consegnaOgni risultato passa un controllo di qualità prima di arrivare a lei, e lo vede nella pagina dell'ordine prima di accettarlo.
  • Revisioni gratuiteRichieda revisioni nell'ambito del suo brief tante volte quante ne prevede il pacchetto.
  • Accettazione dopo 3 giorniSe entro 3 giorni dalla consegna non accetta il lavoro né richiede una revisione, il lavoro viene accettato automaticamente. Se scrive nella chat dell'ordine dopo la consegna, l'ordine resta in attesa; dopo la nostra risposta potremmo far ripartire i 3 giorni e glielo indicheremo nella chat.
  • Rifacimento o rimborso totaleSe il risultato non corrisponde al suo brief e le revisioni non hanno risolto il problema, oppure il lavoro richiede più del doppio dei tempi di consegna previsti, scriva nella chat dell'ordine: rifaremo il lavoro o le rimborseremo l'intero pagamento.
Come funziona →

Domande e risposte

Può raccogliere email e telefoni per contattare le aziende?

No. Email e numeri di telefono portano spesso a una persona, e le liste per invii o chiamate rientrano nelle leggi sui dati, quindi il parser li esclude. Il link al sito web le permette di contattare ogni azienda nel modo che offre.

Può leggere Google Maps o LinkedIn?

No. Google, LinkedIn, Amazon e i social network sono esclusi: le loro condizioni lo vietano e le loro pagine contengono dati di persone.

Può aprire il sito di ogni azienda per avere più dettagli?

No. Il sito di ogni azienda è un sito diverso con pagine proprie, quindi il parser resta dentro l'elenco e salva il link al sito web.

È consentito copiare un elenco di aziende?

Spesso gli elenchi proteggono le loro schede nelle condizioni d'uso, e le leggi sui dati variano da paese a paese, quindi è lei a decidere se può raccogliere e usare i dati. Dopo un cambio di struttura dell'elenco, il parser richiede un aggiornamento.

Non hai trovato la risposta?

Pacchetti