Un parser Python per annunci auto pubblici: marca, anno, chilometraggio, prezzo e città in una tabella, senza contatti dei venditori

Esempio di risultato

def product_links(list_url: str) -> Iterator[str]:
    """Link alle pagine prodotto da ogni pagina dell'elenco, seguendo 'Avanti'."""
    url: str | None = list_url
    while url:
        page = fetch(url)
        for card in page.select("div.product-card a.title"):
            yield urljoin(url, card["href"])
        next_link = page.select_one("a.pagination-next")
        url = urljoin(url, next_link["href"]) if next_link else None


def fetch(url: str) -> BeautifulSoup:
    """Una pagina pubblica, a un ritmo discreto: una pausa tra le richieste e qualche tentativo in caso di errore."""
    for attempt in range(3):
        time.sleep(settings.delay_seconds)
        response = session.get(url, timeout=30)
        if response.status_code == 200:
            return BeautifulSoup(response.text, "html.parser")
        log.warning("%s ha risposto %s, tentativo %d di 3", url, response.status_code, attempt + 1)
    raise ScraperError(f"{url} non si è aperta dopo 3 tentativi")

Informazioni sul servizio

Concessionari e acquirenti di auto usano questo parser per vedere il mercato in un'unica tabella: marca, anno, chilometraggio, motore, cambio, carrozzeria, alimentazione, colore, prezzo, città, data di pubblicazione, link e link alle foto da annunci auto pubblici. Imposti la ricerca sul sito (marca, anni, fascia di prezzo) e ci invii quel link, un annuncio e una o due pagine salvate dal browser. Scriviamo il codice in Python su quelle pagine; lo riceve con un file di impostazioni e un README e lo esegue lei ogni volta che serve. I dati dei venditori restano fuori: niente nomi, email o numeri di telefono, e niente targhe o numero di telaio (VIN). Il parser legge pagine pubbliche a un ritmo discreto e non accede mai con login né aggira captcha o protezioni. Se le condizioni del sito lo consentono lo decide lei, e un successivo cambio di struttura richiede un aggiornamento.

Cosa è incluso

• Cosa riceveUn archivio ZIP con il codice Python, un file di impostazioni e un README con le istruzioni passo passo; il codice è visibile anche nella pagina dell'ordine.
• Il mercato in una tabellaOrdini per anno, chilometraggio o prezzo in Excel
• Il suo link di ricercaMarca, anni e fascia di prezzo impostati sul sito
• Nessun dato dei venditoriNiente nomi, telefoni, targhe o VIN
• Chilometraggio come numeroPronto per filtri e medie
• Gira sul suo computerWindows, macOS o Linux, con Python

Come funziona

1. 1
   RicercaLei invia un link di ricerca e un annuncio salvato
2. 2
   ParserScriviamo il codice e la guida per eseguirlo
3. 3
   AvvioLo esegue e confronta qualche auto con il sito
4. 4
   ModificheChiede modifiche nei limiti del pacchetto e invia eventuali messaggi di errore

Cosa ci serve da lei

Il sito di auto e un link a una ricerca con i suoi filtri, una pagina di annuncio e circa quante auto mostra la ricerca. I campi che le servono nell'ordine della sua tabella, es. marca, anno, chilometraggio, motore, cambio, prezzo, città, link. Una o due di quelle pagine salvate dal browser (File > Salva pagina con nome) o screenshot. CSV o Excel, e ogni quanto lo eseguirà.

Le chiederemo:

• Quale sito e quale ricerca?
• I campi che le servono
• Circa quante auto?
• Altro che deve fare

Confronto dei pacchetti

Domande e risposte

Non hai trovato la risposta? Chiedi a noi