Un parser Python che controlla se i prodotti sono disponibili su un sito pubblico e salva ogni stato con la data

Esempio di risultato

def product_links(list_url: str) -> Iterator[str]:
    """Link alle pagine prodotto da ogni pagina dell'elenco, seguendo 'Avanti'."""
    url: str | None = list_url
    while url:
        page = fetch(url)
        for card in page.select("div.product-card a.title"):
            yield urljoin(url, card["href"])
        next_link = page.select_one("a.pagination-next")
        url = urljoin(url, next_link["href"]) if next_link else None


def fetch(url: str) -> BeautifulSoup:
    """Una pagina pubblica, a un ritmo discreto: una pausa tra le richieste e qualche tentativo in caso di errore."""
    for attempt in range(3):
        time.sleep(settings.delay_seconds)
        response = session.get(url, timeout=30)
        if response.status_code == 200:
            return BeautifulSoup(response.text, "html.parser")
        log.warning("%s ha risposto %s, tentativo %d di 3", url, response.status_code, attempt + 1)
    raise ScraperError(f"{url} non si è aperta dopo 3 tentativi")

Informazioni sul servizio

Ogni volta che lo esegue, questo parser controlla quali prodotti sono disponibili su un sito pubblico, come quello del suo fornitore o di un negozio di cui rivende la merce, e salva una tabella: nome, codice, stato come lo scrive la pagina, quantità rimasta quando è indicata, tempi di consegna, prezzo, link, e data e ora del controllo. Conservi il file di ogni esecuzione e vedrà cosa è tornato disponibile e cosa è esaurito. Ci invii il sito, i link a una categoria e a una pagina prodotto, gli stati che usa il sito e una o due pagine salvate dal browser. Riceve il codice Python, un file di impostazioni e un README e lo esegue sul suo computer. Legge solo pagine pubbliche a un ritmo discreto e non accede mai con login, non aggira captcha o protezioni e non raccoglie dati personali. È lei a valutare se le condizioni del sito lo consentono; un successivo cambio di struttura richiede un aggiornamento.

Cosa è incluso

• Cosa riceveUn archivio ZIP con il codice Python, un file di impostazioni e un README con le istruzioni passo passo; il codice è visibile anche nella pagina dell'ordine.
• Stato in una colonnaLe parole del sito, o etichette sue come sì / no / su ordinazione
• Quantità quando indicataQuando la pagina mostra quanti ne restano
• Righe datateData e ora del controllo in ogni riga
• Ritmo discretoUna pausa tra le pagine, regolata nelle impostazioni
• Gira sul suo computerWindows, macOS o Linux, con Python

Come funziona

1. 1
   PagineLei indica il sito, i prodotti e gli stati che usa
2. 2
   ParserScriviamo il codice e la guida per eseguirlo
3. 3
   Primo controlloLo esegue e confronta qualche stato con il sito
4. 4
   ModificheChiede modifiche nei limiti del pacchetto e invia eventuali messaggi di errore

Cosa ci serve da lei

Il sito e le pagine esatte: un link a una categoria e a una pagina prodotto, o il suo elenco di link ai prodotti, e circa quanti prodotti. Gli stati di disponibilità mostrati dal sito, scritti come compaiono. I campi che le servono oltre allo stato, es. codice, prezzo, tempi di consegna. Una o due pagine salvate dal browser (File > Salva pagina con nome) o screenshot, idealmente una disponibile e una esaurita. Ogni quanto pensa di eseguirlo.

Le chiederemo:

• Quale sito e quali prodotti?
• Gli stati di disponibilità
• Altri campi
• Ogni quanto controllerà?

Confronto dei pacchetti

Domande e risposte

Non hai trovato la risposta? Chiedi a noi