Un parser Python che raccoglie in una tabella titoli di notizie pubbliche: titolo, data, sezione, breve sommario e link

Esempio di risultato

def product_links(list_url: str) -> Iterator[str]:
    """Link alle pagine prodotto da ogni pagina dell'elenco, seguendo 'Avanti'."""
    url: str | None = list_url
    while url:
        page = fetch(url)
        for card in page.select("div.product-card a.title"):
            yield urljoin(url, card["href"])
        next_link = page.select_one("a.pagination-next")
        url = urljoin(url, next_link["href"]) if next_link else None


def fetch(url: str) -> BeautifulSoup:
    """Una pagina pubblica, a un ritmo discreto: una pausa tra le richieste e qualche tentativo in caso di errore."""
    for attempt in range(3):
        time.sleep(settings.delay_seconds)
        response = session.get(url, timeout=30)
        if response.status_code == 200:
            return BeautifulSoup(response.text, "html.parser")
        log.warning("%s ha risposto %s, tentativo %d di 3", url, response.status_code, attempt + 1)
    raise ScraperError(f"{url} non si è aperta dopo 3 tentativi")

Informazioni sul servizio

Addetti stampa, analisti e redattori usano questo parser per tenere una tabella di ciò che pubblicano i siti di notizie pubblici: titolo, data e ora, sezione, tag, il breve sommario mostrato nell'elenco e il link. Ci invii le pagine di elenco notizie che segue, una pagina di notizia e una o due pagine salvate dal browser. Riceve il codice Python con un file di impostazioni e un README e lo esegue sul suo computer ogni volta che vuole un elenco aggiornato. Prende titoli e sommari, non gli articoli interi, perché i testi appartengono agli editori, ed esclude le firme, così la tabella non contiene nomi di persone. Legge pagine pubbliche a un ritmo discreto e non accede mai con login, non aggira paywall, captcha o protezioni. È lei a valutare se le condizioni del sito lo consentono; un successivo cambio di struttura richiede un aggiornamento.

Cosa è incluso

• Cosa riceveUn archivio ZIP con il codice Python, un file di impostazioni e un README con le istruzioni passo passo; il codice è visibile anche nella pagina dell'ordine.
• Titolo e sommarioCome li mostra l'elenco delle notizie
• Data in un unico formatoCosì può ordinare e filtrare per giorno
• Solo i suoi argomentiUn filtro facoltativo per parole che elenca
• Ritmo discretoUna pausa tra le pagine, regolata nelle impostazioni
• Gira sul suo computerWindows, macOS o Linux, con Python

Come funziona

1. 1
   FontiLei indica gli elenchi di notizie e una pagina di notizia salvata
2. 2
   ParserScriviamo il codice e la guida per eseguirlo
3. 3
   AvvioLo esegue e confronta i titoli di oggi con il sito
4. 4
   ModificheChiede modifiche nei limiti del pacchetto e invia eventuali messaggi di errore

Cosa ci serve da lei

I siti di notizie e le pagine di elenco o sezioni esatte che segue, e una pagina di notizia per ciascuno. I campi che le servono, es. titolo, data, ora, sezione, tag, sommario, link. Parole da tenere o scartare, se vuole un filtro. Una o due di quelle pagine salvate dal browser (File > Salva pagina con nome) o screenshot. Ogni quanto lo eseguirà, e CSV o Excel.

Le chiederemo:

• Quali siti di notizie e quali sezioni?
• I campi che le servono
• Parole da tenere
• Ogni quanto lo eseguirà?

Confronto dei pacchetti

Domande e risposte

Non hai trovato la risposta? Chiedi a noi