Un parser Python per un catalogo pubblico di corsi online: titolo, scuola, prezzo, durata e formato in una tabella

Esempio di risultato

def product_links(list_url: str) -> Iterator[str]:
    """Link alle pagine prodotto da ogni pagina dell'elenco, seguendo 'Avanti'."""
    url: str | None = list_url
    while url:
        page = fetch(url)
        for card in page.select("div.product-card a.title"):
            yield urljoin(url, card["href"])
        next_link = page.select_one("a.pagination-next")
        url = urljoin(url, next_link["href"]) if next_link else None


def fetch(url: str) -> BeautifulSoup:
    """Una pagina pubblica, a un ritmo discreto: una pausa tra le richieste e qualche tentativo in caso di errore."""
    for attempt in range(3):
        time.sleep(settings.delay_seconds)
        response = session.get(url, timeout=30)
        if response.status_code == 200:
            return BeautifulSoup(response.text, "html.parser")
        log.warning("%s ha risposto %s, tentativo %d di 3", url, response.status_code, attempt + 1)
    raise ScraperError(f"{url} non si è aperta dopo 3 tentativi")

Informazioni sul servizio

Scuole online, aggregatori di corsi e chi confronta offerte formative usano questo parser per mettere in tabella un catalogo pubblico di corsi: titolo del corso, scuola, argomento, livello, formato, durata, data di inizio, prezzo e prezzo precedente, numero di lezioni, valutazione come mostrata e link. Ci invii la pagina del catalogo, una pagina di corso e una o due pagine salvate dal browser. Riceve il codice Python, un file di impostazioni e un README e lo esegue sul suo computer. Copia ciò che dicono le pagine; non giudica la qualità dei corsi né promette risultati della formazione. I nomi degli insegnanti e le recensioni degli studenti sono esclusi, quindi la tabella non contiene dati personali. Legge pagine pubbliche a un ritmo discreto e non accede mai con login né aggira captcha o protezioni. È lei a valutare se le condizioni del sito lo consentono; un successivo cambio di struttura richiede un aggiornamento.

Cosa è incluso

• Cosa riceveUn archivio ZIP con il codice Python, un file di impostazioni e un README con le istruzioni passo passo; il codice è visibile anche nella pagina dell'ordine.
• Prezzi da confrontarePrezzo, prezzo precedente e rate in colonne separate
• Durata e formatoSettimane o ore, dal vivo o registrato, come indica la pagina
• Argomento e livelloIn colonne separate per i filtri
• Ritmo discretoUna pausa tra le pagine, regolata nelle impostazioni
• Gira sul suo computerWindows, macOS o Linux, con Python

Come funziona

1. 1
   CatalogoLei indica il catalogo e una pagina di corso salvata
2. 2
   ParserScriviamo il codice e la guida per eseguirlo
3. 3
   AvvioLo esegue e confronta alcuni corsi con il sito
4. 4
   ModificheChiede modifiche nei limiti del pacchetto e invia eventuali messaggi di errore

Cosa ci serve da lei

Il sito e le pagine esatte: un link al catalogo dei corsi e a una pagina di corso, e circa quanti corsi ci sono. I campi nell'ordine della sua tabella, es. titolo, scuola, argomento, livello, formato, durata, data di inizio, prezzo, prezzo precedente, link. Una o due di quelle pagine salvate dal browser (File > Salva pagina con nome) o screenshot. CSV o Excel.

Le chiederemo:

• Quale sito e quali pagine?
• I campi che le servono
• Circa quanti corsi?
• Solo alcuni corsi?

Confronto dei pacchetti

Domande e risposte

Non hai trovato la risposta? Chiedi a noi