Parser w Pythonie do ogólnodostępnego katalogu kursów online: nazwa, szkoła, cena, czas trwania i forma w tabeli

Przykładowy rezultat

def product_links(list_url: str) -> Iterator[str]:
    """Linki do stron produktów z każdej strony listy, z przejściem przez „Dalej”."""
    url: str | None = list_url
    while url:
        page = fetch(url)
        for card in page.select("div.product-card a.title"):
            yield urljoin(url, card["href"])
        next_link = page.select_one("a.pagination-next")
        url = urljoin(url, next_link["href"]) if next_link else None


def fetch(url: str) -> BeautifulSoup:
    """Jedna ogólnodostępna strona, w spokojnym tempie: przerwa między zapytaniami i kilka prób przy błędach."""
    for attempt in range(3):
        time.sleep(settings.delay_seconds)
        response = session.get(url, timeout=30)
        if response.status_code == 200:
            return BeautifulSoup(response.text, "html.parser")
        log.warning("%s odpowiedział kodem %s, próba %d z 3", url, response.status_code, attempt + 1)
    raise ScraperError(f"{url} nie otworzył się po 3 próbach")

O usłudze

Szkoły online, agregatory kursów i osoby porównujące szkolenia korzystają z tego parsera, żeby przenieść ogólnodostępny katalog kursów do tabeli: nazwa kursu, szkoła, temat, poziom, forma, czas trwania, data rozpoczęcia, cena i cena przed obniżką, liczba lekcji, ocena w brzmieniu ze strony i link. Prześlij stronę katalogu, jedną stronę kursu oraz jedną lub dwie strony zapisane z przeglądarki. Dostajesz kod w Pythonie, plik ustawień i README i uruchamiasz go na swoim komputerze. Kopiuje to, co mówią strony; nie ocenia jakości kursów ani nie obiecuje efektów szkolenia. Nazwiska prowadzących i opinie uczestników są pomijane, więc tabela nie zawiera danych osobowych. Czyta ogólnodostępne strony w spokojnym tempie i nigdy się nie loguje ani nie obchodzi captchy czy zabezpieczeń. To Ty oceniasz, czy regulamin strony na to pozwala; późniejsza zmiana jej układu wymaga aktualizacji.

Co obejmuje usługa

• Co otrzymaszArchiwum ZIP z kodem w Pythonie, plikiem ustawień i plikiem README z instrukcją krok po kroku; kod widać też na stronie zamówienia.
• Ceny do porównaniaCena, cena przed obniżką i rata w osobnych kolumnach
• Czas trwania i formaTygodnie lub godziny, na żywo lub nagrania, w brzmieniu ze strony
• Temat i poziomW osobnych kolumnach do filtrów
• Spokojne tempoPrzerwa między stronami ustawiana w ustawieniach
• Działa na Twoim komputerzeWindows, macOS lub Linux, z Pythonem

Jak to działa

1. 1
   KatalogPodajesz katalog i jedną zapisaną stronę kursu
2. 2
   ParserPiszemy kod i instrukcję uruchomienia
3. 3
   UruchomienieUruchamiasz go i porównujesz kilka kursów ze stroną
4. 4
   ZmianyZgłaszasz poprawki w ramach pakietu i przesyłasz ewentualny komunikat o błędzie

Czego potrzebujemy od Ciebie

Strona i konkretne podstrony: link do katalogu kursów i do jednej strony kursu oraz mniej więcej liczba kursów. Pola w kolejności Twojej tabeli, np. nazwa, szkoła, temat, poziom, forma, czas trwania, data rozpoczęcia, cena, cena przed obniżką, link. Jedna lub dwie takie strony zapisane z przeglądarki (Plik > Zapisz stronę jako) lub zrzuty ekranu. CSV czy Excel.

Zapytamy Cię:

• Która strona i jakie podstrony?
• Potrzebne pola
• Mniej więcej ile kursów?
• Tylko niektóre kursy?

Porównaj pakiety

Pytania i odpowiedzi

Nie ma tu odpowiedzi? Zapytaj nas