Parser repertuaru wydarzeńTworzenie i dostosowywanie

Parser w Pythonie, który zbiera ogólnodostępne zapowiedzi wydarzeń i koncertów do tabeli: data, miejsce, miasto, cena i link

Zwykle gotowe w ok. 15 minutPoprawki w cenieKontrola jakości
Pakiety
Ochrona płatnościSzczegóły
  • Poprawki w ramach pakietu są bezpłatne.
  • Jeśli nie odpowiesz w ciągu 3 dni od dostarczenia pracy, zostanie ona zaakceptowana automatycznie.

Pieniądze są rezerwowane w chwili płatności i przekazywane dopiero po akceptacji pracy.

Parser w Pythonie, który zbiera ogólnodostępne zapowiedzi wydarzeń i koncertów do tabeli: data, miejsce, miasto, cena i link

Przykładowy rezultat

Przykład dla pakietu Standard

Parser katalogu dostawcy narzędzi ogrodowych do Excela

Jak wygląda wynik

IndeksNazwaCenaDostępnyWagaZdjęcie
GT-1042Sekator, 20 mm18,90Tak0,24 kg…/gt-1042.jpg
GT-1187Piła składana, 210 mm24,50Tak0,31 kg…/gt-1187.jpg
GT-2210Nożyce do żywopłotu, ostrza faliste39,00Nie1,10 kg…/gt-2210.jpg
GT-3305Łopatka ogrodowa, nierdzewna9,80Tak0,18 kg…/gt-3305.jpg
GT-4120Wąż ogrodowy 25 m, 1/2"42,00Tak2,90 kg…/gt-4120.jpg

Plik w przykładzie zawiera 1236 produktów z 52 stron listy.

Fragment kodu

def product_links(list_url: str) -> Iterator[str]:
    """Linki do stron produktów z każdej strony listy, z przejściem przez „Dalej”."""
    url: str | None = list_url
    while url:
        page = fetch(url)
        for card in page.select("div.product-card a.title"):
            yield urljoin(url, card["href"])
        next_link = page.select_one("a.pagination-next")
        url = urljoin(url, next_link["href"]) if next_link else None


def fetch(url: str) -> BeautifulSoup:
    """Jedna ogólnodostępna strona, w spokojnym tempie: przerwa między zapytaniami i kilka prób przy błędach."""
    for attempt in range(3):
        time.sleep(settings.delay_seconds)
        response = session.get(url, timeout=30)
        if response.status_code == 200:
            return BeautifulSoup(response.text, "html.parser")
        log.warning("%s odpowiedział kodem %s, próba %d z 3", url, response.status_code, attempt + 1)
    raise ScraperError(f"{url} nie otworzył się po 3 próbach")

Pliki: archiwum ZIP z plikami scraper.py, settings.ini (strona startowa, przerwa między zapytaniami, nazwa pliku), requirements.txt oraz README o instalacji i uruchomieniu. Parser czyta tylko ogólnodostępne strony, jedną co 2 sekundy, i najpierw sprawdza plik robots.txt strony. Klient uruchamia go na własnym komputerze.

Klient: internetowy sklep ogrodniczy, który odsprzedaje narzędzia dostawcy; dostawca ma na swojej stronie ogólnodostępny katalog, ale nie udostępnia pliku z cennikiem. Zadanie: przejść przez strony listy w katalogu, otworzyć każdą stronę produktu i zapisać do Excela indeks, nazwę, cenę, dostępność, wagę i link do głównego zdjęcia, żeby raz w tygodniu porównywać ceny.

Klient i wszystkie dane są wymyślone.

O usłudze

Przewodniki miejskie, kluby i organizatorzy korzystają z tego parsera, żeby zebrać ogólnodostępne zapowiedzi wydarzeń w jedną tabelę: nazwa wydarzenia, kategoria, data i godzina rozpoczęcia, miejsce, miasto, cena od, ograniczenie wiekowe, link do biletów i link do grafiki. Prześlij stronę z repertuarem, na przykład klubu, przewodnika miejskiego lub serwisu biletowego, jedną stronę wydarzenia oraz jedną lub dwie strony zapisane z przeglądarki. Piszemy kod w Pythonie; dostajesz go z plikiem ustawień i README i uruchamiasz na swoim komputerze, zanim zaktualizujesz własny kalendarz. Nie kupuje biletów, nie sprawdza wolnych miejsc i nie zbiera danych osobowych organizatorów ani uczestników. Czyta ogólnodostępne strony w spokojnym tempie i nigdy się nie loguje ani nie obchodzi captchy czy zabezpieczeń. To Ty oceniasz, czy regulamin strony na to pozwala, a późniejsza zmiana jej układu wymaga aktualizacji.

Co obejmuje usługa

  • Co otrzymaszArchiwum ZIP z kodem w Pythonie, plikiem ustawień i plikiem README z instrukcją krok po kroku; kod widać też na stronie zamówienia.
  • Daty do sortowaniaData i godzina w jednym formacie, więc tabela sortuje się według dnia
  • Linki do biletówLink do własnej strony wydarzenia lub strony z biletami
  • Linki do grafikPlakaty jako linki; używaj ich tylko, jeśli możesz
  • Spokojne tempoPrzerwa między stronami ustawiana w ustawieniach
  • Działa na Twoim komputerzeWindows, macOS lub Linux, z Pythonem

Jak to działa

  1. 1
    Lista wydarzeńPodajesz stronę z repertuarem i jedną zapisaną stronę wydarzenia
  2. 2
    ParserPiszemy kod i instrukcję uruchomienia
  3. 3
    UruchomienieUruchamiasz go i sprawdzasz daty pierwszych wydarzeń
  4. 4
    ZmianyZgłaszasz poprawki w ramach pakietu i przesyłasz ewentualny komunikat o błędzie

Czego potrzebujemy od Ciebie

Strona i konkretne podstrony: link do repertuaru i do jednej strony wydarzenia oraz mniej więcej liczba wydarzeń. Pola, których potrzebujesz, w kolejności Twojej tabeli, np. nazwa, kategoria, data, godzina, miejsce, miasto, cena od, link. Jedna lub dwie takie strony zapisane z przeglądarki (Plik > Zapisz stronę jako) lub zrzuty ekranu. Format daty, jakiego chcesz, oraz CSV czy Excel.

Zapytamy Cię:

  • Która strona i jakie podstrony?
  • Potrzebne pola
  • Mniej więcej ile wydarzeń?
  • Tylko niektóre wydarzenia?

Porównaj pakiety

PakietyPodstawowyWydarzenia z jednej strony repertuaru79 złStandardRepertuar i strony wydarzeń155 złPremiumDo 3 miejsc lub stron282 zł
Termin1 dzień2 dni3 dni
Poprawki123
Strony11do 3
Rodzaje stron12 (repertuar i strona wydarzenia)do 3
Polado 10do 25do 25 na każdej
Przechodzi przez kolejne strony listyNieTakTak
Plik z wynikamiCSVExcel lub CSVExcel, CSV lub JSON
Bez duplikatów, wznawia pracę od miejsca, w którym przerwałNieNieTak
Zamów PodstawowyZamów StandardZamów Premium

Ochrona płatności

Płacisz przy składaniu zamówienia, ale pieniądze są przekazywane tylko za zaakceptowaną pracę.

  • Stała cenaCena pakietu nie zmienia się po zapłacie.
  • Pieniądze są zarezerwowanePrzy płatności kwota jest tylko rezerwowana. Serwis otrzymuje ją dopiero po akceptacji pracy.
  • Sprawdzone przed dostarczeniemKażdy wynik przechodzi kontrolę jakości, zanim do Ciebie trafi, a przed akceptacją widzisz go na stronie zamówienia.
  • Bezpłatne poprawkiProś o poprawki w ramach briefu tyle razy, ile przewiduje pakiet.
  • Akceptacja po 3 dniachJeśli w ciągu 3 dni od dostarczenia pracy ani jej nie zaakceptujesz, ani nie poprosisz o poprawki, zostanie zaakceptowana automatycznie. Jeśli po dostarczeniu napiszesz na czacie zamówienia, zamówienie czeka; po naszej odpowiedzi możemy ponownie uruchomić odliczanie 3 dni i poinformujemy o tym na czacie.
  • Ponowne wykonanie lub pełny zwrot pieniędzyJeśli wynik nie odpowiada Twojemu briefowi, a poprawki tego nie naprawiły, lub praca trwa ponad dwa razy dłużej niż termin, napisz na czacie zamówienia: wykonamy pracę ponownie albo zwrócimy całą płatność.
Jak to działa →

Pytania i odpowiedzi

Czy może sprawdzić, które miejsca są jeszcze wolne?

Nie. Plany sali otwierają się w trakcie sprzedaży biletów, często po captchy lub zalogowaniu, a parser nigdy tam nie wchodzi. Pobiera cenę od i link do biletów tak, jak pokazuje je strona.

Czy mogę ponownie publikować opisy i plakaty?

Teksty i plakaty należą do ich właścicieli, więc zapytaj ich o zgodę albo używaj tylko krótkich faktów z linkiem. Parser je zbiera; to, co publikujesz, jest Twoją decyzją.

Czy może odczytać wydarzenia z mediów społecznościowych lub z Google?

Nie. Media społecznościowe, LinkedIn, Google i Amazon nie wchodzą w grę: ich regulaminy tego zabraniają, a wiele stron wymaga logowania. W przypadku innych stron to Ty oceniasz, czy ich regulamin na to pozwala.

A jeśli serwis zmieni stronę z repertuarem?

Parser działa ze stronami w ich obecnej formie. Późniejsza zmiana układu wymaga aktualizacji, która jest nowym zamówieniem.

Nie ma tu odpowiedzi?

Pakiety