Parser parametrów produktówTworzenie i dostosowywanie

Parser w Pythonie, który zbiera parametry produktów z ogólnodostępnych stron do kolumn, żeby można je było porównać obok siebie

Zwykle gotowe w ok. 15 minutPoprawki w cenieKontrola jakości
Pakiety
Ochrona płatnościSzczegóły
  • Poprawki w ramach pakietu są bezpłatne.
  • Jeśli nie odpowiesz w ciągu 3 dni od dostarczenia pracy, zostanie ona zaakceptowana automatycznie.

Pieniądze są rezerwowane w chwili płatności i przekazywane dopiero po akceptacji pracy.

Parser w Pythonie, który zbiera parametry produktów z ogólnodostępnych stron do kolumn, żeby można je było porównać obok siebie

Przykładowy rezultat

Przykład dla pakietu Standard

Parser katalogu dostawcy narzędzi ogrodowych do Excela

Jak wygląda wynik

IndeksNazwaCenaDostępnyWagaZdjęcie
GT-1042Sekator, 20 mm18,90Tak0,24 kg…/gt-1042.jpg
GT-1187Piła składana, 210 mm24,50Tak0,31 kg…/gt-1187.jpg
GT-2210Nożyce do żywopłotu, ostrza faliste39,00Nie1,10 kg…/gt-2210.jpg
GT-3305Łopatka ogrodowa, nierdzewna9,80Tak0,18 kg…/gt-3305.jpg
GT-4120Wąż ogrodowy 25 m, 1/2"42,00Tak2,90 kg…/gt-4120.jpg

Plik w przykładzie zawiera 1236 produktów z 52 stron listy.

Fragment kodu

def product_links(list_url: str) -> Iterator[str]:
    """Linki do stron produktów z każdej strony listy, z przejściem przez „Dalej”."""
    url: str | None = list_url
    while url:
        page = fetch(url)
        for card in page.select("div.product-card a.title"):
            yield urljoin(url, card["href"])
        next_link = page.select_one("a.pagination-next")
        url = urljoin(url, next_link["href"]) if next_link else None


def fetch(url: str) -> BeautifulSoup:
    """Jedna ogólnodostępna strona, w spokojnym tempie: przerwa między zapytaniami i kilka prób przy błędach."""
    for attempt in range(3):
        time.sleep(settings.delay_seconds)
        response = session.get(url, timeout=30)
        if response.status_code == 200:
            return BeautifulSoup(response.text, "html.parser")
        log.warning("%s odpowiedział kodem %s, próba %d z 3", url, response.status_code, attempt + 1)
    raise ScraperError(f"{url} nie otworzył się po 3 próbach")

Pliki: archiwum ZIP z plikami scraper.py, settings.ini (strona startowa, przerwa między zapytaniami, nazwa pliku), requirements.txt oraz README o instalacji i uruchomieniu. Parser czyta tylko ogólnodostępne strony, jedną co 2 sekundy, i najpierw sprawdza plik robots.txt strony. Klient uruchamia go na własnym komputerze.

Klient: internetowy sklep ogrodniczy, który odsprzedaje narzędzia dostawcy; dostawca ma na swojej stronie ogólnodostępny katalog, ale nie udostępnia pliku z cennikiem. Zadanie: przejść przez strony listy w katalogu, otworzyć każdą stronę produktu i zapisać do Excela indeks, nazwę, cenę, dostępność, wagę i link do głównego zdjęcia, żeby raz w tygodniu porównywać ceny.

Klient i wszystkie dane są wymyślone.

O usłudze

Sklepy uzupełniające własne karty produktów i kupujący wybierający między produktami korzystają z tego parsera, żeby zamienić tabele parametrów z ogólnodostępnych stron produktów na kolumny: nazwa, kod, cena i każdy parametr, taki jak wymiary, waga, moc, materiał czy gwarancja, w osobnej kolumnie, z jednostką osobno. Produkty mają różne parametry, więc podajesz te, których potrzebujesz, w ramach limitu pól Twojego pakietu; brakujące zostają pustymi komórkami. Prześlij stronę, kategorię, dwie strony produktów zapisane z przeglądarki oraz swoją listę parametrów. Dostajesz kod w Pythonie, plik ustawień i README i uruchamiasz go na swoim komputerze. Parametry są kopiowane tak, jak zapisuje je strona; nie sprawdzamy ich ani nie uzupełniamy. Czyta ogólnodostępne strony w spokojnym tempie i nigdy się nie loguje ani nie obchodzi captchy czy zabezpieczeń. To Ty oceniasz, czy regulamin strony na to pozwala; późniejsza zmiana układu wymaga aktualizacji.

Co obejmuje usługa

  • Co otrzymaszArchiwum ZIP z kodem w Pythonie, plikiem ustawień i plikiem README z instrukcją krok po kroku; kod widać też na stronie zamówienia.
  • Jeden parametr, jedna kolumnaGotowe do zestawienia produktów obok siebie
  • Jednostki osobnonp. 1200 i W w osobnych kolumnach
  • Twoja lista parametrówTylko parametry, które podasz, w Twojej kolejności
  • Spokojne tempoPrzerwa między stronami ustawiana w ustawieniach
  • Działa na Twoim komputerzeWindows, macOS lub Linux, z Pythonem

Jak to działa

  1. 1
    StronyPodajesz stronę, dwie zapisane strony produktów i swoją listę parametrów
  2. 2
    ParserPiszemy kod i instrukcję uruchomienia
  3. 3
    UruchomienieUruchamiasz go i sprawdzasz parametry dwóch produktów
  4. 4
    ZmianyZgłaszasz poprawki w ramach pakietu i przesyłasz ewentualny komunikat o błędzie

Czego potrzebujemy od Ciebie

Strona i konkretne podstrony: link do kategorii i do dwóch stron produktów z różnymi parametrami oraz mniej więcej liczba produktów. Twoja lista parametrów w kolejności Twojej tabeli, zapisanych tak, jak zapisuje je strona, oraz informacja, czy jednostki mają być w osobnych kolumnach. Dwie strony zapisane z przeglądarki (Plik > Zapisz stronę jako) lub zrzuty ekranu. CSV czy Excel.

Zapytamy Cię:

  • Która strona i jakie podstrony?
  • Twoja lista parametrów
  • Mniej więcej ile produktów?
  • Jednostki

Porównaj pakiety

PakietyPodstawowyParametry z Twoich linków do produktów83 złStandardKategoria, do 25 parametrów162 złPremiumDo 3 stron282 zł
Termin1 dzień2 dni3 dni
Poprawki123
Strony11do 3
Rodzaje stron12 (kategoria i produkt)do 3
Polado 10do 25do 25 na każdej
Przechodzi przez kolejne strony listyNieTakTak
Plik z wynikamiCSVExcel lub CSVExcel, CSV lub JSON
Bez duplikatów, wznawia pracę od miejsca, w którym przerwałNieNieTak
Zamów PodstawowyZamów StandardZamów Premium

Ochrona płatności

Płacisz przy składaniu zamówienia, ale pieniądze są przekazywane tylko za zaakceptowaną pracę.

  • Stała cenaCena pakietu nie zmienia się po zapłacie.
  • Pieniądze są zarezerwowanePrzy płatności kwota jest tylko rezerwowana. Serwis otrzymuje ją dopiero po akceptacji pracy.
  • Sprawdzone przed dostarczeniemKażdy wynik przechodzi kontrolę jakości, zanim do Ciebie trafi, a przed akceptacją widzisz go na stronie zamówienia.
  • Bezpłatne poprawkiProś o poprawki w ramach briefu tyle razy, ile przewiduje pakiet.
  • Akceptacja po 3 dniachJeśli w ciągu 3 dni od dostarczenia pracy ani jej nie zaakceptujesz, ani nie poprosisz o poprawki, zostanie zaakceptowana automatycznie. Jeśli po dostarczeniu napiszesz na czacie zamówienia, zamówienie czeka; po naszej odpowiedzi możemy ponownie uruchomić odliczanie 3 dni i poinformujemy o tym na czacie.
  • Ponowne wykonanie lub pełny zwrot pieniędzyJeśli wynik nie odpowiada Twojemu briefowi, a poprawki tego nie naprawiły, lub praca trwa ponad dwa razy dłużej niż termin, napisz na czacie zamówienia: wykonamy pracę ponownie albo zwrócimy całą płatność.
Jak to działa →

Pytania i odpowiedzi

A jeśli produkty mają różne parametry?

Podajesz potrzebne parametry i każdy dostaje kolumnę; produkt, któremu jakiegoś brakuje, dostaje pustą komórkę. Parametry spoza Twojej listy są pomijane.

Czy może zestawić parametry z różnych stron?

W pakiecie Premium z maksymalnie 3 stron. Strony różnie nazywają parametry, więc mówisz nam, które nazwy znaczą to samo, np. «Waga» i «Waga netto».

Czy mogę używać zebranych parametrów w swoim sklepie?

Sprawdź, z czego możesz korzystać: opisy i zdjęcia należą do ich właścicieli, a decyzję podejmujesz na podstawie regulaminu strony. Parser zapisuje tylko zdjęcia, z których możesz korzystać.

Czy może odczytać Amazona, Google lub media społecznościowe?

Nie. Amazon, Google, LinkedIn i media społecznościowe nie wchodzą w grę: ich regulaminy tego zabraniają. Po zmianie układu strony parser wymaga aktualizacji.

Nie ma tu odpowiedzi?

Pakiety