Parser w Pythonie do ogólnodostępnego katalogu firm: nazwa, kategoria, miasto, adres i strona internetowa, bez kontaktów osobowych

Przykładowy rezultat

def product_links(list_url: str) -> Iterator[str]:
    """Linki do stron produktów z każdej strony listy, z przejściem przez „Dalej”."""
    url: str | None = list_url
    while url:
        page = fetch(url)
        for card in page.select("div.product-card a.title"):
            yield urljoin(url, card["href"])
        next_link = page.select_one("a.pagination-next")
        url = urljoin(url, next_link["href"]) if next_link else None


def fetch(url: str) -> BeautifulSoup:
    """Jedna ogólnodostępna strona, w spokojnym tempie: przerwa między zapytaniami i kilka prób przy błędach."""
    for attempt in range(3):
        time.sleep(settings.delay_seconds)
        response = session.get(url, timeout=30)
        if response.status_code == 200:
            return BeautifulSoup(response.text, "html.parser")
        log.warning("%s odpowiedział kodem %s, próba %d z 3", url, response.status_code, attempt + 1)
    raise ScraperError(f"{url} nie otworzył się po 3 próbach")

O usłudze

Do badania rynku lub listy potencjalnych partnerów ten parser kopiuje ogólnodostępny katalog firm do tabeli: nazwa firmy, kategoria, miasto, adres, link do strony internetowej, krótki opis, godziny otwarcia i link do strony firmy w katalogu. Nie zbiera kontaktów osobowych: żadnych nazwisk właścicieli, dyrektorów czy pracowników, żadnych e-maili ani numerów telefonów, więc tabela nie jest listą do mailingu ani telefonów. Prześlij stronę katalogu, stronę kategorii, stronę firmy oraz jedną lub dwie strony zapisane z przeglądarki. Dostajesz kod w Pythonie, plik ustawień i README i uruchamiasz go na swoim komputerze. Czyta ogólnodostępne strony w spokojnym tempie, nigdy się nie loguje ani nie obchodzi captchy czy zabezpieczeń i nie odczytuje Map Google, LinkedIn ani mediów społecznościowych. To Ty oceniasz, czy regulamin strony na to pozwala; późniejsza zmiana jej układu wymaga aktualizacji.

Co obejmuje usługa

• Co otrzymaszArchiwum ZIP z kodem w Pythonie, plikiem ustawień i plikiem README z instrukcją krok po kroku; kod widać też na stronie zamówienia.
• Firmy, nie ludzieBez imion, e-maili i numerów telefonów
• Kategoria i miastoW osobnych kolumnach do filtrów
• Link do strony internetowejMożesz odwiedzić własną stronę każdej firmy
• Spokojne tempoPrzerwa między stronami ustawiana w ustawieniach
• Działa na Twoim komputerzeWindows, macOS lub Linux, z Pythonem

Jak to działa

1. 1
   KatalogPodajesz katalog, kategorię i zapisaną stronę firmy
2. 2
   ParserPiszemy kod i instrukcję uruchomienia
3. 3
   UruchomienieUruchamiasz go i porównujesz pierwsze firmy ze stroną
4. 4
   ZmianyZgłaszasz poprawki w ramach pakietu i przesyłasz ewentualny komunikat o błędzie

Czego potrzebujemy od Ciebie

Strona katalogu i konkretne podstrony: link do kategorii (i miasta, jeśli strona ma taki filtr) i do jednej strony firmy oraz mniej więcej liczba firm. Pola w kolejności Twojej tabeli, np. nazwa, kategoria, miasto, adres, strona internetowa, opis. Jedna lub dwie takie strony zapisane z przeglądarki (Plik > Zapisz stronę jako) lub zrzuty ekranu. CSV czy Excel.

Zapytamy Cię:

• Który katalog i jakie podstrony?
• Kategorie i miasta
• Potrzebne pola
• Mniej więcej ile firm?

Porównaj pakiety

Pytania i odpowiedzi

Nie ma tu odpowiedzi? Zapytaj nas