Etkinlik listeleri parser'ıGeliştirme ve Özelleştirme

Açık etkinlik ve konser listelerini bir tabloya toplayan Python parser'ı: tarih, mekân, şehir, fiyat ve bağlantı

Genellikle 15 dakika içinde hazırRevizyonlar dahilKalite kontrolü
Paketler
Ödeme korumasıAyrıntılar
  • Paket kapsamındaki revizyonlar ücretsizdir.
  • Teslimattan sonraki 3 gün içinde yanıt vermezseniz iş otomatik olarak onaylanır.

Para, ödeme yaptığınızda bloke edilir ve yalnızca işi onayladığınızda aktarılır.

Açık etkinlik ve konser listelerini bir tabloya toplayan Python parser'ı: tarih, mekân, şehir, fiyat ve bağlantı

Örnek sonuç

Standart paket için örnek

Parser of a garden tools supplier's catalog into Excel

What the result looks like

ArticleNamePriceIn stockWeightPhoto
GT-1042Pruning shears, 20 mm18.90Yes0.24 kg…/gt-1042.jpg
GT-1187Folding saw, 210 mm24.50Yes0.31 kg…/gt-1187.jpg
GT-2210Hedge shears, wavy blade39.00No1.10 kg…/gt-2210.jpg
GT-3305Hand trowel, stainless9.80Yes0.18 kg…/gt-3305.jpg
GT-4120Garden hose 25 m, 1/2"42.00Yes2.90 kg…/gt-4120.jpg

The file in the example has 1,236 products from 52 list pages.

A part of the code

def product_links(list_url: str) -> Iterator[str]:
    """Product page links from every page of the list, following 'Next'."""
    url: str | None = list_url
    while url:
        page = fetch(url)
        for card in page.select("div.product-card a.title"):
            yield urljoin(url, card["href"])
        next_link = page.select_one("a.pagination-next")
        url = urljoin(url, next_link["href"]) if next_link else None


def fetch(url: str) -> BeautifulSoup:
    """One open page, at a polite pace: a pause between requests and a few tries on errors."""
    for attempt in range(3):
        time.sleep(settings.delay_seconds)
        response = session.get(url, timeout=30)
        if response.status_code == 200:
            return BeautifulSoup(response.text, "html.parser")
        log.warning("%s answered %s, try %d of 3", url, response.status_code, attempt + 1)
    raise ScraperError(f"{url} did not open after 3 tries")

Files: a ZIP archive with scraper.py, settings.ini (the start page, the pause between requests, the file name), requirements.txt and a README on installing and running it. It reads only open pages, one every 2 seconds, and checks the site's robots.txt first. The client runs it on their own computer.

Client: an online garden shop that resells a supplier's tools; the supplier has an open catalog on its website but no price list file. Task: go through the catalog's list pages, open every product page and save the article number, name, price, stock, weight and main photo link to Excel, to compare prices once a week.

Müşteri ve tüm ayrıntılar kurgusaldır.

Bu hizmet hakkında

Şehir rehberleri, mekânlar ve organizatörler bu parser ile açık etkinlik listelerini tek bir tabloda toplar: etkinlik adı, kategori, tarih ve başlangıç saati, mekân, şehir, başlangıç fiyatı, yaş sınırı, bilet bağlantısı ve görsel bağlantısı. Sitenin etkinlik listesi sayfasını (ör. bir mekânın, bir şehir rehberinin ya da bir bilet sitesinin), bir etkinlik sayfasını ve tarayıcınızdan kaydedilmiş bir ya da iki sayfayı gönderin. Kodu Python'da yazarız; onu bir ayar dosyası ve README ile alır, kendi takviminizi güncellemeden önce bilgisayarınızda çalıştırırsınız. Bilet satın almaz, boş koltukları kontrol etmez ya da organizatörlerin veya ziyaretçilerin kişisel verilerini toplamaz. Açık sayfaları siteyi yormayan bir hızda okur; asla oturum açmaz, CAPTCHA'ları ya da korumaları aşmaz. Sitenin koşullarının buna izin verip vermediğine siz karar verirsiniz; sitenin düzeni sonradan değişirse güncelleme gerekir.

Neler dahil

  • Neler alırsınızPython kodunu, bir ayar dosyasını ve adım adım talimatlar içeren bir README dosyasını barındıran bir ZIP arşivi; kod sipariş sayfasında da gösterilir.
  • Sıralayabileceğiniz tarihlerTarih ve saat tek bir biçimde; böylece tablo güne göre sıralanır
  • Bilet bağlantılarıEtkinliğin kendi sayfasına ya da bilet sayfasına bir bağlantı
  • Görsel bağlantılarıAfişler bağlantı olarak; yalnızca izniniz varsa kullanın
  • Nazik hızSayfalar arasında, ayarlardan belirlenen bir bekleme süresi
  • Bilgisayarınızda çalışırPython yüklü Windows, macOS ya da Linux

Nasıl çalışır

  1. 1
    Etkinlik listesiEtkinlik listesi sayfasını ve kaydedilmiş bir etkinlik sayfasını verirsiniz
  2. 2
    ParserKodu ve çalıştırma kılavuzunu yazarız
  3. 3
    ÇalıştırmaÇalıştırır ve ilk etkinliklerin tarihlerini kontrol edersiniz
  4. 4
    DeğişikliklerPaketiniz kapsamında değişiklik ister, varsa hata mesajını gönderirsiniz

Sizden neler gerekiyor

Site ve tam sayfalar: etkinlik listesine ve bir etkinlik sayfasına bağlantı ve yaklaşık kaç etkinlik olduğu. Tablonuzdaki sırayla ihtiyacınız olan alanlar, ör. ad, kategori, tarih, saat, mekân, şehir, başlangıç fiyatı, bağlantı. Tarayıcınızdan kaydedilmiş (Dosya > Sayfayı farklı kaydet) bu sayfalardan bir ya da ikisi veya ekran görüntüleri. İstediğiniz tarih biçimi ve CSV mi Excel mi olacağı.

Size soracaklarımız:

  • Hangi site ve sayfalar?
  • İhtiyacınız olan alanlar
  • Yaklaşık kaç etkinlik?
  • Yalnızca bazı etkinlikler mi?

Paketleri karşılaştırın

PaketlerTemelTek bir etkinlik listesi sayfasından etkinlikler$21StandartEtkinlik listesi ve etkinlik sayfaları$41PremiumEn fazla 3 mekân ya da site$75
Teslim süresi1 gün2 gün3 gün
Revizyonlar123
Siteler11en fazla 3
Sayfa türleri12 (etkinlik listesi ve etkinlik sayfası)en fazla 3
Alanlaren fazla 10en fazla 25her birinde en fazla 25
Bir listenin sayfalarında gezinirHayırEvetEvet
Sonuç dosyasıCSVExcel ya da CSVExcel, CSV ya da JSON
Tekrarlar temizlenir, kaldığı yerden devam ederHayırHayırEvet
Sipariş ver TemelSipariş ver StandartSipariş ver Premium

Ödeme koruması

Sipariş verirken ödersiniz, ancak para yalnızca onaylanan iş için aktarılır.

  • Sabit fiyatPaket fiyatı, ödeme yaptıktan sonra değişmez.
  • Para bloke edilirÖdeme yaptığınızda tutar yalnızca bloke edilir. İşi onayladığınızda hizmete aktarılır.
  • Teslimattan önce kontrolHer sonuç size ulaşmadan önce kalite kontrolünden geçer ve onaylamadan önce sipariş sayfasında görürsünüz.
  • Ücretsiz revizyonlarBrifiniz kapsamında, paketin izin verdiği sayıda değişiklik isteyin.
  • 3 gün sonra onayTeslimattan sonraki 3 gün içinde işi onaylamaz veya değişiklik istemezseniz iş otomatik olarak onaylanır. Teslimattan sonra sipariş sohbetine yazarsanız sipariş bekletilir; yanıt verdikten sonra 3 günlük süreyi yeniden başlatabiliriz ve bunu sohbette bildiririz.
  • Yeniden yapım veya tam iadeSonuç brifinize uymuyorsa ve revizyonlar sorunu çözmediyse ya da iş teslim süresinin iki katından uzun sürerse sipariş sohbetine yazın: işi yeniden yaparız veya ödemenin tamamını iade ederiz.
Nasıl çalışır →

Sorular ve yanıtlar

Hangi koltukların hâlâ boş olduğunu kontrol edebilir mi?

Hayır. Koltuk planları bilet satışının içinde, çoğu zaman bir CAPTCHA'dan ya da oturum açmadan sonra açılır ve parser oraya hiç girmez. Başlangıç fiyatını ve bilet bağlantısını sayfada göründüğü gibi alır.

Açıklamaları ve afişleri yeniden yayımlayabilir miyim?

Metinler ve afişler sahiplerine aittir; bu yüzden onlardan izin isteyin ya da yalnızca bağlantıyla birlikte kısa bilgiler kullanın. Parser bunları toplar; neyi yayımlayacağınız sizin kararınızdır.

Sosyal ağlardan ya da Google'dan etkinlik okuyabilir mi?

Hayır. Sosyal ağlar, LinkedIn, Google ve Amazon kapsam dışıdır: koşulları bunu yasaklar ve birçok sayfa oturum açmayı gerektirir. Diğer siteler için koşullarının buna izin verip vermediğine siz karar verirsiniz.

Site etkinlik listesi sayfasını değiştirirse ne olur?

Parser sayfaları şu anki hâliyle takip eder. Düzen sonradan değişirse güncelleme gerekir ve bu yeni bir sipariştir.

Yanıtınızı bulamadınız mı?

Paketler