Podcast bölümleri parser'ıGeliştirme ve Özelleştirme

Bir podcast'in bölümlerini açık sitesinden listeleyen Python parser'ı: numara, başlık, tarih, süre ve bağlantı

Genellikle 15 dakika içinde hazırRevizyonlar dahilKalite kontrolü
Paketler
Ödeme korumasıAyrıntılar
  • Paket kapsamındaki revizyonlar ücretsizdir.
  • Teslimattan sonraki 3 gün içinde yanıt vermezseniz iş otomatik olarak onaylanır.

Para, ödeme yaptığınızda bloke edilir ve yalnızca işi onayladığınızda aktarılır.

Bir podcast'in bölümlerini açık sitesinden listeleyen Python parser'ı: numara, başlık, tarih, süre ve bağlantı

Örnek sonuç

Standart paket için örnek

Parser of a garden tools supplier's catalog into Excel

What the result looks like

ArticleNamePriceIn stockWeightPhoto
GT-1042Pruning shears, 20 mm18.90Yes0.24 kg…/gt-1042.jpg
GT-1187Folding saw, 210 mm24.50Yes0.31 kg…/gt-1187.jpg
GT-2210Hedge shears, wavy blade39.00No1.10 kg…/gt-2210.jpg
GT-3305Hand trowel, stainless9.80Yes0.18 kg…/gt-3305.jpg
GT-4120Garden hose 25 m, 1/2"42.00Yes2.90 kg…/gt-4120.jpg

The file in the example has 1,236 products from 52 list pages.

A part of the code

def product_links(list_url: str) -> Iterator[str]:
    """Product page links from every page of the list, following 'Next'."""
    url: str | None = list_url
    while url:
        page = fetch(url)
        for card in page.select("div.product-card a.title"):
            yield urljoin(url, card["href"])
        next_link = page.select_one("a.pagination-next")
        url = urljoin(url, next_link["href"]) if next_link else None


def fetch(url: str) -> BeautifulSoup:
    """One open page, at a polite pace: a pause between requests and a few tries on errors."""
    for attempt in range(3):
        time.sleep(settings.delay_seconds)
        response = session.get(url, timeout=30)
        if response.status_code == 200:
            return BeautifulSoup(response.text, "html.parser")
        log.warning("%s answered %s, try %d of 3", url, response.status_code, attempt + 1)
    raise ScraperError(f"{url} did not open after 3 tries")

Files: a ZIP archive with scraper.py, settings.ini (the start page, the pause between requests, the file name), requirements.txt and a README on installing and running it. It reads only open pages, one every 2 seconds, and checks the site's robots.txt first. The client runs it on their own computer.

Client: an online garden shop that resells a supplier's tools; the supplier has an open catalog on its website but no price list file. Task: go through the catalog's list pages, open every product page and save the article number, name, price, stock, weight and main photo link to Excel, to compare prices once a week.

Müşteri ve tüm ayrıntılar kurgusaldır.

Bu hizmet hakkında

Yeni bir siteye geçen podcast sahipleri, bölüm notu editörleri ve araştırmacılar bu parser ile bölümleri bir tabloda listeler: numara, sezon, başlık, tarih, süre, kısa açıklama, konular ya da etiketler, bölüm sayfasının bağlantısı ve sayfa gösteriyorsa ses bağlantısı. Programın kendi açık sitesini ya da çoğu podcast'te bulunan açık RSS feed'ini okur. Bölüm listesi sayfasını, bir bölüm sayfasını ve tarayıcınızdan kaydedilmiş bir ya da iki sayfayı gönderin. Python kodu, bir ayar dosyası ve README alırsınız ve onu bilgisayarınızda çalıştırırsınız. Ses dosyalarını değil, bağlantıları kaydeder ve konukların adları için bir sütunu yoktur. Siteyi yormayan bir hızda okur; asla oturum açmaz, CAPTCHA'ları ya da korumaları aşmaz ve sosyal ağları veya hesap gerektiren dinleme uygulamalarını okumaz. Sitenin koşullarının buna izin verip vermediğine siz karar verirsiniz; sonradan bir düzen değişikliği olursa güncelleme gerekir.

Neler dahil

  • Neler alırsınızPython kodunu, bir ayar dosyasını ve adım adım talimatlar içeren bir README dosyasını barındıran bir ZIP arşivi; kod sipariş sayfasında da gösterilir.
  • Sırasıyla bölümlerNumara, sezon ve tarih ayrı sütunlarda
  • Dakika olarak süreSayfa ya da feed gösteriyorsa
  • Bölüm ve ses bağlantılarıYalnızca bağlantılar, ses dosyası yok
  • Nazik hızSayfalar arasında, ayarlardan belirlenen bir bekleme süresi
  • Bilgisayarınızda çalışırPython yüklü Windows, macOS ya da Linux

Nasıl çalışır

  1. 1
    ProgramBölüm listesini ya da feed'i ve kaydedilmiş bir bölüm sayfasını verirsiniz
  2. 2
    ParserKodu ve çalıştırma kılavuzunu yazarız
  3. 3
    ÇalıştırmaÇalıştırır ve en son bölümleri siteyle karşılaştırırsınız
  4. 4
    DeğişikliklerPaketiniz kapsamında değişiklik ister, varsa hata mesajını gönderirsiniz

Sizden neler gerekiyor

Podcast'in sitesi ve bölüm listesine bir bağlantı ya da açık RSS feed adresi, bir bölüm sayfası ve yaklaşık kaç bölüm olduğu. Tablonuzdaki sırayla alanlar, ör. numara, sezon, başlık, tarih, süre, açıklama, etiketler, bölüm bağlantısı, ses bağlantısı. Tarayıcınızdan kaydedilmiş (Dosya > Sayfayı farklı kaydet) bu sayfalardan bir ya da ikisi veya ekran görüntüleri. CSV, Excel ya da JSON.

Size soracaklarımız:

  • Hangi podcast?
  • İhtiyacınız olan alanlar
  • Yaklaşık kaç bölüm?
  • Sonuç dosyası

Paketleri karşılaştırın

PaketlerTemelTek bir listeden bölümler$21StandartListe ve bölüm sayfaları$41PremiumEn fazla 3 podcast$74
Teslim süresi1 gün2 gün3 gün
Revizyonlar123
Siteler11en fazla 3
Sayfa türleri12 (bölüm listesi ve bölüm sayfası)en fazla 3
Alanlaren fazla 10en fazla 25her birinde en fazla 25
Bir listenin sayfalarında gezinirHayırEvetEvet
Sonuç dosyasıCSVExcel ya da CSVExcel, CSV ya da JSON
Tekrarlar temizlenir, kaldığı yerden devam ederHayırHayırEvet
Sipariş ver TemelSipariş ver StandartSipariş ver Premium

Ödeme koruması

Sipariş verirken ödersiniz, ancak para yalnızca onaylanan iş için aktarılır.

  • Sabit fiyatPaket fiyatı, ödeme yaptıktan sonra değişmez.
  • Para bloke edilirÖdeme yaptığınızda tutar yalnızca bloke edilir. İşi onayladığınızda hizmete aktarılır.
  • Teslimattan önce kontrolHer sonuç size ulaşmadan önce kalite kontrolünden geçer ve onaylamadan önce sipariş sayfasında görürsünüz.
  • Ücretsiz revizyonlarBrifiniz kapsamında, paketin izin verdiği sayıda değişiklik isteyin.
  • 3 gün sonra onayTeslimattan sonraki 3 gün içinde işi onaylamaz veya değişiklik istemezseniz iş otomatik olarak onaylanır. Teslimattan sonra sipariş sohbetine yazarsanız sipariş bekletilir; yanıt verdikten sonra 3 günlük süreyi yeniden başlatabiliriz ve bunu sohbette bildiririz.
  • Yeniden yapım veya tam iadeSonuç brifinize uymuyorsa ve revizyonlar sorunu çözmediyse ya da iş teslim süresinin iki katından uzun sürerse sipariş sohbetine yazın: işi yeniden yaparız veya ödemenin tamamını iade ederiz.
Nasıl çalışır →

Sorular ve yanıtlar

Ses dosyalarını indirebilir mi?

Hayır. Bölümler yapımcılarına aittir; bu yüzden parser dosyaları değil, sese giden bağlantıları kaydeder.

Sayfalar yerine RSS feed'ini okuyabilir mi?

Evet, feed herkese açık bir adreste açıksa. Tek bir sayfa türü sayılır ve tarihleri ve süreleri çoğu zaman siteden daha düzenli verir.

Dinleme uygulamalarındaki ya da sosyal ağlardaki podcast'leri okuyabilir mi?

Hayır. Hesap gerektiren uygulamalar, sosyal ağlar, Google, Amazon ve LinkedIn kapsam dışıdır. Koşullarının izin verdiğine siz karar verdiğiniz sürece programın kendi açık sitesi ya da feed'i olur.

Bölüm notları ya da transkript yazabilir mi?

Hayır. Sayfalarda zaten yazılı olanı toplar; bölümleri dinlemez ya da metin yazmaz. Site düzenini sonradan değiştirirse parser'ın güncellenmesi gerekir.

Yanıtınızı bulamadınız mı?

Paketler